Thực hiện chương trình Phiên họp thứ 51, tối ngày 17/11, dưới sự chủ trì của Chủ tịch Quốc hội Trần Thanh Mẫn và sự điều hành của Phó Chủ tịch Quốc hội Lê Minh Hoan, Ủy ban Thường vụ Quốc hội cho ý kiến về dự án Luật AI.
Toàn cảnh Phiên họp.
Trình Ủy ban Thường vụ Quốc hội dự án Luật AI, Bộ trưởng Bộ Khoa học và Công nghệ (KH&CN) Nguyễn Mạnh Hùng cho biết, Dự án Luật lần đầu xác lập khái niệm "hệ thống AI có rủi ro không chấp nhận được".
Theo Bộ trưởng Nguyễn Mạnh Hùng, "hệ thống AI có rủi ro không chấp nhận được" là các hệ thống có khả năng gây tổn hại nghiêm trọng, không thể khắc phục đối với quyền con người, an ninh quốc gia, trật tự xã hội hoặc được thiết kế để phục vụ hành vi bị pháp luật cấm. Với mức độ nguy hiểm vượt kiểm soát, nhóm hệ thống này sẽ bị cấm phát triển, cung cấp, triển khai và sử dụng dưới mọi hình thức tại Việt Nam.
Dự thảo chỉ rõ những dấu hiệu nhận biết gồm: Hệ thống được thiết kế phục vụ hành vi bị cấm; sử dụng yếu tố giả mạo hoặc mô phỏng người, sự kiện thật nhằm lừa dối, thao túng nhận thức và hành vi có chủ đích, gây tổn hại nghiêm trọng đến quyền lợi người dùng; lợi dụng điểm yếu của nhóm dễ tổn thương; tạo hoặc lan truyền nội dung giả mạo có nguy cơ cao đối với an ninh quốc gia, trật tự, an toàn xã hội.
Theo tờ trình, sự phát triển vượt tốc của AI đang kéo theo những rủi ro an ninh mới. Đặc biệt, deepfake được cảnh báo là công cụ có thể bị khai thác để tạo tin giả, vu khống, lừa đảo, làm xói mòn niềm tin công chúng và gây bất ổn xã hội. Các hệ thống vũ khí tự động sử dụng AI cũng đặt ra hàng loạt thách thức đạo đức, pháp lý mà thế giới vẫn đang loay hoay tìm lời giải. Trong khi đó, pháp luật hiện hành chưa theo kịp để kiểm soát, khiến khoảng trống quản lý ngày một lớn. Do đó, việc ban hành luật riêng về AI là yêu cầu cấp bách nhằm vừa kiểm soát rủi ro, vừa thúc đẩy nghiên cứu và ứng dụng AI tại Việt Nam.
Bộ trưởng Nguyễn Mạnh Hùng cho biết, mục tiêu của dự luật là xây dựng khung pháp lý thống nhất, bảo đảm AI phát triển an toàn, có trách nhiệm, vì con người. AI được xác định là hạ tầng trí tuệ quốc gia, là động lực của tăng trưởng năng suất, đổi mới sáng tạo và nâng cao năng lực tự chủ công nghệ, cạnh tranh quốc gia.
Bộ trưởng Bộ KH&CN Nguyễn Mạnh Hùng phát biểu tại Phiên họp.
Dự thảo Luật AI gồm 8 chương, 36 điều; nhấn mạnh chính sách phát triển AI lấy con người làm trung tâm, làm rõ vai trò quản lý và kiến tạo của Nhà nước. Luật thiết lập cơ chế quản lý theo mức độ rủi ro, bảo đảm việc ứng dụng AI minh bạch, an toàn, có kiểm soát và trách nhiệm giải trình; bảo vệ an ninh, an toàn, chủ quyền dữ liệu và quyền dự trữ công nghệ quốc gia.
Dự thảo Luật cũng yêu cầu hệ thống AI phải không gây hại, không thiên lệch, tôn trọng giá trị nhân văn; có cơ chế giám sát, thanh tra, xử lý vi phạm nhằm bảo đảm răn đe và củng cố niềm tin xã hội. Chính phủ sẽ thúc đẩy hệ sinh thái đổi mới sáng tạo và phát triển nhân lực chất lượng cao thông qua cơ chế hỗ trợ nghiên cứu, đầu tư, đào tạo cho viện nghiên cứu, doanh nghiệp và cá nhân tham gia phát triển AI.
Ủy ban Khoa học, Công nghệ và Môi trường của Quốc hội cơ bản đồng tình với chính sách của dự thảo, tuy nhiên cũng đề nghị làm rõ tiêu chí định lượng hoặc định tính để phân loại AI theo mức độ rủi ro. Cơ quan thẩm tra đề xuất bổ sung hành vi cấm nhằm tăng tính răn đe và thống nhất trong áp dụng pháp luật, như cấm sử dụng AI tạo deepfake để lừa đảo, xúc phạm nhân phẩm, gây rối chính trị, thao túng bầu cử hoặc xâm phạm an ninh quốc gia.
Theo kế hoạch, Chính phủ sẽ trình Quốc hội dự án Luật AI vào ngày 21/11; các đại biểu sẽ thảo luận tại hội trường ngày 27/11. Dự thảo Luật được kỳ vọng sẽ trở thành "hệ điều hành pháp lý" cho sự phát triển của AI tại Việt Nam, vừa mở đường cho đổi mới sáng tạo, vừa đặt ra những giới hạn cần thiết để bảo vệ con người trước thế hệ công nghệ mới.
