Trách nhiệm tổ chức, cá nhân trong quản lý hệ thống trí tuệ nhân tạo

Tại dự thảo Luật Chuyển đổi số, Bộ Khoa học và Công nghệ đề xuất quy định về trách nhiệm của cơ quan, tổ chức, cá nhân trong quản lý hệ thống trí tuệ nhân tạo.

Cơ quan, đơn vị sử dụng trí tuệ nhân tạo có trách nhiệm giám sát, xử lý vi phạm trong quá trình triển khai và sử dụng trí tuệ nhân tạo trong phạm vi quản lý.

Theo dự thảo, cán bộ, công chức, viên chức và người lao động trong cơ quan nhà nước khi sử dụng hệ thống trí tuệ nhân tạo, bao gồm mô hình ngôn ngữ lớn, phải tuân thủ pháp luật Việt Nam, đảm bảo an toàn, bảo mật và tôn trọng quyền con người.

Việc sử dụng trí tuệ nhân tạo trong hoạt động công vụ phải phù hợp với thuần phong mỹ tục, đạo đức xã hội, và không gây ảnh hưởng tiêu cực đến uy tín, hoạt động của cơ quan, tổ chức.

Cung cấp thông tin và sử dụng tài khoản trí tuệ nhân tạo

Dự thảo nêu rõ, thông tin cung cấp cho hệ thống trí tuệ nhân tạo phải được kiểm soát, đảm bảo không vi phạm quyền sở hữu trí tuệ, bản quyền, chủ quyền lãnh thổ, hoặc các giá trị lịch sử, văn hóa của Việt Nam.

Việc sử dụng tài khoản trí tuệ nhân tạo phải độc lập với tài khoản công vụ và không sử dụng các mật khẩu trùng lặp nhằm đảm bảo an toàn thông tin.

Trách nhiệm của cơ quan, tổ chức, cá nhân trong quản lý hệ thống trí tuệ nhân tạo

Cơ quan, đơn vị sử dụng trí tuệ nhân tạo có trách nhiệm tổ chức đào tạo, hướng dẫn cán bộ sử dụng đúng chức năng, mục đích; bảo đảm quản lý truy cập, phân quyền và bảo mật tài khoản; trường hợp phát hiện mất kiểm soát hoặc giả mạo tài khoản trí tuệ nhân tạo, cần phải thông báo kịp thời đến đơn vị triển khai để xử lý và báo cáo lên cơ quan chức năng.

Cơ quan, đơn vị sử dụng trí tuệ nhân tạo có trách nhiệm giám sát, xử lý vi phạm trong quá trình triển khai và sử dụng trí tuệ nhân tạo trong phạm vi quản lý.

Các cơ quan, đơn vị cần xây dựng cơ sở dữ liệu tri thức chuyên ngành để triển khai hệ thống trí tuệ nhân tạo phù hợp với nghiệp vụ của mình.

Cá nhân sử dụng trí tuệ nhân tạo trong công vụ phải tự chịu trách nhiệm về hành vi và nội dung cung cấp lên hệ thống.

Phát triển, ứng dụng trí tuệ nhân tạo trong cơ quan nhà nước

Nhà nước ưu tiên nguồn lực đầu tư xây dựng các bộ dữ liệu lớn, chất lượng của Việt Nam, đặc biệt là dữ liệu cho việc huấn luyện các mô hình ngôn ngữ lớn tiếng Việt và các mô hình trí tuệ nhân tạo chuyên ngành phục vụ quản trị quốc gia.

Nhà nước quy định các yêu cầu đối với các hệ thống trí tuệ nhân tạo được sử dụng trong các cơ quan thuộc hệ thống chính trị.

Bộ Khoa học và công nghệ đang lấy ý kiến đối với dự thảo này trên Cổng TTĐT của Bộ.