Phát huy vai trò con người và AI trong xây dựng môi trường số an toàn

Sự phát triển của AI đang làm thay đổi cách nhận diện và ứng phó với các nguy cơ trên không gian mạng, từ deepfake, tin giả, lừa đảo trực tuyến đến rò rỉ dữ liệu. Tại AI4CRIS 2026, các chuyên gia cho rằng cùng với việc khai thác AI như một công cụ phòng vệ, cần đặc biệt chú trọng năng lực nhận diện, tư duy phản biện và trách nhiệm của người sử dụng.

Trong khuôn khổ Hội thảo khoa học quốc gia “Trí tuệ nhân tạo cho mật mã và an toàn thông tin - AI4CRIS 2026” diễn ra ngày 14/8 tại Hà Nội, phiên chuyên môn “AI an toàn và giáo dục đào tạo” tập trung vào một vấn đề ngày càng cấp thiết: làm thế nào để con người có thể khai thác những lợi ích của AI mà không trở thành điểm yếu trong bảo đảm an toàn thông tin.

Các tham luận tại phiên chuyên môn tiếp cận vấn đề từ nhiều góc độ, từ nhận diện nguy cơ trong giáo dục, đào tạo kỹ năng an toàn số cho sinh viên ngành ngôn ngữ đến sử dụng AI để phát hiện tấn công mạng, lừa đảo và thông tin giả. Điểm chung được các diễn giả nhấn mạnh là AI có thể trở thành công cụ bảo vệ hiệu quả, nhưng công nghệ chỉ phát huy tác dụng khi đi cùng năng lực và trách nhiệm của con người.

Th.S Vũ Thị Đào - Học viện Kỹ thuật Mật mã, Ban cơ yếu Chính phủ chủ trì phiên tọa đàm "AI an toàn và Giáo dục Đào tạo".

Giáo dục an toàn trong thời đại AI: Hình thành năng lực số và trách nhiệm thông tin 

Mở đầu phiên chuyên môn, ThS. GVC Nguyễn Thị Thu Hương trình bày tham luận “Phát huy vai trò của đội ngũ giảng viên lý luận chính trị trong việc nhận diện các nguy cơ mất an toàn thông tin thời kỳ trí tuệ nhân tạo”.

Theo bà, sự phát triển nhanh của AI tạo sinh đang làm thay đổi đáng kể diện mạo của các nguy cơ mất an toàn thông tin. Nếu như trước đây việc giả mạo hình ảnh, âm thanh hay video đòi hỏi công cụ và kỹ thuật phức tạp, thì hiện nay AI đang khiến quá trình này trở nên dễ dàng và nhanh chóng. Từ đó, người sử dụng không thể tiếp tục đồng nhất “nhìn thấy” với “sự thật”, hay “nghe thấy” với việc một người thực sự đã nói điều đó.

ThS. GVC Nguyễn Thị Thu Hương trình bày tham luận tại phiên chuyên môn.

Tham luận đã nhận diện được bốn nhóm nguy cơ nổi bật gồm deepfake và giả mạo hình ảnh, âm thanh; thao túng tâm lý xã hội thông qua thuật toán cá nhân hóa và “buồng vang thông tin”; phát tán thông tin sai lệch bằng AI; và nguy cơ mất an toàn dữ liệu khi người dùng đưa tài liệu nội bộ, dữ liệu cá nhân hoặc các tài liệu chưa công bố vào những ứng dụng AI công cộng.

Trước những nguy cơ này, bà Hương đã nhấn mạnh an toàn thông tin không còn chỉ là câu chuyện của công nghệ, hệ thống kỹ thuật hay các chuyên gia an ninh mạng, mà trước hết còn là vấn đề về nhận thức, năng lực kiểm chứng và trách nhiệm của con người.

Từ đó, vai trò của giảng viên lý luận chính trị được đặt trong một cách tiếp cận rộng hơn. Giảng viên không thay thế lực lượng chuyên trách về kỹ thuật, nhưng có lợi thế trong việc tác động trực tiếp đến nhận thức, phương pháp tư duy, bản lĩnh và hành vi của người học. Vai trò này thể hiện ở ba phương diện: hình thành phương pháp luận khoa học để người học biết đặt câu hỏi về nguồn tin, người phát tán, mục đích và bằng chứng; củng cố bản lĩnh chính trị gắn với năng lực số và niềm tin khoa học; đồng thời xây dựng cách ứng xử có trách nhiệm trên không gian mạng.

Sinh viên ngành ngôn ngữ cần một “bộ lọc an ninh” mới 

Từ vai trò của người giảng viên, vấn đề an toàn thông tin được mở rộng sang một nhóm đối tượng có những đặc thù riêng: sinh viên ngành ngôn ngữ. Trong tham luận “Tích hợp giáo dục nhận thức về an toàn thông tin và rủi ro trí tuệ nhân tạo trong chương trình đào tạo cử nhân ngành Ngôn ngữ nhằm bảo vệ không gian số giáo dục đại học”, ThS. Thân Văn Thanh, Giảng viên khoa ngoại ngữ, Học viện Báo chí và Tuyên truyền, cho rằng nhóm sinh viên này cần được trang bị một “bộ lọc an ninh” phù hợp với đặc thù nghề nghiệp.

Theo ông Thanh, sinh viên ngành ngôn ngữ nói chung và sinh viên ngôn ngữ Anh nói riêng, những người trong tương lai có thể trở thành phiên dịch viên, nhà báo hay chuyên gia truyền thông quốc tế, được đào tạo sâu về tư duy ngôn ngữ nhưng vẫn có thể thiếu hụt kiến thức về bảo mật và an toàn số. Trong khi đó, tội phạm mạng đang có xu hướng khai thác trực tiếp những lỗ hổng trong nhận thức và hành vi của con người thông qua ngôn ngữ tự nhiên.

ThS. Thân Văn Thanh, Giảng viên khoa ngoại ngữ, Học viện Báo chí và Tuyên truyền phát biểu tại phiên chuyên môn.

Từ nghiên cứu, bốn nguy cơ đặc thù đối với người học ngành ngôn ngữ được chỉ ra gồm kỹ nghệ xã hội tinh vi do AI hỗ trợ; giả mạo danh tính bằng deepfake; rò rỉ dữ liệu nhạy cảm; và “ảo tưởng AI” khi hệ thống tạo ra những tài liệu tham khảo hoặc tri thức lịch sử, văn hóa không chính xác nhưng được trình bày với giọng điệu tự nhiên, thuyết phục.

Đặc biệt, với sinh viên ngành ngôn ngữ tại các cơ sở đào tạo báo chí, truyền thông, những nguy cơ này còn có thể tác động tới an ninh tư tưởng. AI được sử dụng trong dịch thuật có thể tạo ra những sai lệch về sắc thái chính trị, quan điểm ngoại giao hoặc nội dung thông tin nếu người sử dụng thiếu khả năng kiểm chứng và nhận thức an toàn số.

Từ đó, nhóm nghiên cứu đề xuất khung giải pháp gồm ba trụ cột: nhận thức an toàn số, kỹ năng tương tác AI an toàn, đạo đức AI và liêm chính nghề nghiệp.

Thay vì tạo thêm quá nhiều môn học khiến chương trình đào tạo bị quá tải, ông đã đề xuất lồng ghép các tình huống an toàn thông tin vào những học phần sẵn có. Chẳng hạn, các nội dung về bảo mật dữ liệu có thể được đưa vào học phần lý thuyết dịch; kỹ thuật phát hiện đạo văn, tin giả và nội dung do AI tạo ra có thể được tích hợp vào viết học thuật và phương pháp nghiên cứu khoa học. Cách tiếp cận này hướng tới việc biến an toàn thông tin từ một nội dung bổ sung thành một năng lực gắn trực tiếp với chuyên môn của sinh viên ngành ngôn ngữ.

AI không chỉ là nguồn rủi ro mà còn là công cụ bảo vệ

Ở chiều ngược lại, tham luận “Phát huy vai trò của trí tuệ nhân tạo trong xây dựng môi trường số an toàn” của TS. Nguyễn Thị Hà Thu và Đặng Huyền Linh lại tiếp cận vấn đề từ khả năng sử dụng chính AI như một công cụ phòng vệ.

Chị Đặng Huyền Linh, sinh viên chuyên ngành Tư tưởng Hồ Chí Minh, Học viện Báo chí và Tuyên truyền trình bày bài tham luận.

Theo nhóm tác giả, AI có khả năng xử lý dữ liệu lớn, nhận diện bất thường, phân tích và dự báo nguy cơ theo thời gian thực, qua đó có thể hỗ trợ hiệu quả cho công tác bảo đảm an toàn, an ninh mạng.

Tham luận xác định năm vai trò chính của AI trong xây dựng môi trường số an toàn, gồm phát hiện và ngăn chặn tấn công mạng; phòng chống lừa đảo trực tuyến; kiểm soát và xử lý thông tin giả; bảo vệ dữ liệu cá nhân; và nâng cao nhận thức, kỹ năng sử dụng không gian mạng an toàn.

Trong phòng chống tấn công mạng, AI có khả năng học hỏi từ dữ liệu thực tế, liên tục cập nhật các mô hình nhận diện và hỗ trợ phát hiện sớm các mối đe dọa. Trong phòng chống lừa đảo, AI có thể hỗ trợ nhận diện các dấu hiệu bất thường trong hình ảnh, giọng nói, video, website hay tin nhắn. Với vấn đề thông tin giả, công nghệ có thể hỗ trợ phát hiện và xử lý các nội dung vi phạm, góp phần nâng cao hiệu quả quản lý không gian mạng.

Tuy nhiên, tham luận cũng nhấn mạnh mối quan hệ hai chiều giữa AI và an toàn thông tin. Công nghệ có thể trở thành công cụ bảo vệ, nhưng đồng thời cũng có thể bị lợi dụng để tạo thông tin giả, nội dung giả mạo, tự động hóa tấn công mạng hoặc thực hiện các hành vi vi phạm pháp luật.

Các tham luận tại phiên chuyên môn cho thấy AI đang tạo ra cả những nguy cơ mới lẫn những công cụ mới để bảo vệ môi trường số. Tuy nhiên, công nghệ chỉ thực sự phát huy hiệu quả khi được đặt trong một hệ thống gồm năng lực số, tư duy phản biện và trách nhiệm của con người. Đây cũng là nền tảng để AI được ứng dụng an toàn và hiệu quả hơn trong giáo dục, đào tạo và đời sống số.