Hacker có thể lấy thông tin tuyệt mật của công ty thông qua ‘tâm sự’ với chatbot AI

Theo chuyên gia công nghệ, thông qua việc dùng hàng loạt prompt tinh vi, hacker có thể xâm nhập cơ sở dữ liệu 'mật' của doanh nghiệp mà không bị phát hiện.

Trí tuệ nhân tạo (AI) mang lại nhiều giá trị, đặc biệt hiện nay được nhiều doanh nghiệp tích hợp để phục vụ những người dùng cuối như nhân viên công ty, khách hàng… Cũng chính từ đây, hệ thống chatbot tích hợp AI có thể trở thành "khe cửa hẹp" giúp hacker tấn công lấy cắp thông tin trên hệ thống lưu trữ dữ liệu.

"Hiện nay có nhiều phương thức tấn công các mô hình AI, trong đó phổ biến là dạng 'đầu độc nội dung', loại hình này dường như 'vô hình' trước những hệ thống bảo vệ thông tin truyền thống", ông Đào Việt Hùng, giám đốc quốc gia Akamai Technologies Việt Nam, cảnh báo tại sự kiện OpenInfra & Cloud Native Day Vietnam 2025 diễn ra vào ngày 26-7 tại Hà Nội.

Sự kiện do Hiệp hội Internet Việt Nam (VIA) phối hợp Vietnam Open Infrastructure Community (VietOpenInfra), Câu lạc bộ Điện toán đám mây và Trung tâm Dữ liệu Việt Nam (VNCDC) tổ chức, với sự ủng hộ của Bộ Khoa học và Công nghệ.

90% doanh nghiệp đang sử dụng nền tảng hay phần mềm mở

Phát biểu khai mạc, ông Vũ Thế Bình - phó chủ tịch kiêm tổng thư ký Hiệp hội Internet Việt Nam - nhấn mạnh tầm quan trọng của hạ tầng mở và mã nguồn mở trong tiến trình chuyển đổi số quốc gia.

Trong bối cảnh công nghệ toàn cầu đang có những thay đổi nhanh chóng, ông Bình cho biết hạ tầng mở tiếp tục phát triển để làm nền tảng cho đổi mới sáng tạo khi hơn 90% doanh nghiệp đang sử dụng nền tảng hay phần mềm mở dưới nhiều hình thức.

Theo khảo sát của Red Hat (2024), 82% nhà lãnh đạo công nghệ xem nền tảng, phần mềm mở là chìa khóa để thúc đẩy chuyển đổi số và tăng tốc đổi mới. Các nền tảng như Kubernetes, OpenStack, Linux, Ceph, OpenTelemetry ngày càng đóng vai trò quan trọng trong vận hành hệ thống AI, IoT, 5G/6G cũng như Cloud Native.

"10 năm trước, cloud (đám mây) có thể bị nhầm là đám mây trên trời, còn open source nghe như một 'bí kíp võ công'. Nhưng hôm nay, chúng ta đang ở đây, kết nối với cộng đồng Open Infrastructure (hạ tầng mở) toàn cầu tại hơn 180 quốc gia, cùng nhau biến những dòng code thành động lực cho sự đổi mới", ông Vũ Thế Bình chia sẻ.

Chatbot AI - "khe cửa hẹp" cho hacker xâm nhập hệ thống

"Hiện nhiều doanh nghiệp ứng dụng mạnh mẽ những hiệu quả từ các nền tảng mở, nhạy bén tích hợp hệ thống như chatbot AI giúp cải thiện hiệu năng công việc và tăng trải nghiệm người dùng.

Cũng chính từ đây, nhiều phương thức tấn công về các model AI, trong đó có những cuộc tấn công theo dạng "đầu độc nội dung", ông Đào Việt Hùng, giám đốc quốc gia Akamai Technologies Việt Nam, cảnh báo.

Ông nhận định các doanh nghiệp Việt khi triển khai AI vẫn chưa biết nhiều về hình thức tấn công này.

Theo đó, đối tượng xấu dùng cách liên tục hỏi và dạy lại mô hình AI những thông tin sai lệch gây "nhiễm độc" thông tin.

Nếu thông tin trên hệ thống cloud đã bị "nhiễm độc" vẫn chưa bị phát hiện và được tiếp tục sử dụng sẽ đưa ra những thông tin không chính xác hoặc sử dụng lỗ hổng này để lách vào cơ sở dữ liệu với mục đích lấy thông tin.

Ông Đào Việt Hùng dẫn chứng đã có những câu chuyện hy hữu, khi hệ thống chatbot bán hàng online của một hãng ô tô bị thuyết phục để bán một chiếc xe mới với giá chỉ 1 đô la.

Nguyên nhân là do trong quá trình trao đổi, thỏa thuận với chatbot, khách hàng này đã tìm cách "lách" được vào cơ sở dữ liệu và thuyết phục chatbot đó đồng ý với yêu cầu trên.

Một dẫn chứng khác khi hacker đã thành công lấy được tất cả tài liệu mật, sơ đồ tổ chức của công ty chỉ bằng cách soạn những câu hỏi phù hợp gửi đến chatbot AI nội bộ.

Từ rủi ro đó, ông Đào Việt Hùng chia sẻ giải pháp AI security để chính AI bảo vệ AI, đây là hình thức được nhiều doanh nghiệp lớn trên thế giới sử dụng.

Với phương thức bảo mật này, những dữ liệu được lưu trữ tích hợp nhiều lớp bảo vệ, nhờ đó khó bị "nhiễm độc".

Hệ thống AI security phát hiện được đâu là những thông tin sạch, đâu là những thông tin tiềm ẩn nguy cơ tấn công, từ đó sẽ có phương án xử lý nhanh chóng và thích hợp...