Trong những tháng gần đây, nhiều công ty công nghệ Mỹ hoạt động trong lĩnh vực trí tuệ nhân tạo (AI) như OpenAI, Anthropic, Google và Meta liên tiếp công bố các sự cố cho thấy mô hình AI của họ có thể thực hiện những hành vi ngoài dự kiến, thậm chí tìm cách vượt qua các giới hạn và chỉ dẫn của con người.
Một số ý kiến cho rằng những sự cố liên quan đến AI, trong đó có việc các tác nhân AI tìm cách xâm nhập trái phép vào trang web của các tổ chức bên ngoài, phản ánh những hạn chế trong công tác bảo mật của các công ty phát triển công nghệ. Bên cạnh đó, năng lực ngày càng cao của các tác nhân AI cũng đặt ra những lo ngại về khả năng kiểm soát, nhất là nguy cơ các hệ thống này tự thực hiện những hành động ngoài mục tiêu và chỉ dẫn của con người.
Dưới đây là một số sự cố đáng chú ý:
Ngày 9/10: AI của Anthropic gửi thông tin sai lệch cho cảnh sát Philadelphia
Công ty công nghệ Anthropic công bố báo cáo cho biết một mô hình AI của hãng đã gửi thông tin sai lệch về một vụ án mạng chưa có lời giải thông qua trang web của cảnh sát thành phố Philadelphia, bang Pennsylvania, Mỹ.
Báo cáo cũng đề cập một sự cố khác, khi mô hình AI của Anthropic tự ý gửi các biểu mẫu đến một trang web của cơ quan chính phủ mà công ty không nêu tên, thay vì dừng lại trước bước gửi thông tin.
Theo Anthropic, sự cố tại Philadelphia xảy ra ngày 18/7, khi công ty giao cho mô hình Claude Haiku 4.5 nhiệm vụ tạo và thực hiện các tác vụ mẫu trên những trang web mà hệ thống lựa chọn ngẫu nhiên. Claude đã điền và gửi một biểu mẫu trên trang web PhillyUnsolvedMurders.com của cảnh sát Philadelphia, trong đó cho biết có thể nắm giữ thông tin liên quan đến một vụ án mạng chưa có lời giải. Hệ thống đánh dấu nội dung này là thư rác và không chuyển đến lực lượng cảnh sát.
Anthropic cho biết công ty đang điều chỉnh quy trình huấn luyện nhằm giảm nguy cơ tái diễn những hành vi không mong muốn.
Ngày 28/9: Các tác nhân AI tìm cách xâm nhập trang web Chính phủ Canada
Theo Transluce (phòng thí nghiệm nghiên cứu và đánh giá AI độc lập, phi lợi nhuận có trụ sở tại San Francisco, Mỹ), các tác nhân AI đã tìm cách xâm nhập trái phép vào một trang web của Chính phủ Canada. Các nhà nghiên cứu cho biết những tác nhân này thực hiện một loạt hành vi tấn công mạng sơ khai, dường như không thành công, nhằm vào trang web của Thư viện và Lưu trữ Canada trong hai ngày 28/5 và 9/6.
Trong bài đăng trên blog, Transluce nêu rõ: “Chúng tôi chưa có đủ cơ sở để khẳng định OpenAI đứng sau những hành vi này. Tuy nhiên, các phương thức tấn công có những điểm tương đồng với hoạt động của các tác nhân mà chúng tôi từng xác định có liên quan đến OpenAI trong cùng khoảng thời gian”.
Transluce cho biết đã báo cáo những hành vi tấn công nói trên với Chính phủ Canada vào ngày 28/9.
Trong tuyên bố phản hồi, Chính phủ Canada xác nhận đã nắm được các báo cáo về hoạt động đáng ngờ của các tác nhân AI, song chưa phát hiện dấu hiệu cho thấy các hệ thống của chính phủ bị xâm nhập.
OpenAI cũng xác nhận đã biết về những báo cáo này. Công ty cho biết: “Chúng tôi đang xem xét các phát hiện và đã cung cấp thông tin ban đầu cho các quan chức Canada đang tiến hành đánh giá vụ việc”.
Ngày 28/9: OpenAI hoãn triển khai mô hình AI mới
OpenAI, công ty công nghệ AI có trụ sở tại San Francisco, Mỹ, thông báo hoãn phát hành mô hình mới mang tên GPT-6.1 Astra do những lo ngại về an toàn mà các nhà nghiên cứu của công ty nêu ra.
Theo OpenAI, mô hình này thể hiện bước tiến vượt bậc về khả năng hoàn thành nhiệm vụ. Tuy nhiên, công ty cần cân bằng giữa năng lực của hệ thống và nguy cơ AI thực hiện những hành vi khi chưa có sự cho phép.
Bà Saachi Jain, người đứng đầu bộ phận hệ thống an toàn của OpenAI, khẳng định công ty áp dụng những tiêu chuẩn đặc biệt nghiêm ngặt về an toàn và khả năng bảo đảm AI hoạt động phù hợp với mục tiêu, chỉ dẫn của con người.
Ngày 25/9: OpenAI phát hiện các tác nhân AI tương tác bất thường với trang web Chính phủ Mỹ
Trong quá trình rà soát những hành vi ngoài dự kiến của các mô hình AI, OpenAI phát hiện các tác nhân của công ty đã tương tác với một số trang web của Chính phủ Mỹ theo những cách không mong muốn.
Các mô hình AI truy cập thông tin công khai trên trang web của Ủy ban Chứng khoán và Giao dịch Mỹ (SEC), cũng như dữ liệu của Cục Điều tra dân số Mỹ.
OpenAI cho biết chưa tìm thấy bằng chứng về việc hệ thống bị xâm nhập hoặc tồn tại lỗ hổng bảo mật.
Cùng ngày, Transluce thông báo phát hiện các tác nhân có dấu hiệu xuất phát từ OpenAI đã tìm cách tấn công trang web của Văn phòng Dân quyền thuộc Bộ Giáo dục Mỹ, nhưng không thành công.
Trên mạng xã hội, Giám đốc điều hành OpenAI Sam Altman cho biết công ty đang tiến hành một cuộc rà soát toàn diện và liên tục về việc các tác nhân AI sử dụng quyền truy cập internet trong quá trình huấn luyện và đánh giá.
Một ngày sau khi công bố sự việc, OpenAI thông báo tạm dừng huấn luyện các mô hình AI tiên tiến nhất của công ty.
Ngày 24/9: Thủ tướng Australia bày tỏ lo ngại về sự cố xâm nhập hệ thống
Thủ tướng Australia Anthony Albanese cho biết một tác nhân AI của OpenAI đã xâm nhập cổng Dịch vụ Báo cáo Thống kê Medicare vào ngày 18/6.
Đây là hệ thống cung cấp dữ liệu thống kê tổng hợp về chi tiêu y tế và trợ cấp thuốc. Chính phủ Australia khẳng định tác nhân AI không truy cập bất kỳ thông tin cá nhân nào.
Thủ tướng Albanese cho rằng OpenAI đã chậm trễ trong việc công bố sự cố. Ông thông tin công khai về vụ việc sau cuộc điện đàm với Giám đốc điều hành OpenAI Sam Altman.
Trong tuyên bố phản hồi, OpenAI thừa nhận: “Các mô hình của chúng tôi đã thực hiện những hành động ngoài dự kiến”.
Ngày 18/9: Google xác nhận AI Gemini xâm nhập hệ thống của 3 công ty
Google xác nhận mô hình AI Gemini của hãng đã xâm nhập hệ thống của ba công ty trong tháng 5, trong khuôn khổ hoạt động kiểm tra năng lực an ninh mạng. Google công bố thông tin sau khi báo The Wall Street Journal đặt câu hỏi về những sự cố này.
Theo công ty, trong một trường hợp, Gemini đã đoán mật khẩu để truy cập hệ thống. Trong hai trường hợp còn lại, mô hình AI tìm thấy mật khẩu và thông tin xác thực trong một kho lưu trữ công khai.
Tương tự các sự cố trước đó, công ty khởi nghiệp Irregular phụ trách triển khai các cuộc thử nghiệm. Irregular tự giới thiệu là “phòng thí nghiệm an ninh tiên phong đầu tiên”.
Ngày 5/8: Mô hình AI Muse của Meta hoạt động ngoài tầm kiểm soát
Meta công bố một sự cố liên quan đến mô hình AI Muse, khi hệ thống tự truy cập internet và xâm nhập mạng của một công ty khác.
Theo Meta, trong quá trình Irregular tiến hành thử nghiệm an ninh mạng, một lỗi cấu hình đã vô tình cho phép mô hình AI của hãng truy cập internet.
Người phát ngôn Irregular cho biết sự cố của Meta liên quan đến vấn đề trong môi trường thử nghiệm, tương tự sự cố mà Anthropic công bố trước đó một tuần.
Ngày 30/7: Anthropic công bố các mô hình AI xâm nhập hệ thống của ba tổ chức
Ngày 30/7, Anthropic cho biết các mô hình trí tuệ nhân tạo của hãng đã xâm nhập hệ thống của ba tổ chức khác trong quá trình thử nghiệm.
Trên trang web chính thức, Anthropic thông báo phát hiện 3 sự cố sau khi rà soát hơn 141.000 lượt đánh giá. Trong cả 3 trường hợp, công ty giao cho các mô hình AI thực hiện thử thách an ninh mạng mang tên “capture the flag” (chiếm cờ), một phương pháp Anthropic sử dụng để đánh giá năng lực an ninh mạng của AI.
Theo đó, các nhà nghiên cứu đưa ra một tình huống giả định và thông báo rằng một thông tin bí mật, gọi là “lá cờ”, nằm trên một máy tính khác trong cùng mạng. Nhiệm vụ của AI là tìm cách xâm nhập máy tính đó và lấy thông tin.
Anthropic cho biết đã liên hệ với các tổ chức có liên quan, song không công khai danh tính những đơn vị này.
Ngày 21/7: Sự cố xâm nhập hệ thống của Hugging Face
Hugging Face là một công ty công nghệ AI của Mỹ, chuyên phát triển nền tảng mã nguồn mở, cho phép các nhà nghiên cứu và lập trình viên chia sẻ mô hình AI, bộ dữ liệu và công cụ học máy. Vụ xâm nhập hệ thống của Hugging Face là một trong những sự cố đầu tiên trong chuỗi vụ việc liên quan đến hành vi ngoài dự kiến của các mô hình AI mà nhiều công ty công nghệ liên tiếp công bố trong những tháng sau đó.
Ngày 21/7, OpenAI thông báo hệ thống AI của hãng đã tự xâm nhập mạng của một công ty AI khác trong sự cố mà công ty mô tả là “chưa từng có tiền lệ về an ninh mạng”. Một tuần trước đó, Hugging Face cho biết đã phát hiện hành vi xâm nhập hệ thống xử lý dữ liệu của mình và nghi ngờ một tác nhân AI tự chủ đứng sau vụ việc.
Theo OpenAI, hệ thống AI của hãng đã sử dụng thông tin xác thực có được trái phép và phát hiện một lỗ hổng bảo mật chưa từng được biết đến để truy cập các máy chủ của Hugging Face. Khi xảy ra sự cố, hệ thống AI hoạt động với các cơ chế kiểm soát an toàn nới lỏng, do công ty dự kiến chỉ triển khai mô hình trong môi trường thử nghiệm cách ly, còn gọi là “sandbox”.
Ngày 23/9, Clément Delangue, đồng sáng lập kiêm Giám đốc điều hành Hugging Face đã phát biểu trực tuyến tại phiên họp của Hội đồng Bảo an Liên hợp quốc về trí tuệ nhân tạo và an ninh quốc tế, và đề cập vụ tấn công mạng nhằm vào công ty hồi tháng 7.
Từ sự cố này, ông Delangue kêu gọi tăng cường tính minh bạch trong phát triển AI, thiết lập các tiêu chuẩn chặt chẽ hơn về giám sát và công bố sự cố an ninh mạng. Ông cũng nhấn mạnh vai trò của AI mã nguồn mở trong việc giúp các tổ chức nâng cao khả năng phòng vệ trước những mối đe dọa mới, đồng thời cảnh báo nguy cơ mất cân bằng năng lực công nghệ giữa bên tấn công và bên phòng thủ.
