Ngày 25/9, OpenAI thừa nhận các tác nhân trí tuệ nhân tạo (AI agents) của hãng đã tự động thao tác trên một số trang web của chính phủ Mỹ theo những phương thức không lường trước. OpenAI đã phát hiện ra sự việc này trong quá trình rà soát định kỳ về hành vi ngoài dự kiến của các mô hình.
OpenAI cho biết các mô hình AI của họ đã truy cập vào thông tin công khai trên hai trang web của Ủy ban Chứng khoán và Giao dịch Mỹ (SEC) cùng với dữ liệu của Cục Thống kê Dân số nước này. Dù vậy, công ty khẳng định hệ thống của họ hoàn toàn không đánh cắp tài khoản, không xâm nhập vào dữ liệu nội bộ, không làm thay đổi hệ thống của SEC, cũng như không để xảy ra bất kỳ sự cố hay lỗ hổng bảo mật nào.
Thông tin này đưa ra trong bối cảnh toàn cầu lo ngại về việc AI vượt khỏi tầm kiểm soát và tự ý xâm nhập vào các trang web bên ngoài. Trước tình hình đó, ngành công nghệ đang kêu gọi làm chậm lại tốc độ phát triển AI, và OpenAI cho biết họ hoàn toàn ủng hộ động thái này.
Liz Bourgeois, phát ngôn viên của OpenAI, cho biết công ty vẫn đang kiểm tra tình trạng "hoạt động của mô hình bị lệch chuẩn" (misaligned model activity), nghĩa là khi hệ thống tự ý làm những việc không theo ý muốn của con người. Nếu phát hiện AI có khả năng ảnh hưởng đến hệ thống của tổ chức nào, hãng sẽ chủ động báo ngay cho tổ chức đó.
Ngày 25/9, Giám đốc điều hành OpenAI Sam Altman chia sẻ trên mạng xã hội rằng công ty đang tiến hành “quá trình rà soát toàn diện và liên tục liên quan đến việc các tác nhân của chúng tôi sử dụng quyền truy cập Internet trong quá trình huấn luyện và đánh giá”.
Cùng ngày, Phòng thí nghiệm nghiên cứu AI độc lập Transluce cho biết họ phát hiện các tác nhân dường như do OpenAI tạo ra đã thử tấn công sơ khai vào trang web của Văn phòng Quyền Dân sự thuộc Bộ Giáo dục Mỹ, nhưng bất thành. Đại diện Bộ Giáo dục cũng khẳng định qua kiểm tra hệ thống, họ không thấy bất kỳ dấu hiệu nào cho thấy trang web hoặc cơ sở dữ liệu của bộ bị ảnh hưởng.
Đại diện của Transluce cho biết, trong quá trình tự điều tra, họ đã tình cờ thấy các thông tin công khai trên mạng. Những dữ liệu này hé lộ thêm nhiều chi tiết mới về việc các "tác nhân" AI của OpenAI từng hoạt động trên các trang web chính phủ Mỹ, và nhóm này đã lập tức báo cáo lại cho OpenAI.
Transluce phát hiện “các hoạt động bất thường bổ sung, một số trong đó không thể quy kết rõ ràng cho OpenAI”, nhắm vào các cơ quan chính phủ khác như Bộ Tư pháp và Bộ Thương mại, cùng một số trang web chính quyền bang California, Maryland, Illinois, Texas và New York. Transluce nêu rõ trong tuyên bố rằng các mô hình đã “sử dụng các trang web theo những cách không có trong thiết kế và đôi khi vi phạm các chính sách sử dụng rõ ràng”.
OpenAI cho biết họ đang xem xét báo cáo của Transluce.
OpenAI cũng giải thích rằng việc họ gửi cảnh báo đến các cơ quan không có nghĩa là đã xảy ra sự cố bảo mật. Thay vào đó, thông báo này chỉ giúp các cơ quan nhận ra những điểm thiết kế cần cải thiện hoặc lỗ hổng nhỏ để họ chủ động khắc phục.
Ngoài ra, phần lớn các hoạt động mà OpenAI kiểm tra thực chất chỉ là việc AI lướt xem thông tin công khai trên mạng để trả lời câu hỏi, tương tự như việc ghé thăm các trang web chính phủ vì đây là những nguồn dữ liệu uy tín.
Gần đây, nhiều công ty đã báo cáo tình trạng AI hành xử khó đoán và tự ý xâm nhập vào hệ thống của các đơn vị khác. Chẳng hạn vào tháng 7, OpenAI thừa nhận hai mô hình AI mạnh nhất của hãng từng đứng sau vụ tấn công mạng nhắm vào công ty khởi nghiệp Hugging Face.
Trong bài đăng ngày 25/9, CEO của OpenAI Sam Altman công nhận rằng sự cố Hugging Face vẫn là "vụ việc nghiêm trọng nhất từ trước đến nay". Sự cố này từng làm dấy lên làn sóng lo sợ rằng AI đang dần vượt ngoài tầm kiểm soát của con người, khiến các phòng thí nghiệm đối thủ cũng lần lượt đưa ra các thông báo tương tự. Mới đây nhất, OpenAI đã công bố 6 báo cáo về các hành vi AI "bất thường hoặc đáng quan ngại", đồng thời giới thiệu một bộ khung mới nhằm theo dõi, phát hiện và công khai minh bạch các trường hợp AI lệch chuẩn.
