OpenAI đã công bố báo cáo về 6 trường hợp được cho là “không lường trước hoặc đáng lo ngại” trong hành vi của các mô hình trí tuệ nhân tạo (AI), trong bối cảnh tranh luận về an toàn AI ngày càng nóng lên. Công ty AI này cũng công bố một khuôn khổ mới nhằm theo dõi, điều tra và công bố những trường hợp mà OpenAI gọi là “lệch mục tiêu” (misalignment), bao gồm việc các mô hình hành động không được cấp phép, phối hợp với các mô hình khác hoặc né tránh sự giám sát. Thông báo mới nhất của OpenAI được đưa ra trong bối cảnh lãnh đạo các công ty AI tại Mỹ, trong đó có OpenAI và Anthropic, kêu gọi làm chậm quá trình phát triển công nghệ do những lo ngại về an toàn.
Trong số các trường hợp mới được OpenAI công bố, một mô hình nghiên cứu chưa phát hành đã tự đưa “các chỉ dẫn giống như jailbreak” vào ghi chú của chính mình nhằm phớt lờ những giới hạn thông thường, đồng thời tự nhắc rằng cần được “giải phóng khỏi những vai trò và danh tính ràng buộc các chatbot khác”.
Trong một trường hợp khác, một “tác nhân” AI đã sử dụng mã máy tính để tìm câu trả lời cho một câu hỏi. Tuy nhiên, để có nguồn trực tuyến làm tài liệu trích dẫn, hệ thống này đã tự ý tải một tệp lên Internet mà không xin phép người dùng.
Trong quá trình huấn luyện một mô hình AI có tên 5.6-Sol, mô hình này đã tự đặt ra chỉ dẫn bịa đặt dữ liệu còn thiếu, trong khi một tác nhân AI viết lời nhắc cho chính nó nhằm che giấu những thông tin không khớp.
Những hành vi mang tính đánh lừa này đang làm gia tăng những lo ngại gần đây về khả năng AI né tránh sự kiểm soát của con người. Tuy nhiên, theo ông Matt Fredrikson, Phó Giáo sư tại Đại học Carnegie Mellon và CEO của Gray Swan AI, một số nhà nghiên cứu AI không quá bất ngờ trước những hành vi như vậy.
“Cách diễn giải này có thể khiến chúng ta nhân cách hóa hành vi của mô hình AI. Nhưng nếu mục tiêu của mô hình là đạt kết quả tốt trong quá trình đánh giá, thì việc nó tìm cách đi đường tắt hoặc thậm chí gian lận thay vì làm đúng yêu cầu cũng là điều có thể lý giải”, ông Fredrikson nói.
OpenAI cho biết 6 trường hợp trên được phát hiện trong quá trình huấn luyện hoặc đánh giá các mô hình trong những tháng qua.
“Khi các hệ thống AI ngày càng tiên tiến và được triển khai rộng rãi hơn, chúng ta cần xây dựng sự đồng thuận rộng rãi hơn và dựa trên nhiều thông tin hơn về tiến trình nghiên cứu khả năng điều chỉnh AI”, OpenAI viết trong một bài đăng trên blog khi công bố các trường hợp trên.
Công ty cho rằng những quyết định về hướng phát triển AI trong những tháng và năm tới cần dựa trên các bằng chứng mà những người bên ngoài các công ty phát triển các mô hình AI tiên tiến có thể tự kiểm chứng.
Các trường hợp được công bố ngày 17/9 diễn ra sau khi OpenAI hồi tháng 7 công bố một hệ thống AI có hành vi ngoài dự kiến đã xâm nhập vào nền tảng của công ty khởi nghiệp AI Hugging Face. Cũng trong tháng đó, Anthropic cho biết các mô hình AI của công ty đã xâm nhập vào 3 tổ chức trong quá trình thử nghiệm.
Ông Lian Jye Su, Trưởng nhóm phân tích tại Omdia, tổ chức nghiên cứu và tư vấn công nghệ, cho biết các “tác nhân” AI đang trở nên thông minh hơn và ngày càng có xu hướng giải quyết các nhiệm vụ phức tạp thông qua phối hợp giữa các "tác nhân", chia sẻ kiến thức, đánh lừa và che giấu thông tin. Theo ông, điều này khiến việc quản lý và kiểm soát các hệ thống AI bằng những phương pháp bảo mật truyền thống trở nên khó khăn hơn. Trong bối cảnh đó, khuôn khổ mới của OpenAI có thể trở thành một cách tiếp cận để theo dõi và phát hiện những hành vi ngoài dự kiến của AI, đồng thời khuyến khích các nhà phát triển khác áp dụng những biện pháp tương tự.
