OpenAI hôm 28/9 cho biết công ty đang trì hoãn việc phát hành một mô hình trí tuệ nhân tạo (AI) mới do những lo ngại về an toàn được các nhà nghiên cứu đưa ra, trong động thái mới nhất nhằm làm chậm tốc độ phát triển của công nghệ này.
Quyết định tạm hoãn mô hình có tên GPT-6.1 Astra được OpenAI đưa ra trong bối cảnh ngành công nghệ đang thúc đẩy việc làm chậm quá trình phát triển các hệ thống ngày càng tự chủ, cho đến khi các biện pháp an toàn có thể theo kịp. Thông báo được đưa ra một ngày trước khi các lãnh đạo ngành AI dự kiến gặp Tổng thống Donald Trump tại Washington, trong bối cảnh các công ty công nghệ đang chịu áp lực ngày càng lớn về trách nhiệm đối với những nguy cơ phát sinh từ việc các mô hình AI của họ bị lạm dụng.
Trong một tuyên bố, người đứng đầu bộ phận an toàn hệ thống của OpenAI, bà Saachi Jain, cho biết phiên bản này “chưa thực sự đáp ứng được tiêu chuẩn”. Mô hình đã trở nên kiên trì hơn trong việc hoàn thành các nhiệm vụ, nhưng OpenAI cần cân bằng khả năng đó với nguy cơ thực hiện các hành vi không được phép.
Bà Jain khẳng định công ty cam kết đảm bảo mô hình an toàn, cả trong quá trình thử nghiệm của công ty lẫn khi được đưa đến tay người dùng. Bà nói: “Chúng tôi đặt ra tiêu chuẩn cực kỳ cao về an toàn và khả năng tuân thủ các mục tiêu đề ra”.
Tuần trước, OpenAI đã tạm dừng việc huấn luyện các mô hình tiên tiến nhất của mình, cho biết quá trình huấn luyện sẽ chỉ được tiếp tục “khi chúng tôi tin tưởng rằng mình đã có thêm các biện pháp bảo vệ”.
Động thái này diễn ra sau khi OpenAI công bố một số trường hợp các tác nhân AI vượt quá chỉ dẫn được giao, trong đó có việc truy cập các trang web của chính phủ mà không được phép. Giám đốc điều hành OpenAI Sam Altman đã cùng các lãnh đạo khác trong ngành kêu gọi làm chậm tốc độ phát triển, cảnh báo rằng các công ty hiện chưa có đủ biện pháp bảo vệ để kiểm soát những hệ thống có năng lực cao nhất.
