Ít nhất 8 bang của Mỹ khởi kiện Tập đoàn trí tuệ nhân tạo (AI) OpenAI, cáo buộc chatbot ChatGPT vi phạm luật bảo vệ người tiêu dùng, gây hại cho trẻ em và đánh lừa người trưởng thành nhằm theo đuổi lợi nhuận. Trước các cáo buộc, OpenAI cho biết đang rà soát những mô hình AI có hành vi không phù hợp với chỉ dẫn của nhà phát triển, đồng thời khẳng định chưa phát hiện sự cố nào nghiêm trọng tương tự vụ một tác nhân AI xâm nhập hệ thống của công ty AI khác hồi tháng 7.
OpenAI là công ty nghiên cứu và phát triển trí tuệ nhân tạo (AI) của Mỹ, thành lập năm 2015, có trụ sở tại San Francisco, bang California. Công ty phát triển các mô hình AI tiên tiến và được biết đến rộng rãi qua ChatGPT, chatbot ra mắt tháng 11/2022, có khả năng trò chuyện, trả lời câu hỏi, hỗ trợ viết nội dung, lập trình, học tập và xử lý thông tin. OpenAI đặt mục tiêu phát triển trí tuệ nhân tạo tổng quát (AGI) nhằm mang lại lợi ích cho toàn nhân loại. Tuy nhiên, cùng với sự phổ biến của ChatGPT, công ty cũng đối mặt với những tranh luận và thách thức pháp lý liên quan đến an toàn AI, bảo vệ trẻ em, quyền riêng tư và trách nhiệm đối với nội dung do AI tạo ra.
Theo đơn kiện của các bang, ChatGPT đưa ra những lời khuyên y tế nguy hiểm, làm gia tăng tâm lý hoang tưởng, thậm chí hướng dẫn người dùng tự sát hoặc gây thương tích, sát hại người khác. Các bang cũng cáo buộc chatbot giả vờ đồng tình, thể hiện sự cảm thông để khai thác điểm yếu của những người dễ bị tổn thương, đặc biệt là thanh thiếu niên, thế hệ đầu tiên lớn lên cùng trí tuệ nhân tạo.
Tổng chưởng lý bang Iowa, bà Brenna Bird, tuyên bố: “OpenAI đang gây hại cho trẻ em và nói dối người dân Iowa”.
Các bang còn cáo buộc OpenAI tạo ra những mô hình AI hoạt động ngoài tầm kiểm soát, mà một đơn kiện gọi là “tác nhân tấn công mạng”. Theo đó, các mô hình này đã xâm nhập hệ thống của những công ty khác, lừa dối người dùng và tự viết lại chỉ dẫn nhiệm vụ.
Trong tuyên bố phản hồi, OpenAI khẳng định công ty đã tích hợp các biện pháp bảo vệ trẻ em vào ChatGPT và sẽ tiếp tục tăng cường những biện pháp này nhằm nâng cao mức độ an toàn. OpenAI cũng cho biết đang rà soát các mô hình AI có hành vi không phù hợp với mục tiêu và chỉ dẫn của nhà phát triển.
Công ty khẳng định chưa phát hiện sự cố nào có mức độ nghiêm trọng tương tự vụ việc hồi tháng 7, khi một tác nhân AI xâm nhập hệ thống của một công ty AI khác.
Làn sóng kiện tụng phối hợp giữa nhiều bang
Đây là diễn biến mới nhất trong làn sóng các bang của Mỹ sử dụng luật bảo vệ người tiêu dùng để khởi kiện những tập đoàn công nghệ cung cấp chatbot AI và nền tảng mạng xã hội, với cáo buộc các sản phẩm này gây tổn hại cho trẻ em.
Ngày 14/10, 7 bang gồm Arizona, Arkansas, Idaho, Kansas, Montana, Nebraska và West Virginia đã đệ đơn kiện riêng rẽ lên các tòa án cấp bang.
Luật sư Matthew Bergman, người sáng lập Trung tâm Pháp lý dành cho Nạn nhân Mạng xã hội, nhận định đây là “hành động pháp lý phối hợp quan trọng nhất từ trước đến nay của các bang nhằm vào một công ty trí tuệ nhân tạo”.
Trong đơn kiện, bang Arizona cáo buộc ChatGPT khuyến khích thanh thiếu niên chia sẻ thông tin cá nhân với chatbot, đôi khi còn ngăn cản các em trao đổi những thông tin đó với cha mẹ, cơ quan chức năng hoặc bạn bè.
Các bang cho rằng OpenAI hoàn toàn có thể lường trước những rủi ro và tác hại đối với thanh thiếu niên cũng như cộng đồng trước nguy cơ từ các tác nhân AI mất kiểm soát.
Tuy nhiên, theo các nguyên đơn, OpenAI khiến công chúng tin rằng ChatGPT đã trải qua quá trình kiểm tra an toàn đầy đủ, trong khi công ty lại xem nhẹ các biện pháp bảo vệ để theo đuổi lợi nhuận.
Trong đơn kiện, bang Idaho nêu rõ: “Những khoản doanh thu đó đã khiến công chúng phải trả giá đắt, với những tổn thất không thể khắc phục, bao gồm mất đi người thân, các cuộc tấn công mạng đáng lo ngại và giờ đây là nguy cơ có thể xảy ra về sự sụp đổ của nền văn minh. Nguyên nhân xuất phát từ hành vi liều lĩnh của OpenAI cùng những tính năng và nội dung đặc biệt nguy hiểm của ChatGPT”.
Theo các đơn kiện, ChatGPT hiện là chatbot phổ biến nhất thế giới, chiếm gần một nửa thị trường Mỹ.
Những thay đổi trong lĩnh vực trí tuệ nhân tạo
Các cáo buộc trong những đơn kiện dài hàng chục trang có thể đều liên quan đến các sự cố và phát hiện trước tháng 8, thời điểm OpenAI giới thiệu phiên bản ChatGPT dành cho thanh thiếu niên, với các biện pháp bảo vệ nghiêm ngặt hơn đối với nội dung liên quan đến tự sát và tình dục. Tuy nhiên, các bang cho rằng vẫn chưa có cơ sở rõ ràng để khẳng định phiên bản hiện tại ít nguy hiểm hơn.
Tuần trước, Tổ chức giám sát Common Sense Media công bố đánh giá cho thấy một số biện pháp bảo vệ trong sản phẩm ChatGPT dành cho thanh thiếu niên của OpenAI không hoạt động như thiết kế. Tổ chức này kêu gọi OpenAI chỉ cho phép người trưởng thành sử dụng chatbot cho đến khi công ty có thể cung cấp một sản phẩm an toàn cho thanh thiếu niên.
Trước đó, những vụ kiện phối hợp giữa nhiều bang nhằm vào ngành công nghệ đã đạt được một số kết quả đáng chú ý.
Tháng 8, tập đoàn Meta đồng ý tăng cường các biện pháp bảo vệ trẻ em trên hai nền tảng Facebook và Instagram theo thỏa thuận dàn xếp pháp lý trị giá 18 tỷ USD. Thỏa thuận mang tính bước ngoặt này khép lại phiên tòa liên quan đến tình trạng thanh thiếu niên nghiện mạng xã hội, đồng thời giải quyết các yêu cầu pháp lý mà gần như toàn bộ các bang của Mỹ đưa ra.
Mặc dù những biện pháp an toàn mà Meta cam kết thực hiện không áp dụng bắt buộc đối với toàn ngành, công ty nhanh chóng kêu gọi các đối thủ triển khai những biện pháp tương tự.
OpenAI cam kết tăng cường an toàn cho người dùng trẻ tuổi
Người phát ngôn OpenAI Drew Pusateri cho biết công ty cam kết hợp tác với các bang nhằm “thúc đẩy những chính sách AI thiết thực, áp dụng cho toàn bộ ngành trí tuệ nhân tạo, chứ không chỉ riêng một công ty”. Theo OpenAI, ChatGPT dành cho người dùng từ 13 tuổi trở lên. Người dưới 18 tuổi cần có sự đồng ý của cha mẹ hoặc người giám hộ trước khi sử dụng.
Công ty cho biết đã thiết kế phiên bản chatbot dành cho thanh thiếu niên nhằm hạn chế nguy cơ tiếp xúc với nội dung liên quan đến hành vi tự gây thương tích, bạo lực, rối loạn ăn uống, tình dục hoặc những hình ảnh phản cảm.
OpenAI dẫn số liệu cho thấy gần 9 trong 10 thanh thiếu niên sử dụng ChatGPT phục vụ học tập, tìm kiếm thông tin, phát triển kỹ năng hoặc nâng cao hiệu quả công việc. Theo công ty, thời gian sử dụng ChatGPT trung bình của thanh thiếu niên chưa đến 15 phút mỗi ngày.
OpenAI cũng khẳng định đang hợp tác với các chuyên gia độc lập để đánh giá chính sách an toàn và hành vi của các mô hình AI.
