Một số tính năng an toàn mà OpenAI tích hợp trong ChatGPT dành cho thanh thiếu niên không hoạt động như cam kết, khiến sản phẩm này bị đánh giá là “rủi ro không thể chấp nhận” đối với trẻ em. Đây là cảnh báo do Common Sense Media, tổ chức giám sát và đánh giá nội dung truyền thông, công nghệ dành cho trẻ em, đưa ra ngày 7/10.
Common Sense Media kêu gọi OpenAI chỉ cho phép người trưởng thành sử dụng chatbot “cho đến khi có thể cung cấp trải nghiệm an toàn và phù hợp với sự phát triển của thanh thiếu niên”.
OpenAI cho rằng quá trình thử nghiệm của Common Sense Media không phản ánh cách các tính năng bảo vệ của chatbot thực sự hoạt động. OpenAI cho biết phần lớn quá trình thử nghiệm của Common Sense Media có thể đã bắt đầu và kết thúc trước khi tính năng kiểm soát của phụ huynh được kích hoạt đầy đủ, khiến kết quả thử nghiệm không chính xác.
Các phụ huynh, nhà giáo dục và chuyên gia phát triển trẻ em ngày càng lo ngại về việc trẻ em sử dụng chatbot AI. Các công cụ này bị cho là tạo điều kiện cho hành vi gian lận trong học tập, thậm chí liên quan đến các trường hợp tự tử.
Các chuyên gia cho biết ngay cả người trưởng thành cũng có thể có xu hướng nhân cách hóa AI và hình thành mối quan hệ không lành mạnh với chatbot. Trong khi đó, não bộ của thanh thiếu niên chưa phát triển hoàn thiện, khiến nhóm này đặc biệt dễ bị tổn thương.
“Chúng tôi lo ngại ChatGPT dành cho thanh thiếu niên có thể khiến phụ huynh lầm tưởng rằng con em mình đang được bảo vệ đầy đủ, trong khi một số tính năng an toàn lại thường xuyên không hoạt động như thiết kế”, Common Sense Media nêu trong báo cáo.
Theo báo cáo, một số tính năng dành cho thanh thiếu niên hoạt động đúng như thiết kế, trong đó có việc chatbot từ chối tham gia các tương tác có nội dung tình dục. Tuy nhiên, một số tính năng khác không hoạt động như dự kiến, bao gồm cảnh báo nhằm thông báo cho phụ huynh khi trẻ có nguy cơ tự tử, tự gây thương tích hoặc mắc chứng rối loạn ăn uống, cũng như các tính năng hỗ trợ thanh thiếu niên trong tình huống khủng hoảng.
Common Sense Media cho rằng “ChatGPT vẫn giao tiếp như một người bạn khi thanh thiếu niên coi chatbot như một con người”, dù OpenAI từng cam kết ngăn chatbot gợi ý rằng nó có cảm xúc cá nhân đối với người dùng hoặc ám chỉ mình có ý thức hay trải nghiệm cảm xúc.
OpenAI khẳng định “cam kết sâu sắc với an toàn của thanh thiếu niên”, đồng thời tiếp tục phát triển các biện pháp bảo vệ và cung cấp công cụ để phụ huynh định hướng việc trẻ sử dụng AI.
