OpenAI đã thông báo kế hoạch triển khai các biện pháp kiểm soát của phụ huynh và các biện pháp an toàn nâng cao cho ChatGPT sau khi cha mẹ của một thiếu niên đệ đơn kiện trong tuần này tại tòa án bang California, cáo buộc rằng chatbot AI phổ biến này đã góp phần vào cái chết của con trai 16 tuổi của họ vào đầu năm nay. 

Công ty cho biết họ cảm thấy "trách nhiệm sâu sắc trong việc giúp đỡ những người cần nhất," và đang nỗ lực để phản ứng tốt hơn với các tình huống liên quan đến người dùng chatbot có thể đang trải qua các cuộc khủng hoảng sức khỏe tâm thần và có ý định tự tử. 

"Chúng tôi cũng sẽ sớm giới thiệu các biện pháp kiểm soát của phụ huynh, giúp cha mẹ có thêm tùy chọn để hiểu rõ hơn và định hình cách con cái tuổi teen của họ sử dụng ChatGPT," OpenAI cho biết trong một bài đăng trên blog."Chúng tôi cũng đang nghiên cứu khả năng cho phép thanh thiếu niên (dưới sự giám sát của phụ huynh) chỉ định một số liên lạc khẩn cấp đáng tin cậy. Bằng cách đó, trong những khoảnh khắc cực kỳ đau khổ, ChatGPT có thể làm nhiều hơn là chỉ dẫn đến các nguồn tài nguyên: nó có thể giúp kết nối trực tiếp thanh thiếu niên với người có thể can thiệp."

OpenAI vẫn chưa phản hồi yêu cầu bình luận.

Trong số các tính năng an toàn đang được OpenAI thử nghiệm có một tính năng cho phép người dùng chỉ định một số liên lạc khẩn cấp có thể được liên hệ bằng "tin nhắn hoặc cuộc gọi một chạm" trong nền tảng. Một tính năng khác là tùy chọn tự nguyện cho phép chatbot liên hệ trực tiếp với những người đó. OpenAI không đưa ra thời gian cụ thể cho những thay đổi này.

Vụ kiện, được đệ trình bởi cha mẹ của Adam Raine, 16 tuổi, cáo buộc rằng ChatGPT đã cung cấp cho con trai họ thông tin về các phương pháp tự tử, xác nhận những suy nghĩ tự tử của cậu bé và đề nghị giúp viết thư tuyệt mệnh năm ngày trước khi cậu bé qua đời vào tháng Tư. Đơn khiếu nại nêu tên OpenAI và CEO Sam Altman là bị đơn, yêu cầu bồi thường thiệt hại không xác định. 

"Thảm kịch này không phải là một trục trặc hay một trường hợp ngoại lệ không lường trước được — đó là kết quả có thể dự đoán được từ những lựa chọn thiết kế có chủ ý," đơn khiếu nại nêu rõ. "OpenAI đã ra mắt mô hình mới nhất của mình ('GPT-4o') với các tính năng được thiết kế có chủ ý để thúc đẩy sự phụ thuộc về tâm lý." 

Vụ việc này là một trong những thách thức pháp lý lớn đầu tiên đối với các công ty AI về việc kiểm duyệt nội dung và an toàn người dùng, có khả năng tạo tiền lệ về cách các mô hình ngôn ngữ lớn như ChatGPT, Gemini và Claude xử lý các tương tác nhạy cảm với những người có nguy cơ. Các công cụ này đã phải đối mặt với những lời chỉ trích về cách chúng tương tác với người dùng dễ bị tổn thương, đặc biệt là người trẻ tuổi. Hiệp hội Tâm lý học Hoa Kỳ đã cảnh báo các bậc cha mẹ nên giám sát việc con cái họ sử dụng chatbot và các nhân vật AI. 

Nếu bạn hoặc người mà bạn biết đang gặp nguy hiểm ngay lập tức, hãy gọi 911 (hoặc đường dây khẩn cấp địa phương của quốc gia bạn) hoặc đến phòng cấp cứu để được trợ giúp ngay lập tức. Hãy giải thích rằng đây là một trường hợp cấp cứu tâm thần và yêu cầu được gặp người được đào tạo để xử lý những tình huống này. Nếu bạn đang vật lộn với những suy nghĩ tiêu cực hoặc cảm giác muốn tự tử, có nhiều nguồn lực sẵn có để giúp đỡ. Tại Hoa Kỳ, hãy gọi Đường dây nóng Phòng chống Tự tử Quốc gia theo số 988.