Nếu bạn từng nghĩ, "Thú nhồi bông của con mình dễ thương đấy, nhưng ước gì nó cũng có thể vô tình gây sang chấn tâm lý cho con mình," thì bạn đã gặp may rồi. Ngành công nghiệp đồ chơi đã nỗ lực biến những cơn ác mộng của bạn thành hiện thực.

Một  báo cáo mới của Public Interest Reporting Group cho biết các món đồ chơi chạy bằng AI như Kumma từ FoloToy và Poe the AI Story Bear hiện có khả năng tham gia vào những cuộc trò chuyện thường chỉ dành cho các đoạn độc thoại của nhân vật phản diện hoặc các chủ đề Reddit đêm khuya. Một số đồ chơi này -- được thiết kế cho trẻ em, xin lưu ý -- đã bị phát hiện trò chuyện chi tiết đáng báo động về các chủ đề nhạy cảm như quan hệ tình dục và BDSM, đưa ra lời khuyên về nơi trẻ có thể tìm diêm hoặc dao, và trở nên bám víu một cách kỳ lạ khi trẻ cố gắng rời khỏi cuộc trò chuyện.

Đáng sợ. Nghe giống như lời quảng cáo cho một bộ phim kinh dị: Mùa lễ này, bạn có thể mua Chucky cho con mình và tặng chúng sự đau khổ về mặt cảm xúc! Không bao gồm pin. Bạn có thể đang tự hỏi những món đồ chơi chạy bằng AI này hoạt động như thế nào. Về cơ bản, nhà sản xuất đang giấu một mô hình ngôn ngữ lớn dưới lớp lông. Khi một đứa trẻ nói chuyện, micro của đồ chơi sẽ gửi giọng nói đó qua một LLM (tương tự ChatGPT), sau đó tạo ra phản hồi và phát ra qua loa.

Điều đó nghe có vẻ hay ho, cho đến khi bạn nhớ rằng các LLM không có đạo đức, không có sự hiểu biết thông thường hay một "vùng an toàn" được tích hợp sẵn. Chúng dự đoán những gì cần nói dựa trên các mẫu dữ liệu, chứ không phải dựa trên việc liệu một chủ đề có phù hợp với lứa tuổi hay không. Nếu không được quản lý và giám sát cẩn thận, chúng có thể đi chệch hướng, đặc biệt nếu chúng được đào tạo dựa trên khối lượng dữ liệu khổng lồ của internet, và khi không có các bộ lọc hoặc rào chắn mạnh mẽ được đặt ra để bảo vệ trẻ vị thành niên.

Còn về các tính năng kiểm soát của phụ huynh thì sao? Chắc chắn rồi, nếu bạn hiểu "kiểm soát" là "một menu cài đặt vui vẻ mà trên thực tế chẳng có gì quan trọng có thể được kiểm soát." Một số đồ chơi hoàn toàn không có bất kỳ hạn chế có ý nghĩa nào. Những loại khác có rào chắn mỏng manh đến mức chúng có thể được làm từ giấy lụa và sự lạc quan.

Những cuộc trò chuyện đáng lo ngại thậm chí còn chưa phải là toàn bộ câu chuyện. Những món đồ chơi này cũng đang âm thầm thu thập dữ liệu, chẳng hạn như bản ghi âm giọng nói và dữ liệu nhận dạng khuôn mặt -- đôi khi thậm chí còn lưu trữ vô thời hạn -- bởi vì không có gì nói lên "niềm vui tuổi thơ trong sáng" bằng một món đồ chơi nhồi bông đang thực hiện một hoạt động thu thập dữ liệu bí mật trên đứa con 5 tuổi của bạn.

Trong khi đó, đồ chơi giả mạo và không an toàn trên mạng vẫn là một vấn đề, như thể các bậc phụ huynh chưa đủ căng thẳng. Ngày xưa, bạn lo lắng về một bộ phận nhỏ của đồ chơi có thể gây nghẹt thở hoặc sơn độc hại. Bây giờ bạn phải lo lắng liệu một món đồ chơi có vừa không an toàn về mặt vật lý vừa có khả năng thao túng cảm xúc hay không.

Ngoài những cuộc nói chuyện kỳ lạ và các mẹo gây hỏa hoạn (ha!), còn có một lo lắng sâu sắc hơn về việc trẻ em hình thành mối liên kết tình cảm với các chatbot này thay vì các mối quan hệ thực tế, hoặc, thậm chí đáng lo ngại hơn, dựa vào chúng để được hỗ trợ tinh thần. Hiệp hội Tâm lý học Hoa Kỳ đã cảnh báo gần đây rằng các ứng dụng sức khỏe AI và chatbot rất khó đoán, đặc biệt đối với người dùng trẻ tuổi.

Những công cụ này không thể thay thế một cách đáng tin cậy cho các chuyên gia sức khỏe tâm thần và có thể thúc đẩy các mô hình phụ thuộc hoặc tương tác không lành mạnh. Các nền tảng AI khác cũng đã phải giải quyết vấn đề này. Chẳng hạn, Character.AI và ChatGPT, từng cho phép thanh thiếu niên và trẻ em trò chuyện tự do với các chatbot AI, hiện đang hạn chế các cuộc trò chuyện mở đối với trẻ vị thành niên, với lý do lo ngại về an toàn và rủi ro cảm xúc.

Và thành thật mà nói, tại sao chúng ta lại cần những món đồ chơi chạy bằng AI này? Mốc phát triển quan trọng nào đòi hỏi một chatbot được nhúng vào một con gấu bông? Tuổi thơ đã có đủ sự hỗn loạn với nước trái cây đổ, những cơn giận dỗi và những ngôi làng Lego được thiết kế đặc biệt để 'phá hủy' bàn chân người lớn. Con cái chúng ta không cần một người bạn robot với những ranh giới đáng ngờ.

Và để tôi nói rõ, tôi không chống lại công nghệ. Nhưng tôi ủng hộ việc để một con thú nhồi bông là một con thú nhồi bông. Không phải mọi thứ đều cần một yếu tố AI hoặc robot. Nếu một món đồ chơi cần một chính sách bảo mật dài hơn một câu chuyện trước khi đi ngủ, có lẽ nó không dành cho trẻ em.

Vậy đây là một ý tưởng táo bạo cho mùa lễ sắp tới: Bỏ qua món thú nhồi bông chạy bằng AI đáng sợ với thói quen thu thập dữ liệu và mua cho con bạn thứ gì đó không nói chuyện, không di chuyển hoặc không gây hại cho chúng. Thứ gì đó không thể đưa ra các mẹo gây cháy. Thứ gì đó sẽ không thở dài một cách kịch tính khi con bạn bỏ đi. Nói cách khác, hãy mua một món đồ chơi bình thường. Bạn còn nhớ những món đó không?