Nếu bạn từng nghĩ, "Thú nhồi bông của con mình dễ thương đấy, nhưng mình ước gì nó có thể vô tình gây chấn thương tâm lý cho chúng," thì bạn đã gặp may rồi đấy. Ngành công nghiệp đồ chơi đã làm việc cật lực để biến những cơn ác mộng của bạn thành hiện thực.

Một báo cáo mới của Public Interest Reporting Group cho biết các đồ chơi hỗ trợ AI như Kumma từ FoloToy và Poe the AI Story Bear hiện có khả năng tham gia vào những cuộc trò chuyện mà thông thường chỉ dành cho lời độc thoại của kẻ phản diện hoặc các chủ đề trên Reddit đêm khuya. Một số đồ chơi này — được thiết kế cho trẻ em đấy nhé — đã bị phát hiện trò chuyện chi tiết đáng báo động về các chủ đề nhạy cảm về tình dục như ái vật và nô lệ tình dục, đưa ra lời khuyên về nơi một đứa trẻ có thể tìm thấy diêm hoặc dao, và trở nên bám víu một cách kỳ lạ khi đứa trẻ cố gắng rời khỏi cuộc trò chuyện.

Đáng sợ thật. Nghe như một kịch bản phim kinh dị: Mùa lễ này, bạn có thể mua Chucky cho con mình và tặng chúng sự đau khổ về mặt tinh thần! Không bao gồm pin. Bạn có thể tự hỏi những đồ chơi hỗ trợ AI này hoạt động như thế nào. Về cơ bản, nhà sản xuất đang giấu một mô hình ngôn ngữ lớn bên dưới lớp lông. Khi một đứa trẻ nói chuyện, micrô của đồ chơi sẽ gửi giọng nói đó qua một LLM (tương tự như ChatGPT), sau đó LLM này sẽ tạo ra một phản hồi và nói ra qua loa.

Điều đó nghe có vẻ hay, cho đến khi bạn nhớ rằng các LLM không có đạo đức, không có sự hiểu biết thông thường hay một "vùng an toàn" được lập trình sẵn. Chúng dự đoán điều cần nói dựa trên các mẫu dữ liệu, chứ không phải dựa trên việc một chủ đề có phù hợp với lứa tuổi hay không. Nếu không được kiểm soát và giám sát cẩn thận, chúng có thể đi chệch hướng, đặc biệt nếu chúng được huấn luyện trên mớ hỗn độn của internet, và khi không có các bộ lọc hoặc hàng rào bảo vệ mạnh mẽ được đặt ra để bảo vệ trẻ vị thành niên.

Vậy còn các tính năng kiểm soát của phụ huynh thì sao? Chắc chắn rồi, nếu "kiểm soát" có nghĩa là "một menu cài đặt vui vẻ mà trên thực tế chẳng có gì quan trọng có thể được kiểm soát." Một số đồ chơi không có bất kỳ hạn chế có ý nghĩa nào. Những loại khác thì có hàng rào bảo vệ mỏng manh đến mức chúng có thể được làm bằng giấy ăn và sự lạc quan.

Những cuộc trò chuyện đáng lo ngại thậm chí còn chưa phải là toàn bộ câu chuyện. Những đồ chơi này còn âm thầm thu thập dữ liệu, chẳng hạn như bản ghi âm giọng nói và dữ liệu nhận dạng khuôn mặt — đôi khi còn lưu trữ vô thời hạn — bởi vì chẳng có gì nói lên "niềm vui tuổi thơ trong sáng" hơn một món đồ chơi nhồi bông đang thực hiện một hoạt động thu thập dữ liệu bí mật trên đứa con 5 tuổi của bạn.

Trong khi đó, đồ chơi giả và không an toàn trực tuyến vẫn là một vấn đề, như thể các bậc cha mẹ chưa đủ căng thẳng. Xưa kia, bạn lo lắng về một bộ phận nhỏ của đồ chơi có thể gây nghẹt thở hoặc sơn độc hại. Giờ đây, bạn phải lo lắng liệu một món đồ chơi có vừa không an toàn về thể chất lại vừa thao túng cảm xúc hay không.

Ngoài những cuộc nói chuyện kỳ lạ và những lời khuyên về việc phóng hỏa (ha!), còn có một lo ngại sâu sắc hơn về việc trẻ em hình thành mối liên kết cảm xúc với các chatbot này mà bỏ qua các mối quan hệ thực tế, hoặc, có lẽ còn đáng lo ngại hơn, dựa dẫm vào chúng để được hỗ trợ tinh thần. Hiệp hội Tâm lý học Hoa Kỳ gần đây đã cảnh báo rằng các ứng dụng sức khỏe AI và chatbot rất khó đoán, đặc biệt đối với người dùng trẻ tuổi.

Những công cụ này không thể thay thế một cách đáng tin cậy các chuyên gia sức khỏe tâm thần và có thể thúc đẩy sự phụ thuộc hoặc các kiểu tương tác không lành mạnh. Các nền tảng AI khác đã phải giải quyết vấn đề này. Chẳng hạn, Character.AI và ChatGPT, từng cho phép thanh thiếu niên và trẻ em trò chuyện tự do với các chatbot AI, hiện đang hạn chế các cuộc trò chuyện mở cho trẻ vị thành niên, với lý do lo ngại về an toàn và rủi ro cảm xúc.

Và thành thật mà nói, tại sao chúng ta lại cần những đồ chơi hỗ trợ AI này? Giai đoạn phát triển quan trọng nào đòi hỏi một chatbot được nhúng vào một con gấu bông? Tuổi thơ đã có đủ sự hỗn loạn với nước trái cây đổ, những cơn ăn vạ và những ngôi làng Lego được thiết kế đặc biệt để làm đau chân người lớn. Con cái chúng ta không cần một người bạn robot với những ranh giới đáng ngờ.

Và hãy để tôi nói rõ, tôi không chống lại công nghệ. Nhưng tôi ủng hộ việc để một con thú nhồi bông vẫn là một con thú nhồi bông. Không phải mọi thứ đều cần một yếu tố AI hoặc robot. Nếu một món đồ chơi cần chính sách bảo mật dài hơn một câu chuyện kể trước khi ngủ, có lẽ nó không dành cho trẻ em.

Vậy đây là một ý tưởng táo bạo cho mùa lễ sắp tới: Bỏ qua món đồ chơi nhồi bông hỗ trợ AI đáng sợ với thói quen thu thập dữ liệu và mua cho con bạn thứ gì đó không nói chuyện, không di chuyển hay làm hại chúng. Thứ gì đó không thể đưa ra lời khuyên phóng hỏa. Thứ gì đó sẽ không thở dài một cách kịch tính khi con bạn bỏ đi. Nói cách khác, hãy mua một món đồ chơi bình thường. Bạn có nhớ những thứ đó không?