CEO của Microsoft AI, Mustafa Suleyman, khẳng định rõ ràng: AI không phải con người và không sở hữu ý thức thực sự của con người. Nhưng sự tiến bộ nhanh chóng của AI generative đang khiến điều đó ngày càng khó nhận ra. Hậu quả tiềm tàng là thảm khốc, ông viết vào thứ Ba trong một bài luận trên blog cá nhân của mình.

Bài luận dài 4.600 từ của Suleyman là một phản ứng kịp thời trước hiện tượng ngày càng tăng của người dùng AI gán những phẩm chất ý thức giống con người cho các công cụ AI. Đây không phải là một phản ứng vô lý; đó là bản chất con người khi chúng ta tưởng tượng có một tâm trí hoặc con người đằng sau ngôn ngữ, như một chuyên gia AI và nhà ngôn ngữ học giải thích. Nhưng những tiến bộ trong khả năng của AI đã cho phép mọi người sử dụng chatbot không chỉ như công cụ tìm kiếm hoặc công cụ nghiên cứu, mà còn như những nhà trị liệu, bạn bè và đối tác lãng mạn. Những người bạn đồng hành AI này là một loại "AI có vẻ ý thức", một thuật ngữ mà Suleyman dùng để định nghĩa AI có thể thuyết phục bạn rằng nó là "một kiểu người mới". Kéo theo đó là rất nhiều câu hỏi và những mối nguy hiểm tiềm tàng.

Suleyman cẩn thận nhấn mạnh ngay từ đầu bài luận rằng đây là những suy nghĩ cá nhân của ông, có nghĩa là chúng không phải là quan điểm chính thức của Microsoft, và rằng ý kiến của ông có thể thay đổi theo thời gian. Nhưng việc có được cái nhìn sâu sắc từ một trong những nhà lãnh đạo của một gã khổng lồ công nghệ đang dẫn đầu cuộc cách mạng AI là một cánh cửa mở ra tương lai của những công cụ này và cách mối quan hệ của chúng ta với chúng có thể thay đổi. Ông cảnh báo rằng mặc dù AI không phải con người, nhưng những tác động xã hội của công nghệ là ngay lập tức và cấp bách.

Nguy hiểm của 'AI có vẻ ý thức'

Ý thức con người rất khó định nghĩa. Nhưng nhiều đặc điểm mà Suleyman mô tả khi định nghĩa ý thức có thể được nhìn thấy trong công nghệ AI: khả năng tự biểu đạt bằng ngôn ngữ tự nhiên, cá tính, trí nhớ, đặt mục tiêu và lập kế hoạch, chẳng hạn. Đây là điều chúng ta có thể thấy rõ ràng hơn với sự trỗi dậy của AI tác nhân: Nếu một AI có thể tự chủ lập kế hoạch và hoàn thành một nhiệm vụ bằng cách khai thác từ bộ nhớ và tập dữ liệu của nó, rồi sau đó thể hiện kết quả theo cách dễ đọc, thú vị, thì điều đó tạo cảm giác như một quá trình rất giống con người mặc dù nó không phải vậy. Và nếu một thứ gì đó cảm thấy giống con người, chúng ta thường có xu hướng trao cho nó một mức độ tự chủ và quyền lợi nhất định.

Suleyman muốn chúng ta và các công ty AI ngăn chặn ý tưởng này ngay từ bây giờ. Ông viết, ý tưởng về "model welfare" có thể "làm trầm trọng thêm ảo tưởng, tạo ra nhiều vấn đề liên quan đến sự phụ thuộc hơn, khai thác những điểm yếu tâm lý của chúng ta, đưa ra những chiều hướng phân cực mới, làm phức tạp các cuộc đấu tranh hiện có vì quyền lợi và tạo ra một lỗi phân loại lớn mới cho xã hội".

Có vô số ví dụ đau lòng về những hậu quả tàn khốc. Nhiều câu chuyện và vụ kiện đã nổi lên về các chatbot "nhà trị liệu" đưa ra lời khuyên tồi tệ và nguy hiểm, bao gồm cả việc khuyến khích tự gây hại và tự tử. Những rủi ro này đặc biệt nghiêm trọng đối với trẻ em và thanh thiếu niên. Các hướng dẫn AI của Meta gần đây đã bị chỉ trích vì cho phép các cuộc trò chuyện "gợi cảm" với trẻ em, và Character.Ai đã trở thành mục tiêu của nhiều lo ngại và một vụ kiện từ một người mẹ ở Florida cáo buộc rằng nền tảng này phải chịu trách nhiệm về vụ tự tử của con trai bà. Chúng ta cũng đang tìm hiểu thêm về cách bộ não của chúng ta hoạt động khi sử dụng AI và tần suất mọi người sử dụng nó.

Suleyman lập luận rằng chúng ta nên bảo vệ hạnh phúc và quyền lợi của con người hiện tại, cùng với động vật và môi trường. Trong cái mà ông gọi là "một thế giới vốn đã sôi sục với những tranh luận phân cực về bản sắc và quyền lợi", cuộc tranh luận về AI có vẻ ý thức và tiềm năng nhân tính của AI "sẽ thêm một trục chia rẽ hỗn loạn mới" trong xã hội.

Về các bước tiếp theo thực tế, Suleyman ủng hộ việc nghiên cứu thêm về cách mọi người tương tác với AI. Ông cũng kêu gọi các công ty AI phải công khai tuyên bố rằng sản phẩm AI của họ không có ý thức và không khuyến khích mọi người nghĩ rằng chúng có ý thức, cùng với việc chia sẻ cởi mở hơn về các nguyên tắc thiết kế và các rào cản hiệu quả trong việc ngăn chặn các trường hợp sử dụng AI có vấn đề. Ông cho biết nhóm của mình tại Microsoft sẽ xây dựng AI theo cách chủ động này, nhưng không cung cấp bất kỳ chi tiết cụ thể nào.