Mạng xã hội chưa bao giờ được ca ngợi về tính chân thực, nhưng sự lừa dối trực tuyến đang lên đến đỉnh điểm.

Kể từ khi ra đời các nền tảng như Facebook, Instagram và TikTok, nội dung đầy tham vọng đã tràn ngập nguồn cấp dữ liệu của chúng ta với những cơ thể quá hoàn hảo, nhà cửa và lối sống. Mặc dù mục đích được cho là của mạng xã hội là giữ chúng ta kết nối, việc lên mạng ngày càng cảm thấy cô lập và tách rời khỏi thực tế. Nội dung AI rác và deepfake đang làm cho nó tồi tệ hơn gấp bội.

Sự xuất hiện của các công cụ AI tạo sinh như Sora của OpenAI, Veo của Google và Midjourney đã tạo điều kiện cho việc tạo ra những video vừa phi thường, giàu trí tưởng tượng lại vừa lừa dối. Đột nhiên, một lời nhắc văn bản đơn giản có thể tạo ra bất cứ điều gì bạn nghĩ đến. Đó là một kỳ quan công nghệ, và, thường xuyên, một cơn ác mộng đạo đức. 

Nội dung AI rác đề cập đến vô số nội dung kỹ thuật số chất lượng thấp được tạo ra bằng trí tuệ nhân tạo. Bạn có thể đã thấy các ví dụ về điều này trên nguồn cấp dữ liệu mạng xã hội của mình, từ video động vật thể hiện những đặc điểm kỳ lạ như con người cho đến những trò đùa và gây cười dường như thách thức các định luật vật lý. Ngoài ra, deepfake của các nhân vật công chúng, cả còn sống và đã khuất, nói và làm những điều chưa từng xảy ra đã trở thành một mặt hàng nóng — và gây tranh cãi — mặt hàng. 

Không chỉ AI kém chất lượng đang làm suy giảm trải nghiệm trực tuyến. Việc lọc qua những sự giả mạo con người, địa điểm và sự kiện ngày càng thuyết phục đòi hỏi sự cảnh giác hơn bao giờ hết, và điều đó hoàn toàn kiệt sức.

Từ kết nối con người đến nghiện nền tảng

Kể từ khi ứng dụng Sora của OpenAI ra mắt vào tháng 9, tôi đã tự hỏi tại sao mọi người lại muốn cuộn qua một nguồn cấp dữ liệu chỉ bao gồm những khoảnh khắc nhân tạo. Ngay cả các nền tảng xã hội "truyền thống" hơn như Instagram và TikTok cũng đã bị tràn ngập bởi nội dung AI dường như không phục vụ mục đích thực sự nào, ngoài việc chứng minh những hình ảnh sống động đáng kinh ngạc mà các công cụ AI giờ đây có thể tạo ra ngay lập tức. 

Chẳng phải mục đích của mạng xã hội là để giữ liên lạc với những người bạn quen và theo dõi các nhân vật công chúng mà bạn quan tâm sao? Mục tiêu cơ bản đó đã chính thức chết rồi sao?

"Câu trả lời mỉa mai là mạng xã hội hiện giờ nhằm mục đích giữ bạn kết nối với công cụ, hơn là với nhau," Alexios Mantzarlis, giám đốc Sáng kiến An ninh, Tin cậy và An toàn của Cornell Tech, cho biết. 

Ông cho biết, các ông lớn công nghệ đang "làm tăng giá cổ phiếu của họ" bằng cách thể hiện khả năng AI của mình, nhưng "điều đó đang diễn ra với cái giá là trải nghiệm trên các nền tảng này."

Thật vậy, sự giả tạo tăng cao đó mâu thuẫn với tính chân thực mà nhiều người trong chúng ta tìm kiếm và ngày càng khó tìm thấy trực tuyến. Một trong những lý do tôi yêu TikTok nhiều năm trước là vì dễ dàng tìm thấy nhiều nội dung chân thực, không bị kiểm duyệt hơn — một sự giải thoát đáng mừng khỏi những bài đăng của người ảnh hưởng quá bóng bẩy tràn ngập nguồn cấp dữ liệu Instagram của tôi, mặc dù tôi cũng ngày càng thấy phần lớn điều đó trên TikTok. 

Ngay cả trước khi AI tạo sinh trỗi dậy, các cập nhật trên Instagram từ bạn bè và gia đình phần lớn đã bị thay thế bởi nội dung từ những người sáng tạo nổi tiếng mà tôi không theo dõi. Điều đó không phải lúc nào cũng tệ, vì nó thường đưa tôi đến với những chủ đề tôi muốn xem nhiều hơn. Việc tập trung vào sở thích của người dùng là điều khiến thuật toán của TikTok đặc biệt mạnh mẽ (và gây nghiện). Nhưng điều đó khiến tôi cảm thấy càng xa cách với những người tôi thực sự quen biết — đặc biệt là vì những người bình thường dường như ít đăng bài hơn ngày nay. 

Đưa AI vào phương trình đó, và bất kỳ vẻ ngoài chân thực nào cũng biến mất. Giờ đây, cùng với việc chống lại cảm giác bất an khi nhìn thấy những hình ảnh đã chỉnh sửa của người thật, bạn cũng có thể tình cờ thấy những bức ảnh kỳ nghỉ hoàn toàn do AI tạo ra, hoặc bắt gặp một người ảnh hưởng AI khuếch đại các tiêu chuẩn vẻ đẹp không thể đạt được.

"Trước đây, chúng ta có vấn đề về kỳ vọng cơ thể phi thực tế," Mantzarlis nói. "Và bây giờ chúng ta đang đối mặt với thế giới của những kỳ vọng cơ thể không có thật."

Ngày càng khó để mọi người phân biệt thực tế với hư cấu, nhưng sự phát tán của nội dung rác và deepfake không hề chậm lại. Thời gian không còn nhiều để các nền tảng điều chỉnh làn sóng nội dung mới này trước khi nó làm lu mờ nhận thức của chúng ta về thực tế. 

Hạn chế tác hại của AI

Các công ty mạng xã hội như Meta và TikTok đã cam kết gắn nhãn nội dung do AI tạo ra và cấm các bài đăng gây hại như các sự kiện khủng hoảng giả mạo hoặc sử dụng hình ảnh của cá nhân mà không được phép. Vào thứ Tư, TikTok cho biết họ sẽ bắt đầu thử nghiệm một tùy chọn kiểm soát mới để mọi người chọn lượng nội dung do AI tạo ra mà họ muốn thấy trong nguồn cấp dữ liệu của mình.  

Nhưng trong bối cảnh thiếu quy định của chính phủ — vốn đang bị chậm trễ do các yếu tố như bế tắc chính trị về cách điều chỉnh AI, hoạt động vận động hành lang từ các công ty công nghệ (Meta gần đây đã thành lập một siêu PAC để chống lại luật AI) và tốc độ phát triển nhanh chóng của công nghệ — các công ty phải tự mình duy trì các chính sách của riêng họ. Phải thừa nhận rằng việc các trang web gắn cờ mọi thứ có thể khó khăn do khối lượng nội dung khổng lồ, nhưng cho đến nay, những nỗ lực qua loa của họ dường như không mấy hứa hẹn. 

Việc thiếu quy định đó có thể làm tăng sự mất lòng tin và bất hòa trực tuyến. Một nghiên cứu của Raptive vào tháng 8, một công ty truyền thông làm việc với những người sáng tạo kỹ thuật số, đã phát hiện ra rằng khi mọi người chỉ đơn thuần nghi ngờ nội dung được tạo bằng AI, họ đã theo bản năng tránh xa nó. Cụ thể, 48% số người được hỏi nhận thấy nội dung kém tin cậy hơn, trong khi 60% cho biết họ cảm thấy ít kết nối cảm xúc hơn với nó.  

Nhưng với nội dung do người ảnh hưởng tạo ra đang thống trị hầu hết các nền tảng xã hội ngày nay, AI có thể được quảng bá như một cách để đơn giản hóa một quy trình truyền thống tốn thời gian. 

"Các công cụ AI giúp nhiều người trở thành người sáng tạo dễ dàng hơn," Paul Bannister, giám đốc chiến lược tại Raptive, cho biết. "Nó làm tăng dấu ấn của những người có thể trở thành người sáng tạo nhanh hơn nhiều."

Trò chuyện với Bannister đã giúp giảm bớt một chút sự hoài nghi của tôi; ông ấy nhắc nhở tôi rằng "giống như bất kỳ công nghệ mới nào, luôn có những cách sử dụng tốt và xấu." Cùng với nội dung AI rác, ông ấy lưu ý, vẫn có sự sáng tạo của con người đằng sau nội dung AI (thường là lố bịch) mà chúng ta thấy trực tuyến. 

"Sẽ có rất nhiều rác thải và những khó khăn, vấn đề, nhưng có lẽ điều này có thể tạo ra những hình thức chia sẻ thông tin và giải trí mới tuyệt vời," Bannister nói. "Vẫn còn rất nhiều rác rưởi chảy qua hệ thống đến nỗi chúng ta không biết kết quả sẽ ra sao."

Có một mặt khác về những gì AI có thể làm được: "Nó sẽ được sử dụng để làm trầm trọng thêm căng thẳng, để xác nhận những thành kiến có sẵn của mọi người," Mantzarlis nói. 

Mạng xã hội đã là một buồng vang để củng cố những quan điểm có hại, hẹp hòi của mọi người và nhanh chóng lan truyền thông tin sai lệch. Tôi không chắc chúng ta đã chuẩn bị cho việc mọi thứ có thể trở nên tồi tệ đến mức nào khi mọi người đều có khả năng dễ dàng tạo ra thực tế của riêng mình và chia sẻ nó với thế giới. Sự rạn nứt của xã hội sẽ chỉ ngày càng lộ rõ những vết nứt lớn hơn.

Nếu có thể, tôi sẽ rất cảm kích nếu nhiều nền tảng hơn học theo Pinterest và cho chúng ta tùy chọn giảm lượng nội dung AI mà chúng ta thấy trên nguồn cấp dữ liệu của mình. Mặc dù nếu được chọn, tôi sẽ giảm nó xuống mức tối thiểu nhất có thể (zero).