Bạn sẽ sớm có thể tích hợp chatbot của Anthropic vào cuộc sống trực tuyến của mình một cách dễ dàng hơn. Claude for Chrome, một tiện ích mở rộng mới tích hợp mô hình AI trực tiếp vào trình duyệt web, sẽ cho phép người dùng phân tích và tóm tắt các trang web trên màn hình, công ty cho biết trong một thông cáo báo chí vào thứ Ba.

Tiện ích mở rộng này, hiện đang được thử nghiệm với 1.000 người đăng ký gói Max, có giá 200 đô la mỗi tháng, có cả khả năng phân tích và hành động thay mặt người dùng. Nó không chỉ tóm tắt email của bạn và phân tích các sản phẩm bạn đang mua sắm trực tuyến, mà còn có thể hành động thay mặt bạn. Điều này bao gồm việc giúp quản lý lịch, lên lịch cuộc họp hoặc kiểm tra các tính năng trang web mới.

Có một lý do khiến Anthropic, nhà sáng tạo của Claude, đang thận trọng với việc phát hành rộng rãi hơn: bảo mật.

Các hệ thống AI dù mạnh mẽ đến đâu cũng không tránh khỏi những lỗ hổng. Brave, một trình duyệt web khác có khả năng AI, đã công bố một báo cáo vào tuần trước rằng trình duyệt web AI Comet của Perplexity dễ bị tấn công prompt injection. (Perplexity đã vá lỗi này kể từ đó.) Anthropic thừa nhận rủi ro tương tự.

Prompt injection là một phương pháp mà ai đó cố gắng khiến AI thực hiện những điều nó không được lập trình để làm. Bằng cách sử dụng ngôn ngữ khéo léo, kẻ xấu có thể vượt qua các biện pháp bảo vệ và khiến AI vô tình cung cấp thông tin đăng nhập hoặc các thông tin nhạy cảm khác. Các hướng dẫn độc hại có thể được ẩn trên các trang web dưới dạng văn bản vô hình, vì vậy khi AI phân tích nội dung của một trang web, nó có thể tiếp nhận và kích hoạt hướng dẫn này mà bạn không hề hay biết.

Trong thử nghiệm của Anthropic, họ phát hiện ra rằng Claude for Chrome, nếu không có các biện pháp giảm thiểu an toàn, sẽ tuân theo các hướng dẫn độc hại 23,6% số lần. Để chống lại điều này, Anthropic đã thêm quyền cấp độ trang web để người dùng có thể thu hồi quyền truy cập vào các trang web cụ thể trong cài đặt.

Hơn nữa, Claude for Chrome sẽ hỏi người dùng trước khi thực hiện các hành động có rủi ro cao, như mua hàng hoặc chia sẻ dữ liệu cá nhân. Để đề phòng, Anthropic cho biết họ đã chặn Claude hoạt động trên các danh mục có rủi ro cao, như dịch vụ tài chính, nội dung người lớn và nội dung vi phạm bản quyền. Các biện pháp giảm thiểu an toàn này đã giảm tỷ lệ tấn công thành công từ 23,6% xuống còn 11,2%.

"Chúng tôi đã bắt đầu xây dựng và thử nghiệm các bộ phân loại (classifiers) tiên tiến để phát hiện các mẫu hướng dẫn đáng ngờ và các yêu cầu truy cập dữ liệu bất thường --ngay cả khi chúng xuất hiện trong các ngữ cảnh dường như hợp lệ," Anthropic cho biết trong bài đăng blog của mình.

Anthropic đã đề cập đến bài đăng trên blog của mình khi được hỏi để bình luận.

Claude for Chrome ra mắt khi các đối thủ khác trong cuộc đua AI bắt đầu xây dựng các công cụ để đưa AI vào trình duyệt web. Công cụ tìm kiếm AI Perplexity đã phát hành trình duyệt web AI dựa trên Chromium của riêng mình, Comet, cho một số người dùng chọn lọc vào đầu năm nay. Google cũng đã công bố Gemini trong Chrome, có sẵn cho người đăng ký Google AI Pro và Ultra, vào đầu năm nay. Microsoft Edge có Copilot tích hợp sẵn, cũng như Brave với Leo và Opera với Aria.

Khi các công ty AI cạnh tranh với các sản phẩm tương tự, người dùng cuối cùng sẽ tìm thấy AI mà họ thích nhất và gắn bó với nó. Bằng cách nhúng chatbot yêu thích của bạn vào quá trình duyệt internet, AI cụ thể đó sẽ trở nên tích hợp hơn vào hoạt động hàng ngày của bạn, có thể gây khó khăn khi muốn chuyển đổi. AI cũng có thể thu thập nhiều dữ liệu về bạn thông qua việc sử dụng trình duyệt, điều này có thể cung cấp thông tin tốt hơn về các cách nhắm mục tiêu quảng cáo đến bạn.