An ninh mạng đang ở giữa một cuộc chạy đua vũ trang mới, và vũ khí mạnh mẽ được lựa chọn trong kỷ nguyên mới này là AI.
An ninh mạng đang ở giữa một cuộc chạy đua vũ trang mới, và vũ khí mạnh mẽ được lựa chọn trong kỷ nguyên mới này là AI.
AI mang đến một con dao hai lưỡi kinh điển: một lá chắn mạnh mẽ cho những người phòng thủ và một công cụ mới mạnh mẽ cho những kẻ có ý đồ xấu. Điều hướng chiến trường phức tạp này đòi hỏi sự vững vàng và hiểu biết sâu sắc về cả công nghệ lẫn những người có thể lạm dụng nó.
Để có được cái nhìn từ tiền tuyến, AI News đã gặp gỡ Rachel James, Kỹ sư Trưởng về Tình báo Đe dọa AI ML tại công ty dược phẩm sinh học toàn cầu AbbVie.
“Ngoài tính năng tăng cường AI tích hợp được nhà cung cấp cung cấp trong các công cụ hiện tại của chúng tôi, chúng tôi còn sử dụng phân tích LLM trên các phát hiện, quan sát, tương quan và các quy tắc liên quan của mình,” James giải thích.
James và nhóm của cô đang sử dụng các mô hình ngôn ngữ lớn để sàng lọc hàng loạt cảnh báo bảo mật, tìm kiếm các mẫu, phát hiện các bản trùng lặp và tìm ra những lỗ hổng nguy hiểm trong hệ thống phòng thủ của họ trước khi kẻ tấn công có thể khai thác.
“Chúng tôi sử dụng điều này để xác định sự tương đồng, trùng lặp và cung cấp phân tích khoảng trống,” cô ấy nói thêm, lưu ý rằng bước tiếp theo là tích hợp thêm dữ liệu mối đe dọa bên ngoài. “Chúng tôi đang tìm cách nâng cao điều này bằng cách tích hợp thông tin tình báo mối đe dọa trong giai đoạn tiếp theo.”
Trung tâm của hoạt động này là một nền tảng tình báo mối đe dọa chuyên biệt có tên OpenCTI, giúp họ xây dựng một bức tranh thống nhất về các mối đe dọa từ một biển nhiễu loạn kỹ thuật số.
AI là động cơ giúp nỗ lực an ninh mạng này trở nên khả thi, bằng cách lấy một lượng lớn văn bản hỗn độn, không có cấu trúc và sắp xếp gọn gàng thành một định dạng tiêu chuẩn được gọi là STIX. Tầm nhìn lớn, James cho biết, là sử dụng các mô hình ngôn ngữ để kết nối thông tin tình báo cốt lõi này với tất cả các lĩnh vực khác trong hoạt động bảo mật của họ, từ quản lý lỗ hổng đến rủi ro bên thứ ba.
Tuy nhiên, việc tận dụng sức mạnh này đi kèm với một liều lượng thận trọng nhất định. Là một người đóng góp chính cho một sáng kiến quan trọng của ngành, James nhận thức rõ những cạm bẫy.
“Tôi sẽ thiếu sót nếu không nhắc đến công việc của một nhóm người tuyệt vời mà tôi là thành viên – ’OWASP Top 10 for GenAI’ như một cách cơ bản để hiểu các lỗ hổng mà GenAI có thể gây ra,” cô ấy nói.
Ngoài các lỗ hổng cụ thể, James chỉ ra ba sự đánh đổi cơ bản mà các nhà lãnh đạo doanh nghiệp phải đối mặt:
Để xây dựng một tư thế an ninh mạng tốt hơn trong kỷ nguyên AI, bạn phải hiểu rõ kẻ tấn công của mình. Đây là lúc chuyên môn sâu của James phát huy tác dụng.
“Đây thực sự là chuyên môn cụ thể của tôi – tôi có nền tảng về tình báo mối đe dọa mạng và đã tiến hành cũng như ghi lại nghiên cứu sâu rộng về sự quan tâm, sử dụng và phát triển AI của các tác nhân đe dọa,” cô ấy lưu ý.
James tích cực theo dõi các cuộc trò chuyện của đối thủ và sự phát triển công cụ thông qua các kênh mã nguồn mở và các bộ sưu tập tự động của riêng cô từ dark web, chia sẻ những phát hiện của mình trên GitHub cybershujin. Công việc của cô cũng liên quan đến việc tự mình thực hiện.
“Với tư cách là người đứng đầu mục Prompt Injection cho OWASP và đồng tác giả của Hướng dẫn Red Teaming GenAI, tôi cũng dành thời gian tự mình phát triển các kỹ thuật đầu vào đối kháng và duy trì một mạng lưới các chuyên gia trong lĩnh vực này,” James nói thêm.
Vậy, tất cả điều này có ý nghĩa gì đối với tương lai của ngành? Đối với James, con đường phía trước đã rõ ràng. Cô ấy chỉ ra một sự tương đồng thú vị mà cô đã khám phá ra nhiều năm trước: “Vòng đời tình báo mối đe dọa mạng gần như giống hệt với vòng đời khoa học dữ liệu là nền tảng cho các hệ thống AI ML.”
Sự phù hợp này là một cơ hội lớn. “Không nghi ngờ gì nữa, về mặt các tập dữ liệu mà chúng ta có thể vận hành, những người phòng thủ có một cơ hội duy nhất để tận dụng sức mạnh của việc chia sẻ dữ liệu tình báo và AI,” cô ấy khẳng định.
Thông điệp cuối cùng của cô ấy đưa ra cả sự khuyến khích và lời cảnh báo cho các đồng nghiệp của cô trong thế giới an ninh mạng: “Khoa học dữ liệu và AI sẽ là một phần trong cuộc sống của mọi chuyên gia an ninh mạng trong tương lai, hãy đón nhận nó.”
Rachel James sẽ chia sẻ những hiểu biết sâu sắc của mình tại Hội chợ AI & Big Data Expo Europe năm nay tại Amsterdam vào ngày 24-25 tháng 9 năm 2025. Hãy nhớ xem bài thuyết trình ngày thứ hai của cô ấy về ‘Từ Nguyên tắc đến Thực tiễn – Nhúng Đạo đức AI ở Quy mô Lớn’.
