Công ty thanh toán kỹ thuật số và fintech Ant International đã giành chiến thắng tại cuộc thi NeurIPS về Phát hiện khuôn mặt công bằng trong AI. Công ty cho biết họ cam kết phát triển các dịch vụ tài chính an toàn và toàn diện, đặc biệt khi các công nghệ deepfake ngày càng trở nên phổ biến.

Việc sử dụng nhận dạng khuôn mặt ngày càng tăng trong nhiều lĩnh vực đã làm nổi bật vấn đề thiên vị thuật toán trong AI. Nghiên cứu do NIST (Viện Tiêu chuẩn và Công nghệ Quốc gia) thực hiện cho thấy nhiều thuật toán nhận dạng khuôn mặt được sử dụng rộng rãi có tỷ lệ lỗi cao hơn đáng kể khi phân tích khuôn mặt của phụ nữ và người da màu, sự chênh lệch này bắt nguồn từ việc thiếu đa dạng trong dữ liệu đào tạo và nhân khẩu học của những người xây dựng và kiểm soát nhiều nền tảng AI chính thống. Hậu quả của các thuật toán thiên vị có thể dẫn đến việc từ chối các dịch vụ tài chính đối với một bộ phận lớn dân số và được coi là một lỗ hổng trong các giao thức bảo mật.

Cuộc thi NeurIPS được tổ chức cùng với Hội nghị Hệ thống Xử lý Thông tin Thần kinh, một hội nghị AI uy tín, và thách thức những người tham gia tạo ra các mô hình AI có khả năng hoạt động hiệu suất cao và công bằng, bao gồm nhiều yếu tố nhân khẩu học: Giới tính, tuổi tác và tông màu da. Đội của Ant International đã đánh bại hơn 2.100 bài dự thi từ 162 đội đến từ khắp nơi trên thế giới. Nhiệm vụ được giao là phát hiện chính xác 1,2 triệu hình ảnh khuôn mặt do AI tạo ra, được chọn là đại diện phù hợp cho các nhóm nhân khẩu học.

Cách tiếp cận được áp dụng bởi mô hình AI chiến thắng của Ant kết hợp kiến trúc Mixture of Experts (MoE) với cơ chế phát hiện thiên vị. Hệ thống đào tạo hai mạng thần kinh cạnh tranh: một tập trung vào việc xác định deepfake, và mạng còn lại được thiết kế để thách thức mạng thứ nhất, buộc nó phải bỏ qua các đặc điểm nhân khẩu học. Quá trình động này giúp đảm bảo hệ thống học cách phát hiện các dấu hiệu thao túng thực sự thay vì vô tình dựa vào các mô hình nhân khẩu học. Việc đào tạo mô hình đã tích hợp một tập dữ liệu đại diện toàn cầu và kết hợp các kịch bản gian lận thanh toán trong thế giới thực để đảm bảo hiệu suất ở quy mô lớn.

“Một hệ thống AI thiên vị vốn dĩ là một hệ thống không an toàn,” Tiến sĩ Tianyi Zhang, tổng giám đốc quản lý rủi ro và an ninh mạng tại Ant International, giải thích. “Sự công bằng của mô hình của chúng tôi không chỉ là vấn đề đạo đức; nó là nền tảng để ngăn chặn việc lợi dụng deepfake và đảm bảo xác minh danh tính đáng tin cậy cho mọi người dùng.”

Công nghệ đằng sau giải pháp chiến thắng hiện đang được tích hợp vào các dịch vụ thanh toán và tài chính của Ant để giúp chống lại mối đe dọa của deepfake, và các công ty cho biết nó đạt tỷ lệ phát hiện vượt quá 99,8% trên tất cả các nhóm nhân khẩu học và ở 200 thị trường mà Ant hoạt động.

Công nghệ của Ant giúp khách hàng đáp ứng các tiêu chuẩn Electronic Know Your Customer (eKYC) toàn cầu, đặc biệt trong quá trình giới thiệu khách hàng mới, mà không có thiên vị thuật toán. Điều này được cho là đặc biệt quan trọng ở các thị trường mới nổi nơi việc tăng cường hòa nhập tài chính có thể bị cản trở.

Ant International phục vụ hơn 150 triệu người bán và 1,8 tỷ tài khoản người dùng, nổi tiếng với các dịch vụ như Alipay+, Antom, Bettr và WorldFirst. Công ty đã tuyên bố bảo mật AI là một trụ cột trong hoạt động của mình. AI SHIELD của họ, một khuôn khổ quản lý rủi ro được xây dựng trên AI Security Docker để giúp giảm thiểu rủi ro các lỗ hổng trong các dịch vụ AI như truy cập trái phép và rò rỉ dữ liệu.

AI SHIELD là nền tảng của một bộ giải pháp quản lý rủi ro cung cấp sự bảo vệ rộng hơn cho các giao dịch tài chính, bao gồm các biện pháp chống lại các cuộc tấn công deepfake và gian lận. Alipay+ EasySafePay 360 đã giảm 90% các sự cố chiếm đoạt tài khoản trong thanh toán ví kỹ thuật số, công ty cho biết.