Khi các công ty triển khai hàng chục tác nhân AI và LLM, họ sẽ cần kiểm soát và kết nối tất cả thông qua một nền tảng điều phối và tích hợp, các chuyên gia cho biết.
Trong tương lai gần của AI tác nhân, các doanh nghiệp sẽ vận hành hàng chục, thậm chí hàng trăm tác nhân AI, với các CIO chịu trách nhiệm điều phối và kết nối chúng để giúp nhân viên điều hướng một loạt các quy trình kinh doanh liên kết với nhau.
Hãy lấy ví dụ về việc tiếp nhận nhân viên mới. Trong tương lai không xa, một đại diện HR có thể yêu cầu một chatbot thiết lập nhân viên mới. Bằng cách điều phối nhiều tác nhân, chatbot sẽ lần lượt nhập thông tin nhân viên vào hệ thống tính lương, hướng dẫn cô ấy các lựa chọn bảo hiểm y tế, và thiết lập dịch vụ email cũng như hội nghị truyền hình. Việc điều phối tác nhân sâu hơn cũng có thể cung cấp đào tạo cho nhân viên mới, cấp thẻ ra vào tòa nhà, và thậm chí gửi máy tính xách tay hoặc chỉ định bàn làm việc cho cô ấy, tất cả đều với sự can thiệp tối thiểu của con người.
Tầm nhìn về điều phối và tích hợp AI này đang được một số công ty triển khai, và khi các tổ chức triển khai nhiều mô hình ngôn ngữ lớn (LLM) và hàng chục tác nhân AI trong những năm tới, việc áp dụng rộng rãi các công cụ tích hợp và điều phối AI là rất có thể.
Gartner dự đoán trong một báo cáo gần đây rằng đến năm 2028, 70% các tổ chức xây dựng ứng dụng đa-LLM và tác nhân AI sẽ sử dụng các nền tảng tích hợp để tối ưu hóa và điều phối khả năng kết nối cũng như truy cập dữ liệu. Dưới 5% các tổ chức tương tự đã sử dụng các nền tảng tích hợp AI vào năm 2024.
Một số chuyên gia AI xem chức năng điều phối, nơi nhiều tác nhân AI được liên kết với nhau để tạo ra các quy trình làm việc tự động và đa dạng, là thời điểm mà các tác nhân trở nên tự chủ.
Các công cụ tích hợp và điều phối AI sẽ rất quan trọng đối với hầu hết các doanh nghiệp vì các tác nhân AI và LLM cần được kết nối để phát huy tối đa tiềm năng của chúng, Andrew Humphreys, giám đốc cấp cao và nhà phân tích tại Gartner cho biết. Ông lưu ý, các bản phát hành gần đây của một số giao thức tác nhân là bước đầu tiên hướng tới sự tích hợp rộng rãi này.
“AI phải có quyền truy cập vào dữ liệu để đưa ra quyết định, và nó phải có khả năng thực hiện một hành động nào đó,” ông nói. “Một tác nhân là vô dụng nếu nó không thể truy cập dữ liệu và không thể đưa ra quyết định.”
Tích hợp và điều phối tác nhân sẽ giúp các CIO giải quyết một số câu hỏi mới nổi về thế giới AI tự chủ sắp tới, ông nói thêm. “Làm thế nào để tôi giúp nhà phát triển AI hoặc tác nhân của tôi dễ dàng kết nối với mọi thứ và lấy dữ liệu hơn?” Humphreys nói. “Làm thế nào tôi có thể quan sát những gì đang thực sự diễn ra trong kiến trúc CNTT của mình?”
Khi các chiến lược AI của CIO trở nên phức tạp hơn, nhu cầu về các nền tảng điều phối tác nhân trở nên rõ ràng, Beth Scagnoli, phó chủ tịch quản lý sản phẩm tại nhà cung cấp giải pháp sẵn sàng dữ liệu Redpoint Global, nói thêm.
“Hầu hết các tổ chức ngày nay không chỉ thử nghiệm với một mô hình AI duy nhất; họ đang làm việc đồng thời trên nhiều LLM, hệ thống cũ và các tác nhân AI mới hơn,” cô nói. “Nếu không có sự điều phối, hệ sinh thái đó có nguy cơ nhanh chóng trở nên phân mảnh, dư thừa và kém hiệu quả.”
Lớp điều phối sẽ quản lý cách các công cụ AI truy cập, di chuyển và hành động trên dữ liệu giữa các hệ thống, cô nói thêm. “Điều này không chỉ dành cho kết quả đầu ra, mà còn để duy trì các tiêu chuẩn của doanh nghiệp về quản trị và độ tin cậy,” Scagnoli nói. “Điều phối AI đang nhanh chóng trở thành mối liên kết quan trọng giữa chiến lược dữ liệu và việc triển khai AI.”
Các CIO khi thêm công cụ điều phối nên tìm kiếm khả năng tương tác, Scagnoli nói.
“Các lớp điều phối linh hoạt và không phụ thuộc vào AI sẽ là nơi giá trị thực sự tỏa sáng,” cô nói. “Các công cụ có thể nằm trên bất kỳ LLM hoặc tác nhân nào, cho phép các tổ chức cắm vào mô hình phù hợp cho công việc trong khi vẫn quản lý bảo mật, lập phiên bản và nguồn gốc dữ liệu đằng sau hậu trường,” sẽ là lựa chọn tốt nhất của các nhà lãnh đạo CNTT.
Humphreys của Gartner nhìn thấy một thị trường đang phát triển mạnh mẽ cho các nền tảng tích hợp và điều phối AI, với nhiều nhà cung cấp nhỏ hiện đang cung cấp các giải pháp sẵn có. Khi thị trường trở nên có lợi nhuận hơn, các ông lớn trong ngành CNTT và AI sẽ tham gia cuộc chơi.
Một số công ty cũng sẽ tự xây dựng các công cụ điều phối, Humphreys nói, nhưng ông thúc giục các nhà lãnh đạo CNTT học hỏi từ các nỗ lực tích hợp trước đây, bao gồm việc điều phối các lệnh gọi API.
“Bạn có lẽ đã kết hợp các tích hợp API hiện có của mình rồi,” ông nói. “Hãy điều chỉnh chúng thay vì nghĩ rằng bạn phải hoàn toàn tái tạo lại toàn bộ. Chỉ cần điều chỉnh để đáp ứng cách AI của bạn cần giao tiếp với nó, thay vì nghĩ, ‘Ôi, đó là AI, tôi nên viết lại tất cả những gì tôi đã học được trong quá khứ.’”
IBM là một trong những công ty đang tự mình thực hiện tích hợp tác nhân. Gã khổng lồ công nghệ này bắt đầu thử nghiệm các công cụ giống tác nhân từ tám năm trước, và hiện tại họ có các tác nhân được triển khai trong một số quy trình làm việc, bao gồm các bộ phận bán hàng và CNTT của IBM, Suzanne Livingston, phó chủ tịch tại IBM watsonx Orchestrate Agent Domains, cho biết. HR là trường hợp thử nghiệm ban đầu, và hiện tại, các tác nhân vận hành nhiều chức năng HR.
“Có rất nhiều quy trình trong HR, và rất khó để nhân viên hiểu cách làm việc với hệ thống HR,” cô nói. “Chúng tôi sử dụng một [ứng dụng] tại một thời điểm, và nếu bạn đã từng sử dụng một trong các hệ thống HR doanh nghiệp này, bạn phải tìm hướng dẫn để biết chính xác mình muốn làm gì. Và, nhân tiện, những hướng dẫn đó thay đổi hàng tháng.”
Giờ đây, nhân viên IBM có thể tương tác với một tác nhân AI để tạo yêu cầu tăng lương, chuyển nhân viên giữa các phòng ban, tạo mô tả công việc và thực hiện một loạt các chức năng HR khác, cô nói. Một lớp điều phối AI là cần thiết để tương tác với các tác nhân vận hành tất cả các công cụ HR riêng lẻ đó nhằm hoàn thành các quy trình làm việc đa bước, chẳng hạn như tiếp nhận nhân viên, cô lưu ý.
Tuy nhiên, đối với hầu hết các công ty, một công cụ sẵn có được nhà cung cấp hỗ trợ có thể là một cách dễ dàng hơn để bắt đầu, Livingston nói.
“Đó là một cách tuyệt vời để không phải bắt đầu xây dựng thứ gì đó từ đầu,” cô nói. “Đó là một cách tuyệt vời để dùng thử và làm quen với nó, và sau đó, nó có thể dẫn bạn đến các dự án lớn hơn, nhưng bản thân nó đã hữu ích rồi.”
Cô cũng gợi ý rằng các CIO nên tìm kiếm những "trái cây dễ hái" nơi có nhiều điểm gây khó khăn cho nhân viên, ví dụ, yêu cầu nghỉ phép. “Mọi người đều phải nộp đơn xin nghỉ phép, và không, không ai muốn làm điều đó vì nó rườm rà,” cô nói. “Nhưng đó là một việc dễ dàng để bắt đầu, và bạn sẽ nhận được giá trị ngay lập tức.”
Tương lai sẽ là các tác nhân ở khắp mọi nơi, Livingston nói thêm.
“Nó giống như một thế giới vô tận của các tác nhân cơ bản,” cô nói. “Khi các công ty phát triển và áp dụng các quy trình mới, hoặc giảm bớt sự phức tạp của các quy trình, đó là một vòng lặp tích cực của trải nghiệm.
“Nó giúp các công ty áp dụng tư duy đó, ‘Tôi không cần phải đào tạo nhân viên của mình trên 500 hệ thống khác nhau, tôi có thể giúp họ hiểu cách tận dụng lợi ích của các hệ thống này thông qua một tác nhân."
