У 2025 році корпоративна автоматизація базується на інтеграції LLM з інфраструктурою підприємства. Основний ризик використання агентів полягає у наданні їм надмірних повноважень (Excessive Agency), що детально описано в LLM06:2025 – Excessive Agency. Щоб уникнути неконтрольованих дій, архітектура має базуватися на принципі найменших привілеїв та зовнішньому погодженні. ШІ-агент повинен лише готувати дані, тоді як виконання критичних операцій залишається за BPM-системою та Human-in-the-Loop контролем.
Практичний підхід до обмеження ризиків
Щоб мінімізувати загрози, агент не повинен мати прямого запису в базу даних чи ERP. Замість цього він має створювати лише «чернетки», які проходять через шлюз валідації. Наприклад, якщо працівник просить агента змінити умови договору, модель повинна сформувати пропозицію, яка потрапляє у чергу BPM-системи, де право зміни має виключно авторизований юридичний відділ після ручного схвалення. Усі операції повинні бути ідемпотентними та мати детальний лог для аудиту.
Гіпотетичний приклад: обробка закупівель
Уявімо компанію, де агент аналізує вхідні рахунки. Агент витягує дані про товари та ціни, але для створення заявки на оплату він викликає функцію create_payment_draft(). Ця функція перевіряє права користувача, актуальність бюджету в ERP та наявність візи керівника в СЕД. Якщо агент спробує змінити банківські реквізити контрагента на підставі листа, система безпеки на рівні API блокує цей виклик, оскільки зміна реквізитів вимагає багатофакторної авторизації, недоступної для LLM. Таким чином, модель залишається інструментом допомоги, а корпоративна керованість забезпечується жорсткими бізнес-правилами за межами середовища моделі.
Автор матеріалу