VK Tech добавила в платформу VK AI Space возможность использовать хуки — контрольные точки, которые позволяют задать жесткий регламент работы автономным ИИ-агентам. Об этом CNews сообщили представители VK

Хуки — специальные точки контроля, в которых ИИ-агент прерывает автономную работу и выполняет заранее прописанное действие. Механизм позволяет компаниям устанавливать жесткие правила и четкие границы самостоятельности алгоритмов, предотвращая потенциальные риски и ущерб. Хуки гарантируют, что агент всегда будет следовать заданному алгоритму: например, не раскроет персональные данные в ответе внешнему пользователю, не предложит скидку сверх допустимого лимита или не начнет диалог без проверки истории сообщений и статуса клиента. Количество возможных сценариев применения практически неограниченно.

Максим Радюков, ИТ-директор «Циана»: Мы создали единый контур генеративного ИИ для всей компании цифровизация

Технически хук представляет собой небольшой скрипт, который создатель ИИ-агента загружает в платформу VK AI Space. В заданных точках система передает скрипту контекст запроса (информацию о пользователе, намерениях агента и используемых данных), после чего на основе прописанных правил агент получает инструкцию: пропустить действие, изменить его или отменить. Контроль осуществляется перед запуском агента (добавление данных в инструкцию или отмена старта), обращением к внешней системе (корректировка или блокировка запроса), после получения ответа от внешней системы и после формирования финального ответа модели (возможность его редактирования или запрета отправки). Используя хуки, бизнес получает гибкий инструмент для управления зонами ограниченной автономности, включая проверку прав, вызов внутренних сервисов, передачу решения человеку или логирование событий.

«Главное препятствие для масштабирования автономных агентов в бизнесе — риски, связанные с непредсказуемым поведением. Хуки в VK AI Space — программируемый слой поверх агента, который переводит любое корпоративное правило в гарантированное: то, что промпт оставляет на усмотрение модели, хук выполняет всегда. Создатель агента может быстро изменить такое правило своими силами, без доработок платформы, и самостоятельно выбрать не только точку срабатывания, но и приоритет — хуки выполняются последовательно, от меньшего к большему, что дает полную прозрачность логики. Если навыки, память и мультиагентные сценарии расширяют возможности агентов, то хуки задают им жесткие рамки и контролируют каждое действие. Это принципиально меняет подход к доверию: чем четче заданы границы, тем больше самостоятельности можно дать агенту, расширяя его полномочия без увеличения рисков. В итоге бизнес получает не только безопасность, но и возможность гораздо быстрее выводить агентов в продакшн», — отметил директор по ИИ- продуктам VK Tech Роман Стятюгин.

• Подобрать тариф на виртуальные рабочие места VDI на ИТ-маркетплейсе CNewsMarket