23% компаний с собственной разработкой внедряют базовые системы контроля безопасности ИИ. При этом о внедрении искусственного интеллекта в бизнес-процессы отчитались 100% участников совместного исследования AppSec Solutions и АРПП «Отечественный софт». Об этом CNews сообщили представители AppSec Solutions.

Исследование провели среди членов Ассоциации разработчиков программных продуктов «Отечественный софт», в нем приняли участие более 50 компаний-респондентов. Компании внедряют в бизнес-процессы разные варианты ИИ-систем: большие языковые модели (81%), ИИ-ассистенты кода (72%), локальные языковые модели(61%), RAG или генерация с дополненной выборкой (57%), ML-модели(44%).

«Исследование показало, что скорость внедрения искусственного интеллекта в российской разработке ПО втрое опережает скорость выстраивания его защиты. Из 100% компаний, которые внедряют ИИ в рабочие процессы, только 23% внедряют базовые системы контроля безопасности. 69% опрошенных заявили, что атак не зафиксировали, однако и угрозы они не оценивали. Результат требует внимания рынка: скорость внедрения ИИ втрое опережает скорость выстраивания его защиты. Приказ ФСТЭК № 117 и методика 2026 г. уже сегодня помогают определить важные ориентиры для обеспечения безопасности ИИ в организациях. Задача Ассоциации — помочь разработчикам освоить этот каркас: дать разъяснения и практики, в том числе на площадке Дня безопасной разработки ПО, который мы традиционно проводим», – сказал Ренат Лашин, исполнительный директор АРПП «Отечественный софт».

Представители всех компаний также отметили, что активно пользуются ИИ решениями – сотрудники применяют внешние сервисы, как правило, большие языковые модели в формате чатов, 59% «частично», 41% «массово», при этом за частую работающие как теневой ИИ, то есть без консолидированного контроля организации. Риски безопасности здесь возникают от человеческого фактора – когда сотрудники отправляют в модель чувствительные данные, например, внутренние документы компании.

«Исходя из результатов исследования, без ИИ бизнеса, во всяком случае, связанного с разработкой, уже не существует. ИИ глубоко проник во многие процессы, разработчики используют модели для написания ПО, с его помощью оптимизируют бизнес-процессы, предоставляя доступ к корпоративным данным. Официально с подтвержденными атаками столкнулись 4% опрошенных, Но это иллюзия контроля. Более 90% вообще не проводили оценку угроз и не могут оценить потенциал ИИ-атак. Рынок не заблуждается — он осознанно принимает непокрытый риск, потому что не располагает ни экспертизой, ни процессами, чтобы этот риск измерить и более того, управлять им осознанно», - сказал Юрий Сергеев, генеральный директор AppSec Solutions.

72% опрошенных подтвердили, что уже внедрили в корпоративный контур ИИ-агентов. То есть, они делегировали часть «человеческих» полномочий ИИ. Основные риски, с которыми сталкиваются компании: утечки конфиденциальных данных, промпт-инъекции, утечки конфиденциальных данных через RAG-системы, обход встроенных ограничений, атаки на цепочку поставок ML и др.

«Ключевые атаки на ИИ не оставляют следов в привычной телеметрии. Они не выглядят как эксплойт: это валидный запрос с валидным ответом. Без специализированной оценки угроз и без фильтрации на шлюзе безопасности ИИ организация физически не способна отличить нормальную работу модели от успешной атаки. Отчёт «инцидентов не было» в этих условиях не является измерением. По сути компании нуждаются в шлюзе безопасности, который способен распознать и отклонить потенциально опасный запрос, а также единой платформе управления ИИ-рисками, ведь, судя по результатам исследования, сотрудники уже отправляют данные во внешние сервисы во всех организациях выборки. Если запретить это невозможно, остаётся контролировать канал», – сказал Юрий Шабалин, директор по безопасности ИИ AppSec Solutions.

Наибольший потенциал и наибольший риск сосредоточены в сегменте средних ИТ-компаниях со штатом 100–500 человек. Это компании, в которых решения зачастую принимаются «вручную».

«По данным исследования, 82% организаций, назвавших нехватку экспертизы главным барьером, не имеют программы обучения безопасности ИИ. Дефицит знаний порождает фобии и непонимание рисков. Экспертные рабочие группы при Минцифры, Правительстве и отраслевом консорциуме систематизируют угрозы и позволяют определить, для каких задач риск применения ИИ высокий, а для каких минимальный. Это позволяет безопасно внедрять ИИ даже при нехватке внутренней экспертизы», — сказал Антон Башарин, старший управляющий директор Swordfish Security.

• Подобрать защищенное облако IaaS ФЗ-152 на ИТ-маркетплейсе CNewsMarket