Около 45% российских компаний, внедряющих искусственный интеллект, не выделяют бюджет на его защиту, и только четверть имеют формализованную политику информационной безопасности для ИИ-сервисов. Высокая доступность и распространенность технологии создает иллюзию ее безопасности.
Руководитель продуктового направления ООО «Некстби» Евгений Сурков отметил, что угрозы для искусственного интеллекта связаны с целенаправленным искажением или подменой данных для обучения или адаптации ИИ-модели. Помимо этого существует опасность скрытых от внешних наблюдателей изъянов, таких как преднамеренные и непреднамеренные искажения выдачи в результате заданных создателями ограничений, или выдача вредоносных результатов при определенных запросах.
«Как и для других систем, актуальны уязвимости уровня исполняемого кода и подмена информации на этапе показа пользователю (атаки на интерфейсы).В этой связи особое внимание нужно уделить проверке реакций ИИ-системы с проработкой потенциально разрушительных критичных сценариев ее воздействия на обычную инфраструктуру. К сожалению, помимо тестирования кода здесь будет необходимо тестирование модели, которая, в отсутствие специальной методологии анализа, предстает «черным ящиком». Пока что применение ИИ на критичных участках — при взаимодействии с реальным миром и воздействии на реальную цифровую инфраструктуру — требует обязательной проверки и взятия на себя ответственности человеком. Вместо сложной защиты «в лоб» можно предложить усложнить атаки. Тут выглядит интересным решением использование «оркестров» из нескольких независимых ИИ-моделей с мажорированием, когда модели либо перепроверяют результаты друг друга, либо предоставляют человеку-оператору выбор из нескольких вариантов. Это, хоть и немного медленнее и сильно затратное в организации, чем одна ИИ-модель — гораздо безопаснее, особенно в плане сохранения рабочего тонуса операторов», — сказал он.
Полный текст статьи Ивана Иванова, Comnews: https://www.comnews.ru/content/245432/2026-05-22/2026-w21/1008/pochti-polovina-rossiyskikh-kompaniy-ne-tratyatsya-zaschitu-ii
