Искусственный интеллект меняет правила игры в безопасной разработке. Он помогает писать код быстрее, но одновременно увеличивает риск ошибок и ускоряет поиск уязвимостей злоумышленниками.
Как показало исследование ГК «Солар» и УЦСБ, инструменты с ИИ для написания и анализа программного кода используют 80 % опрошенных российских компаний. При этом 95 % респондентов считают, что такая практика создаёт риски, а 40 % оценивают их как критические. Треть опрошенных компаний признали, что никак не контролируют применение ИИ внутри организации. В целом риски использования ИИ можно разделить на три группы: Технические. Правовые и регуляторные. Организационные.
Применительно к внедрению ИИ организационные риски обычно связаны с дефицитом кадров, способных оценивать работу ИИ, неконтролируемым теневым использованием ИИ сотрудниками и снижением ответственности персонала за принимаемые решения. К ним также относится сопротивление внедрению ИИ-систем: сотрудники могут избегать использования инструментов, игнорировать их или применять некорректно.
Руководитель отдела разработки пользовательского интерфейса компании «НЕКСТБИ» Григорий Голиков среди организационных рисков выделил появление кода, который внешне работает, но не адаптируется, не оптимизирован и небезопасен: непрозрачен, потенциально уязвим и не проходит проверку. Это следствие иллюзии, что носитель бизнес-логики может с помощью ИИ генерировать код без необходимой подготовки. В результате без инженерной дисциплины и контроля со стороны разработчиков безопасность, качество и жизнеспособность продукта оказываются под угрозой.
Источник: https://www.anti-malware.ru/analytics/Threats_Analysis/Why-is-vibe-coding-dangerous