Отчёт Veracode-2025: почти половина кода, сгенерированного ИИ, остаётся небезопасной
Американская компания Veracode опубликовала ежегодный отчёт о безопасности программ, созданных крупными языковыми моделями. Анализ 80 типовых задач показал, что 45% решений, написанных искусственным интеллектом, содержат уязвимости, многие из которых входят в авторитетный список OWASP Top 10. Иначе говоря, речь идёт не о синтаксических огрехах, а о дырах, позволяющих атакующему получить контроль над системой или данными.
Хуже всего обстоят дела с Java: уязвимости обнаружены в 70% сгенерированных фрагментов. Python, JavaScript и C# выглядят немного надёжнее, но всё же не выходят из коридора 38–45%. При попытке решить задачи, связанные с XSS-атаками или лог-инъекциями, нейросети ошибались в 86–88% случаев. Примечательно, что повышение «творческих» способностей моделей почти не влияет на их безопасность: более ровный и читаемый код остаётся столь же уязвимым.
Эксперты отмечают, что доступность генераторов кода играет на руку не только разработчикам, но и злоумышленникам. Новичку достаточно пары запросов, чтобы получить рабочий эксплойт или скрипт сканирования, тогда как раньше требовались дни ручного анализа. В результате потенциальная поверхность атаки расширяется, а цикл реагирования сжимается до часов.
Чтобы сократить риски, Veracode рекомендует внедрять проверку безопасности на каждом этапе SDLC: использовать статический анализ исходников, регулярно сканировать открытые зависимости, настроить мониторинг CI/CD и подключить инструменты автоматического исправления. Подчёркивается, что в контексте ИИ-разработки желательно дополнительно валидировать запросы к модели и не полагаться на её «самоцензуру».
Veracode работает на рынке с 2006 года и предоставляет облачные сервисы SAST, DAST, SBOM и pentest тысячам компаний по всему миру. Инженеры фирмы активно применяют собственные AI-алгоритмы, чтобы оперативно выявлять и закрывать найденные уязвимости в приложениях клиентов.
