Бот-хакер AI находит ошибки для Amazon, Disney, PayPal

Бот AI от Xbow занял первое место на американском рейтинге HackerOne благодаря своим способностям к автоматизации пенетрационного тестирования.

Хакер Xbow занял первое место в ведущем американском рейтинге по обнаружению уязвимостей программного обеспечения, как впервые сообщил Bloomberg. Однако Xbow — это не человек, а инструмент искусственного интеллекта, созданный стартапом с тем же названием.

Искусственный интеллект Xbow автоматизирует процесс пентестирования, в ходе которого хакеры пытаются найти слабые места в корпоративном программном обеспечении, прежде чем преступники смогут их использовать. Компанию, основанную в январе 2024 года ветераном GitHub Оеге де Муром, только что привлекла 75 миллионов долларов для развития своей технологии, как сообщает Bloomberg.

Де Мур объяснил: «Автоматизируя это, мы можем полностью изменить уравнение», — как сообщает Bloomberg.

Текущая практика ручного тестирования на проникновение стоит около $18,000 за каждую систему и требует недель для завершения. Xbow стремится позволить компаниям проводить непрерывное тестирование систем, а также более частое тестирование, чтобы обнаруживать проблемы безопасности до запуска новых продуктов.

Xbow работает через HackerOne, платформу, где компании вознаграждают хакеров за сообщения об ошибках. Когда искусственный интеллект Xbow обнаруживает уязвимость, человек проверяет ее дважды, чтобы избежать ошибок. ИИ уже сообщил о ошибках в таких крупных компаниях как Amazon, Disney, PayPal и Sony, как сообщает Bloomberg.

Однако у технологии все еще есть ограничения. Хотя Xbow превосходно обнаруживает ошибки в кодировке и распространенные проблемы безопасности, ему трудно интерпретировать более сложные вопросы дизайна продукта, например, различать конфиденциальную информацию, которая должна оставаться приватной, как сообщает Bloomberg.

Чтобы решить эту проблему, стартап планирует разработать функции, которые не только определяют проблемы, но и предлагают предложения для исправлений и улучшений в коде.

Партнер Altimeter Апурв Агравал сказал Bloomberg: «Кибербезопасность переживает кризис доверия […] То, что хотят главные информационные безопасники, — это меньше, а не больше [уведомлений]. Искусственный интеллект может помочь.» Но он добавил, что применение инструментов искусственного интеллекта, таких как Xbow, потребует от компаний изменения давно сложившихся процессов и привычек.

По мере того как кибератаки становятся все более автоматизированными, инструменты вроде Xbow открывают новую эпоху, когда машины защищают от машин.