Искусственный интеллект возглавил рейтинг хакеров, ищущих уязвимости в системах
В мире киберпреступности и хакерства появление ИИ стало благом для злоумышленников, предоставив им новые способы кражи аккаунтов, получения важной информации или фишинга. Однако не всё так плохо: оказалось, что один ИИ настолько эффективен в поиске уязвимостей в коде, что сейчас возглавляет американский рейтинг HackerOne.
Компания, разработавшая эту ИИ-модель, называется Xbow (не путать с Xbox) и дала системе такое же название. Xbow — относительно новый стартап: как сообщает Bloomberg, он существует всего год. За это время проект привлек $75 млн (около 6,2 млрд руб.) инвестиций, и, учитывая его успехи в поиске уязвимостей, можно ожидать роста интереса со стороны инвесторов.
Xbow не предлагает ничего принципиально нового: этичные хакеры годами используют автоматизированные инструменты для тестирования кода и веб-сайтов. Однако ИИ особенно полезен в этой сфере, поскольку отлично справляется с анализом больших объемов данных и поиском закономерностей.
ИИ Xbow проводит автоматизированное тестирование на проникновение, имитируя кибератаки и эксплуатацию уязвимостей. Раньше этот процесс выполнялся вручную, что делало его дорогим и медленным. Из-за высокой стоимости некоторые компании выпускают код без проверки на безопасность.
Тот факт, что Xbow возглавляет рейтинг HackerOne, говорит о его эффективности. Однако система не идеальна: иногда ИИ «галлюцинирует» — выдает ошибочные результаты из-за недостатка данных. Компания решает эту проблему, вручную проверяя каждую обнаруженную уязвимость.
Ещё один недостаток — отсутствие контекстного понимания. Как пояснил сооснователь Xbow Оеге де Мур, «при анализе медицинского сайта ИИ нужно явно указывать, что рецепты должны оставаться конфиденциальными».
Учитывая, насколько важна безопасность памяти в современных программах (чтобы избежать уязвимостей), можно ожидать появления новых проектов вроде Xbow. Если они будут сочетать скорость ИИ и проверку человеком, это станет одним из главных достижений искусственного интеллекта.
0 комментариев