Несколько экземпляров ChatGPT работают вместе, чтобы найти и использовать недостатки безопасности
Команды экземпляров GPT-4 могут работать вместе для автономного выявления и использования уязвимостей нулевого дня без какого-либо описания природы уязвимости. Эта новая разработка, в которой агент по планированию командует командой специалистов LLM, работает быстрее и умнее, чем эксперты-люди или специальное программное обеспечение.
Иску́сственный интелле́кт (ИИ; англ. artificial intelligence, AI) — свойство искусственных интеллектуальных систем выполнять творческие функции, которые традиционно считаются прерогативой человека (не следует путать с искусственным сознанием); наука и технология создания интеллектуальных машин, особенно интеллектуальных компьютерных программ.
Искусственный интеллект связан со сходной задачей использования компьютеров для понимания человеческого интеллекта, но не обязательно ограничивается биологически правдоподобными методами.
Существующие на сегодня интеллектуальные системы имеют довольно узкие области применения. Википедия
Читайте также:Реакция на вакансию инженера ИИ для Dungeons and DragonsИИ от Rockstar Games не сократит занятостьСоздатель The Last of Us и Uncharted подвергся критикеРежиссёр The Last of Us: ИИ «совершит революцию» в создании игрЭволюция искусственного интеллекта в персональных компьютерах: взгляд главы Asus
ChatGPT — чат-бот с искусственным интеллектом, разработанный компанией OpenAI и способный работать в диалоговом режиме, поддерживающий запросы на естественных языках.
ChatGPT — большая языковая модель, для тренировки которой использовались методы обучения с учителем и обучения с подкреплением.
Данный чат-бот основывается на другой языковой модели от OpenAI — GPT-3.5 — улучшенной версии модели GPT-3. 14 марта 2023 года была выпущена языковая модель GPT-4, доступная тестировщикам и платным подписчикам ChatGPT Plus. Википедия
Читайте также:ChatGPT способен создавать атаки на чипы. Модель GPT-4 протестировали учёные UIUCЭнтузиаст оснастил NAS-накопитель мощным графическим процессором для ChatGPTChatGPT учат играть в Red Dead Redemption IIРазработчик внедрил GPT-2 в Excel, чтобы показать как «думает» искусственный интеллектGPT-4V плохо играет в Doom... пока
Как указано в июньском исследовании и в блоге исследователя Дэниела Канга, HPTSA использует набор программ LLM для решения проблем с более высоким уровнем успеха. Канг описывает необходимость этой системы: «Хотя отдельные агенты ИИ невероятно мощны, они ограничены существующими возможностями LLM. Например, если агент ИИ идет по одному пути (например, пытается использовать XSS), это сложно агент отступит и попытается использовать другую уязвимость». Канг продолжает: «Более того, студенты LLM работают лучше всего, когда сосредотачиваются на одной задаче».
Агент планировщика осматривает веб-сайт или приложение, чтобы определить, какие эксплойты можно попробовать, поручая их менеджеру, который делегирует полномочия агентам LLM для конкретных задач. Эта система, хотя и сложна, представляет собой значительное улучшение по сравнению с предыдущими исследованиями команды и даже с открытым исходным кодом программного обеспечения для сканирования уязвимостей. В испытании 15 уязвимостей безопасности метод HPTSA успешно использовал 8 из 15 уязвимостей, обойдя одного агента GPT-4, который смог получить только 3 из 15, и уничтожил программное обеспечение ZAP и MetaSploit, которое не смогло использовать ни одну уязвимость..
HPTSA был побежден только агентом GPT-4, которому в подсказке было дано описание уязвимости, что имело 11 успехов из 15. Этот агент стал вершиной первоначального апрельского исследования UIUC, которое оказалось превосходящим хакеров-людей по скорости и эффективности.
OpenAI — американская научно-исследовательская организация, занимающаяся разработками в области искусственного интеллекта. В состав OpenAI входят зарегистрированная в штате Делавэр некоммерческая организация OpenAI, Inc и её дочерняя коммерческая компания OpenAI Global, LLC. OpenAI ставит перед собой цель разработать «безопасный и полезный» сильный искусственный интеллект, который организация определяет как «высокоавтономные системы, превосходящие человека в выполнении наиболее экономически ценной работы». На пути к этой цели организация создала несколько больших языковых моделей, в том числе GPT-4 и ChatGPT, а также моделей для генерации изображений, как DALL-E; в прошлом она публиковала модели с открытым исходным кодом.
Некоммерческая организация OpenAI была основана в декабре 2015 года; её сопредседателями стали Сэм Олтмен и Илон Маск. Википедия
Читайте также:Председатель TSMC CC Wei о Сэме Альтмане из OpenAI: «слишком агрессивен»Скарлетт Йоханссон не согласилась предоставить свой голос OpenAIMicrosoft в ближайшее время выпустит собственные чипы Cobalt для облачной платформы AzureOpenAI объявляет о конкуренте Apple Siri, GPT-4o и новом клиенте для настольных ПКOpenAI подал на сабреддит жалобу на авторские права за использование логотипа ChapGPT
Исследования команды UIUC продолжают выявлять тревожную истину о том, что большие языковые модели обладают возможностями, превосходящими те, которые очевидны на первый взгляд. OpenAI оценивает безопасность своего программного обеспечения на основе того, что он может получить от чат-бота поверхностного уровня, но при осторожных подсказках ChatGPT можно использовать для взлома кибербезопасности или даже научить вас готовить метамфетамин.
Источник: Tomshardware.com
0 комментариев