OpenAI создала метод текстовых водяных знаков для обнаружения контента, написанного ChatGPT
OpenAI — американская научно-исследовательская организация, занимающаяся разработками в области искусственного интеллекта. В состав OpenAI входят зарегистрированная в штате Делавэр некоммерческая организация OpenAI, Inc и её дочерняя коммерческая компания OpenAI Global, LLC. OpenAI ставит перед собой цель разработать «безопасный и полезный» сильный искусственный интеллект, который организация определяет как «высокоавтономные системы, превосходящие человека в выполнении наиболее экономически ценной работы». На пути к этой цели организация создала несколько больших языковых моделей, в том числе GPT-4 и ChatGPT, а также моделей для генерации изображений, как DALL-E; в прошлом она публиковала модели с открытым исходным кодом.
Некоммерческая организация OpenAI была основана в декабре 2015 года; её сопредседателями стали Сэм Олтмен и Илон Маск. Википедия
Читайте также:OpenAI обсуждает с Broadcom создание чипов для ИИMicrosoft Azure China предлагает китайскому бизнесу лазейку для ухода OpenAIВзлом OpenAI: угроза национальной безопасностиКитайские фирмы осваивают сферу ИИ после ухода OpenAIИлон Маск отказался от иска против OpenAI и Альтмана
ChatGPT — чат-бот с искусственным интеллектом, разработанный компанией OpenAI и способный работать в диалоговом режиме, поддерживающий запросы на естественных языках.
ChatGPT — большая языковая модель, для тренировки которой использовались методы обучения с учителем и обучения с подкреплением.
Данный чат-бот основывается на другой языковой модели от OpenAI — GPT-3.5 — улучшенной версии модели GPT-3. 14 марта 2023 года была выпущена языковая модель GPT-4, доступная тестировщикам и платным подписчикам ChatGPT Plus. Википедия
Читайте также:Илон Маск отказался от иска против OpenAI и АльтманаApple Intelligence: Siri получает трансплантацию мозга LLM, интеграцию ChatGPT и GenmojisНесколько экземпляров ChatGPT работают вместе, чтобы найти и использовать недостатки безопасностиChatGPT способен создавать атаки на чипы. Модель GPT-4 протестировали учёные UIUCЭнтузиаст оснастил NAS-накопитель мощным графическим процессором для ChatGPT
Инструмент добавляет шаблон в то, как модель большого языка (LLM) записывает свои выходные данные, позволяя OpenAI определять, была ли она создана ChatGPT. Однако эта закономерность остается незаметной для людей, что не влияет на качество LLM. Во внутренней документации говорится, что этот инструмент на 99,9% эффективен в обнаружении выходных данных ChatGPT, но OpenAI еще не выпустила его.
Хотя текстовые водяные знаки чрезвычайно эффективны для обнаружения контента, написанного ChatGPT, они не могут работать с выводами других LLM, таких как Gemini AI или Llama 3. Более того, этот метод можно легко обойти. Например, вы можете вставить вывод ChatGPT в Google Translate, преобразовать его на другой язык, а затем вернуться на английский, что приведет к эффективному удалению водяных знаков.
Иску́сственный интелле́кт (ИИ; англ. artificial intelligence, AI) — свойство искусственных интеллектуальных систем выполнять творческие функции, которые традиционно считаются прерогативой человека (не следует путать с искусственным сознанием); наука и технология создания интеллектуальных машин, особенно интеллектуальных компьютерных программ.
Искусственный интеллект связан со сходной задачей использования компьютеров для понимания человеческого интеллекта, но не обязательно ограничивается биологически правдоподобными методами.
Существующие на сегодня интеллектуальные системы имеют довольно узкие области применения. Википедия
Читайте также:Фирма заявляет, что стремительно растущая оценка ИИ Nvidia находится в «пузыре» и «переоценена»Голос Шепарда из Mass Effect присоединяется к протесту против злоупотребления ИИ в видеоиграхИсследователи разработали технологию для снижения энергопотребления ИИИсследователи разрабатывают ИИ, который шпионит через HDMI и антенныГжегож Стычень защищает художника, работавшего над "Помещичьими господами"
Еще один спорный момент, который OpenAI высказывает по поводу выпуска этого инструмента, заключается в том, что он утверждает, что он может быть предвзятым в отношении писателей, не являющихся носителями английского языка. Ранее в прошлом году компания выпустила инструмент генеративного обнаружения текста с использованием искусственного интеллекта, но прошло всего семь месяцев, прежде чем OpenAI отключила его из-за его низкого уровня обнаружения и склонности к ложным срабатываниям. Это даже привело к тому, что однажды профессор завалил целый класс, потому что все присланные работы были неточно помечены как сгенерированные ИИ.
Кроме того, OpenAI также рассматривает свою клиентскую базу: опросы клиентов показывают, что 69% пользователей ChatGPT считают, что этот инструмент приведет к ложным обвинениям в мошенничестве ИИ. 30% даже заявили, что, скорее всего, перейдут на конкурирующую программу LLM, если OpenAI внедрит этот инструмент. Широкое распространение детектора ChatGPT — еще одна проблема, с которой сталкивается компания, поскольку другие пользователи могут перепроектировать технику нанесения водяных знаков OpenAI и выпустить плагин или приложение для ее нейтрализации.
Тем не менее, OpenAI понимает риск, который контент, созданный ИИ, представляет для общества, и рассматривает другие альтернативы, помимо техники текстовых водяных знаков. Существует также спрос на детектор искусственного интеллекта: внутренние данные показывают, что 80% опрошенных людей во всем мире поддерживают его существование.
В настоящее время все еще остается вопросом, выпустит ли OpenAI свой инструмент и детектор текстовых водяных знаков или нет. Но она также понимает, что, будучи одной из ведущих организаций в разработке ИИ, она также должна предпринять шаги, чтобы обеспечить ответственное использование своих инструментов. Источники сообщают, что у OpenAI есть время до этой осени повлиять на общественное мнение относительно прозрачности ИИ. Что это значит, мы не знаем, но в одном мы уверены: мы должны критически относиться к тому, что читаем, и гарантировать, что получаем правду.
Источник: Tomshardware.com
0 комментариев