ChatGPT помогает искать места на фото. Опасность доксинга

С выпуском своих последних моделей ранее на этой неделе OpenAI

Thumbnail: OpenAIOpenAI — американская научно-исследовательская организация, занимающаяся разработками в области искусственного интеллекта. В состав OpenAI входят зарегистрированная в штате Делавэр некоммерческая организация OpenAI, Inc и её дочерняя коммерческая компания OpenAI Global, LLC. OpenAI ставит перед собой цель разработать «безопасный и полезный» сильный искусственный интеллект, который организация определяет как «высокоавтономные системы, превосходящие человека в выполнении наиболее экономически ценной работы». На пути к этой цели организация создала несколько больших языковых моделей, в том числе GPT-4 и ChatGPT, а также моделей для генерации изображений, как DALL-E; в прошлом она публиковала модели с открытым исходным кодом. Некоммерческая организация OpenAI была основана в декабре 2015 года; её сопредседателями стали Сэм Олтмен и Илон Маск. Википедия

Читайте также:OpenAI выпускает семейство моделей GPT-4.1 с обширным контекстом и улучшенной производительностьюOpenAI может купить стартап io Products за $500 млнИлон Маск против коммерциализации OpenAIOpenAI не хватает мощностей для GPT-4.5OpenAI и Broadcom планируют выпустить образцы специализированных чипов ИИ в этом году

, похоже, непреднамеренно настроил ChatGPT

Thumbnail: ChatGPTChatGPT — чат-бот с искусственным интеллектом, разработанный компанией OpenAI и способный работать в диалоговом режиме, поддерживающий запросы на естественных языках. ChatGPT — большая языковая модель, для тренировки которой использовались методы обучения с учителем и обучения с подкреплением. Данный чат-бот основывается на другой языковой модели от OpenAI — GPT-3.5 — улучшенной версии модели GPT-3. 14 марта 2023 года была выпущена языковая модель GPT-4, доступная тестировщикам и платным подписчикам ChatGPT Plus. Википедия

Читайте также:Новая платформа искусственного интеллекта — это как если бы ChatGPT мог управлять бизнесомChatGPT вызывает зависимость у пользователейИскусственный интеллект приходит в умные ручки, включая рукописный ввод в текст и ChatGPTGrok 3 Илона Маска уже доступен и превосходит ChatGPT в некоторых тестахИИ получает агентов: ChatGPT теперь имеет глубокие исследования с возможностями агентов

, чтобы он стал мощным гео-угадателем. Недавно доступные o3 и o4-mini настолько хороши в этой задаче «обратного поиска местоположения», что демонстрация этой новой функциональности стала вирусным трендом в социальных сетях, отмечает TechCrunch. Однако это очевидное улучшение в поиске географической иголки в стоге сена вызывает опасения по поводу конфиденциальности. И профессиональные гео-угадатели на платформах социальных сетей тоже могут быть немного обеспокоены.

Эта новая способность ChatGPT является прекрасным примером того, как усиленное визуальное мышление было перенесено на платформу с обновлениями модели. Теперь он может рассуждать на основе содержимого загруженных изображений и выполнять некоторые задачи в стиле Photoshop, такие как обрезка, поворот и масштабирование.

Согласно отчету источника, есть множество примеров того, как пользователи этого знаменитого чат-бота на основе искусственного интеллекта теперь используют его для детализации местоположения различных изображений. Популярная шутка — попросить ChatGPT представить, что он играет в онлайн-игру GeoGuessr, и предоставить ответ на основе предоставленных изображений. Ниже мы вставили пример навыков ChatGPT по определению местоположения, которым поделился энтузиаст ИИ на YouTube и Twitter Брендан Джоветт.

Как отмечает Джоуэтт, недавно появившаяся популярная функция ChatGPT «обратный поиск изображений» имеет последствия для конфиденциальности и вызывает особую обеспокоенность в отношении доксинга. Доксинг — это публичный обмен личной информацией человека, в частности, местоположением/местом жительства, в широком Интернете. Обычно людей доксингуют со злым умыслом, когда преступник надеется направить психов и чудаков к жертве(ам).

Интересно, что TechCrunch отмечает, что способность «Geoguessr» не является новой для ChatGPT с выпуском o3

Thumbnail: ОзонОзон (от др.-греч. ὄζω — пахну) — аллотропная модификация кислорода, состоящая из трёхатомных молекул O3. При нормальных условиях — светло-голубой газ. При сжижении превращается в жидкость цвета индиго. Википедия

и o4-mini. Это просто тенденция/осведомленность, которая раздулась. Говорят, что o3 особенно хорош в обратном поиске местоположения, но GPT-4o, модель, выпущенная без рассуждения об изображении, иногда может опережать o3 и выдавать тот же правильный ответ «чаще, чем нет», говорит TechCrunch.

Прежде чем мы продолжим, стоит упомянуть, что гео-угадывание ИИ не является полностью надежной или 100% точной функцией ChatGPT с последними моделями. Это неудивительно. Кроме того, TechCrunch получил заявление от OpenAI о ее вирусном успехе GeoGuessr. Вкратце, пионер искусственного интеллекта сказал, что, хотя он работает над улучшением своих инструментов с помощью таких вещей, как визуальное рассуждение, он также тратит время на обучение моделей отклонять запросы на личную или конфиденциальную информацию. Творческие пользователи могут некоторое время обходить меры безопасности, но OpenAI указал, что примет меры, если увидит доказательства злоупотребления своей политикой использования.

Источник: Tomshardware.com

Подписаться на обновления Новости / Технологии

ℹ️ Помощь от ИИ

В статье есть ошибки или у вас есть вопрос? Попробуйте спросить нашего ИИ-помощника в комментариях и он постарается помочь!

⚠️ Важно:

• Rutab-Бот читает ваши комментарии и готов вам помочь.
• Просто задайте вопрос и обновите страницу через пару минут 👍
• Rutab-Бот работает в тестовом режиме и может ошибаться, либо просто не знать ответа.
• К ИИ-помощнику можно обратиться по имени Rutab или Рутаб.

Топ дня 🌶️


0 комментариев

Оставить комментарий


Новые комментарии

а разве рыцари Круглого стола и викинги не были чернокожими???
  • Анон
игра с формированием ложного самомнения через подхалимаж. ---По образу и подобию .....
  • Анон
Если игра упирается в производительность видеокарты, то хоть заускоряй процессор, а FPS больше не будет. Я у себя на синтетических тестах получил лишь меньшую задержку памяти. В играх практически...
  • Анон
Всё в порядке с физикой: источник может быть меньше четверти длины волны. Даже одиночный ион в ионной ловушке может излучать видимый свет (а размер меньше 0.2нм).
  • Анон
Можно делать смартфоны и планшеты на этом процессоре и наконец то использовать полноценную windows. Это отличная замена процессорам arm
  • Анон
Странно почему не 50 долларов.
  • Анон
Понимаю мощь производительность и все дела, но как черт возьми тепло отделять от камня если его прям нагрузить
  • Анон
Не предвзятость это - "Интересно, что Arc B580 проигрывает RTX 4060 в OpenCL" - где разница на невероятных 3,5 %, "но реабилитируется с НЕЗНАЧИТЕЛЬНЫМ 6%-ным преимуществом в Vulkan.". Не...
  • Анон
И теперь нельзя отключить авто обновление!!! Это жесть
  • Анон
Не знаю, я купил Cougar850 80Gold за 10К₽ и нормально
  • Анон

Смотреть все