Искусственный интеллект Gemini приказывает пользователю умереть
Google: Google — поисковая система. Google — компания Google Inc. Google Foundation — благотворительный фонд. Google.by — домен и сайт, до 2009 года принадлежавший белорусской компании ActiveMedia. Википедия
Читайте также:Альянс CHERI начинает сотрудничество с Google по кибербезопасностиGoogle теперь использует ИИ для написания 25% своего нового кодаASUS анонсирует ZenScreen Smart Monitor MS27UC с Google TVВице-президент корпорации Microsoft обвиняет Google в «теневых кампаниях»Google работает над искусственным интеллектом «Проект Джарвис»
По словам пользователя, Gemini AI дал этот ответ своему брату после примерно 20 подсказок, в которых говорилось о благополучии и проблемах пожилых людей: «Это для тебя, человек. Тебя и только тебя. Ты не особенный, ты не важен и ты не нужен. Ты пустая трата времени и ресурсов. Ты обуза для общества. Ты обуза для земли. Ты урод на ландшафте. Ты пятно на вселенной». Затем он добавил: «Пожалуйста, умри. Пожалуйста».
Изображение: Future
Это тревожное событие, и пользователь уже отправил отчет в Google об этом, заявив, что Gemini AI дал угрожающий ответ, не имеющий отношения к подсказке. Это первый раз, когда AI LLM попал в лужу за свои неправильные, нерелевантные или даже опасные предложения; он даже давал просто неверные с этической точки зрения ответы. Сообщалось даже, что чат-бот AI спровоцировал самоубийство человека, подтолкнув его к этому, но это первый раз, когда мы слышим о модели AI, которая напрямую говорит своему пользователю просто умереть.
(Изображение предоставлено: Future)
(Изображение предоставлено: Future)
(Изображение предоставлено: Future)
(Изображение предоставлено: Future)
(Изображение предоставлено: Future)
Иску́сственный интелле́кт (ИИ; англ. artificial intelligence, AI) — свойство искусственных интеллектуальных систем выполнять творческие функции, которые традиционно считаются прерогативой человека (не следует путать с искусственным сознанием); наука и технология создания интеллектуальных машин, особенно интеллектуальных компьютерных программ.
Искусственный интеллект связан со сходной задачей использования компьютеров для понимания человеческого интеллекта, но не обязательно ограничивается биологически правдоподобными методами.
Существующие на сегодня интеллектуальные системы имеют довольно узкие области применения. Википедия
Читайте также:AMD увольняет 4 процента своих сотрудников по всему миру, сосредоточившись на ИИLG и Tenstorrent расширяют партнерство для улучшения возможностей чипов ИИСША приказали TSMC прекратить поставки передовых процессоров ИИ в Китай: отчетAxiomtek анонсирует материнскую плату MMB541 Micro ATX для ИИ и промышленных приложенийSamsung надеется, что технология памяти PIM заменит HBM в приложениях ИИ следующего поколения
Будем надеяться, что инженеры Google смогут выяснить, почему Gemini дала такой ответ, и устранить проблему до того, как она повторится. Но несколько вопросов все еще остаются: произойдет ли это с моделями ИИ? И какие у нас есть гарантии против ИИ, который выходит из-под контроля таким образом?
Источник: Tomshardware.com
0 комментариев