Сэм Альтман предупреждает: ChatGPT — мощный инструмент, но не стоит доверять ему безоговорочно

Сэм Альтман, генеральный директор OpenAI, призывает к осторожности при использовании ChatGPT. Популярный чат-бот, несмотря на свою мощь, часто генерирует ошибочную информацию и требует проверки — предупреждает Альтман в первом эпизоде подкаста OpenAI.

ChatGPT завоевал огромную популярность, помогая миллионам пользователей с домашними заданиями, исследованиями и даже родительскими советами. Однако Альтман подчеркивает, что эта технология не является безошибочной. «Люди удивительно сильно доверяют ChatGPT, несмотря на то, что ИИ галлюцинирует», — говорит он.

Галлюцинации — это явление, при котором модель генерирует убедительную, но ложную или вводящую в заблуждение информацию, что связано с её работой, основанной на предсказании слов, а не на реальном понимании мира. Глава OpenAI обращает внимание на необходимость прозрачности.

«Это не сверхнадежный инструмент, мы должны быть в этом честны», — отмечает Альтман.

Он подчеркивает, что пользователи не должны безоговорочно принимать ответы чат-бота, особенно в важных вопросах. Популярность ChatGPT растет, что увеличивает риски, связанные с избыточным доверием.

Альтман также анонсировал новые функции, такие как контекстная память и возможные модели, поддерживаемые рекламой, что вызывает опасения по поводу конфиденциальности и использования данных. Новые решения должны улучшить персонализацию.

Дебаты о надежности ИИ ведутся и среди экспертов. Джеффри Хинтон, пионер в области ИИ, признался в интервью CBS, что сам слишком часто доверяет GPT-4, хотя понимает, что должен быть скептиком.

Тестируя модель простой загадкой, он заметил, что ИИ по-прежнему допускает ошибки, но будущие версии, такие как GPT-5, могут быть более точными. Сам Альтман советует: ИИ — мощный инструмент, но всегда стоит проверять его ответы.