Сэм Альтман сравнил ИИ с Кольцом Всевластия после поджога своего дома

Глава OpenAI Сэм Альтман высказался о потенциальной опасности искусственного интеллекта, сравнив его с «Кольцом Всевластия» из «Властелина колец», после инцидента с поджогом его дома.

На прошлой неделе в дом Альтмана в Сан-Франциско был брошен зажигательный снаряд. По словам CEO OpenAI, устройство отскочило от стены, и никто не пострадал. Полиция задержала 20-летнего подозреваемого, мотивы которого пока неясны.

В своём блоге Альтман написал, что работа над созданием общего искусственного интеллекта (ИИ, способного сравниться с человеческим) несёт в себе динамику «кольца власти», заставляющую людей совершать безумные поступки.

«Оно обладает настоящей динамикой "кольца власти" и заставляет людей делать сумасшедшие вещи», — заявил Альтман.

Он подчеркнул, что не считает сам ИИ злом, подобным Кольцу, но проблема заключается в философии тотального контроля над этой технологией. Альтман призвал к демократизации ИИ и распределению ответственности, заявив, что OpenAI хочет быть «голосом и заинтересованной стороной, но не обладать всей властью».

В конце своего обращения Альтман попросил снизить накал риторики и избегать буквальных взрывов. Этот инцидент произошёл на фоне продолжающейся критики политики безопасности OpenAI. Ранее из компании ушёл один из руководителей из-за опасений, что её контракты с правительством США могут привести к «слежке за американцами без судебного надзора».