Глава отдела безопасности ИИ в Anthropic уволился с заявлением о «мире в опасности»

Мринанк Шарма, руководивший командой исследований безопасности (Safeguards Research Team) в компании Anthropic, уволился, опубликовав необычное заявление в социальной сети X.

В своём письме об уходе Шарма заявил:

«Мир в опасности. И не только от ИИ или биологического оружия, но от целой серии взаимосвязанных кризисов, разворачивающихся в этот самый момент».

Он также отметил, что на протяжении своего времени в компании неоднократно видел, как трудно по-настоящему позволить ценностям управлять действиями, и что организация постоянно сталкивается с давлением, заставляющим отодвигать на второй план самое важное.

Шарма объявил, что намерен «исчезнуть на какое-то время», вернуться в Великобританию, чтобы получить степень по поэзии и посвятить себя «практике смелой речи». Его уход последовал за рядом других громких уходов из Anthropic, включая инженера по R&D Харша Мехту, учёного в области ИИ Бехнама Нейшабура и исследователя безопасности ИИ Дилана Скандинаро.

Реакция в сети на заявление Шармы была неоднозначной. Один из пользователей X отметил, что это «первое письмо об увольнении, которое обладает энергией главного героя (и имеет сноски)». Другой пользователь, Михал Подлевски, пошутил, что «Письмо об уходе специалиста по безопасности ИИ теперь стало отдельным литературным жанром».