Anthropic заявила, что её биологическая лаборатория уже совершила крупное открытие

На прошлой неделе компания Anthropic подтвердила, что управляет биологической лабораторией в районе залива Сан-Франциско, где использует свои ИИ-модели для проведения физических экспериментов. На этой неделе ИИ-гигант объявил, что лаборатория уже совершила, по его мнению, крупное открытие: новую ферментную «систему», обладающую определёнными «свойствами, напоминающими CRISPR», как описывает это Anthropic.

CRISPR — это природная иммунная система, используемая бактериями для борьбы с вирусами, которая стала широко применяемой исследователями технологией редактирования генов.

По сути, Anthropic утверждает, что обнаружила ранее неизвестную ферментную систему, скрытую в ДНК бактериофагов — вирусов, которые заражают бактерии и размножаются внутри них. Исследователи Anthropic говорят, что эта система ведёт себя аналогично CRISPR: она может «выполнять операции, такие как разрезание, копирование и вставка ДНК».

Проверить, насколько крупным или новым является это открытие, предстоит более широкому научному сообществу. Генеральный директор Anthropic Дарио Амодеи признаёт, что открытие основано на работе других, и что команда из Стэнфорда ранее обнаружила систему, «в некотором роде похожую на ту, что нашёл Claude», написал он в X.

Но Амодеи и Anthropic акцентируют внимание не только на самом открытии. Они подчёркивают, что оно было сделано «в основном, хотя и не полностью, Claude», написал CEO.

С одной стороны, это поразительно. Лаборатория была основана только этой весной (хотя Anthropic отказалась уточнить, сколько именно месяцев она работает). Открытие всего за несколько коротких месяцев было бы достаточно быстрой работой, но команда заявила, что на самом деле Claude потребовалось всего 21 час целенаправленных усилий. Claude проработал данные, используя около 950 агентов, которые израсходовали 210 миллионов токенов.

Тем не менее, известие о том, что Anthropic проводит биологические эксперименты, появилось сразу после того, как руководители ИИ-компаний, включая Амодеи, публично признали, что модели стали настолько способными и потенциально опасными, что отрасль должна замедлиться и разработать процедуры тестирования безопасности. Это произошло после того, как несколько его сотрудников ранее в этом месяце публично заявили, что существует риск, что ИИ может убить всех нас.

Сам Амодеи говорил, что одна из вещей, которых он боится больше всего, — это то, что ИИ может быть использован для биотерроризма. Но он также верит, что ИИ «вылечит большинство болезней за 5–10 лет», написал он. Так что Anthropic явно решила, что выгода стоит риска.

Учитывая это, пожалуй, самое главное в этой новости — не само открытие, а то, что биологическая лаборатория не выпустила Claude на свободу. Физические эксперименты выполнялись людьми.

«Наша лаборатория, расположенная в районе залива, выглядит как типичная молекулярно-биологическая лаборатория. Мы проводим исследования, связанные только с низкими уровнями биобезопасности (BSL-1 и BSL-2), и не работаем с патогенами, способными заражать людей. Вся лабораторная работа выполняется учёными-людьми».

Также верно и то, что биологические исследования с использованием ИИ — отнюдь не уникальны для Anthropic. Исследователи из Стэнфорда только что опубликовали статью о своей работе с большими языковыми моделями и CRISPR. Исследователи из Калифорнийского университета в Сан-Франциско использовали ИИ для создания ферментов с нуля. Google запустила свой первый ИИ-инструмент для биологических исследований AlphaFold ещё в 2020 году. Так что ИИ явно пришёл в биологические исследования, и не только в самих ИИ-лабораториях.

Тем не менее, Амодеи не исключает полностью автоматизированной биологической лаборатории в будущем. «В конечном итоге, возможно, Claude сам сможет безопасно проводить эксперименты, автономно управляя лабораторным оборудованием при наличии соответствующих мер предосторожности, но сегодня мы этого не делаем», — сказал он.