Калифорнийский сенатор предложил обязать компании ИИ публиковать политики безопасности

Калифорнийский законодатель вновь пытается регулировать искусственный интеллект в штате после того, как прошлогодний законопроект, который возлагал бы ответственность на крупные компании за вред, причиненный их технологиями, был отклонен губернатором Гэвином Ньюсомом.

Сенатор штата Скотт Винер, демократ из Сан-Франциско, представил законопроект, обязывающий компании, разрабатывающие ИИ-модели с определенным уровнем вычислительной мощности, публиковать протоколы безопасности, оценивающие потенциальные катастрофические риски для человечества. Согласно закону, компании также должны будут сообщать о любых «критических инцидентах безопасности», таких как кража конфиденциальных технических данных, генеральному прокурору штата. Под действие законопроекта могут попасть OpenAI, Google (Alphabet Inc.) и Anthropic.

Эти первые в стране требования к прозрачности являются частью поправок, опубликованных во вторник к законопроекту SB 53, который Винер представил ранее в этом году. Законодательство также включает защиту для информаторов внутри ИИ-компаний и создание публичного облака для обеспечения недорогого доступа к вычислительным мощностям для стартапов и академических исследователей.

«По мере стремительного развития ИИ критически важно, чтобы законодатели работали с ведущими экспертами по ИИ над созданием политик, которые поддерживают огромный потенциал технологии, одновременно защищая от существенных рисков», — заявил Винер в подготовленном заявлении. «SB 53 находит правильный баланс между стимулированием инноваций и установлением ограничений для обеспечения доверия, справедливости и подотчетности в самой впечатляющей новой технологии за последние годы».

Предложенные требования появились после того, как Сенат США недавно заблокировал попытку запретить отдельным штатам регулировать ИИ в этой быстро развивающейся сфере. Усилия Винера продвинуть регулирование, несмотря на предыдущую неудачу, показывают, что вопрос регулирования ИИ остается популярным среди законодателей, стремящихся защитить общество от потенциально разрушительных последствий технологии.

Ранее Винер разработал законопроект SB 1047, который вызвал резкую критику со стороны некоторых ИИ-компаний, лидеров технологической индустрии и венчурных капиталистов Кремниевой долины из-за положения о возложении ответственности на компании за катастрофический вред, причиненный их технологиями. Хотя SB 1047 был принят законодательным собранием Калифорнии, он был в итоге отклонен Ньюсомом, назвавшим его слишком обременительным.

В отличие от SB 1047, новый законопроект SB 53 не содержит положений об ответственности, но включает требования к прозрачности и потенциальные штрафы за несоблюдение.

После отклонения SB 1047 Ньюсом создал рабочую группу по передовым ИИ-моделям, в которую вошла известный исследователь ИИ Фей-Фей Ли, выступавшая против прошлогоднего законопроекта. Группе было поручено разработать рекомендации по политике для штата. Новые требования к прозрачности в SB 53 отражают общие рекомендации рабочей группы, представленные в недавнем отчете.

Такие компании, как Meta Platforms Inc., Google, OpenAI и Anthropic, уже регулярно публикуют руководства по безопасности для своих моделей. SB 53 направлен на стандартизацию этих процедур.

Измененный законопроект, который Винер назвал «работой в процессе», должен быть рассмотрен комитетом Ассамблеи Калифорнии в конце этого месяца. Сенатор заявил, что в ближайшие недели будет обсуждать предложение с заинтересованными сторонами для его доработки.

* Meta, Facebook и Instagram запрещены в России.