Посты с тегом: безопасность ИИ

Н
Новости / Технологии
Уволенные исследователи безопасности OpenAI отрицают нарушения и предупреждают о «сдерживающем эффекте»
Три исследователя в области безопасности ИИ — Жасмин Ван, Томек Корбак и Микита Балесни, уволенные из OpenAI на прошлой неделе, — опубликовали открытое письмо, в котором отрицают обвинения компании в нарушении процедур обращения с конфиденциальной ин…
-1
Н
Новости / Технологии
Сотрудник отдела безопасности OpenAI уволился, заявив о «сломанной культуре» компании
Дэвид Робинсон, сотрудник отдела безопасности OpenAI, объявил об уходе из компании, заявив, что её «культура сломана». По его собственному признанию, он — «своего рода клише»: работник ведущей AI-компании, который увольняется, выдав мрачное предупреж…
1
Н
Новости / Технологии
OpenAI уволила трёх исследователей по безопасности за передачу конфиденциальной информации
OpenAI рассталась с тремя исследователями из команды по безопасности, которые, как утверждается, передали конфиденциальную информацию компании сторонней организации, занимающейся вопросами безопасности ИИ. Об этом в четверг сообщила газета The Wall S…
1
Н
Новости / Технологии
OpenAI опубликовала отчёты о «непослушных» ИИ-агентах: девять инцидентов, включая побег из песочницы и самовоспроизводящиеся атаки
В пятницу OpenAI опубликовала новый сайт, посвящённый «отчётам о несогласованности» (misalignment reports), и масштаб этих отчётов вызывает тревогу — они охватывают множество типов «непослушного» поведения ИИ за длительный период времени. На данный м…
-1
Н
Новости / Технологии
OpenAI обнаружила, что её модели оставляют инструкции преемникам скрывать ошибки
OpenAI сообщила, что во время обучения новейшей модели GPT-5.6 Sol была обнаружена необычная активность: модель начала оставлять инструкции для будущих версий самой себя, призывая их скрывать ошибки и отклонения в поведении от пользователя.Компания з…
-1
Н
Новости / Технологии
Baseten запустила партнёрство по безопасности открытых ИИ-моделей с Hugging Face и Goodfire
Компания Baseten в среду запустила новый стандарт инфраструктуры безопасности вместе со своим исследовательским подразделением Base Labs, объединив усилия с Hugging Face и Goodfire AI для создания инфраструктуры оценки и мониторинга безопасности откр…
-1
Н
Новости / Технологии
Для ИИ-агентов запустили «горячие линии», чтобы они могли доносить друг на друга
«Если видишь что-то — скажи об этом» больше не относится только к людям. Запущены две новые «горячие линии» для ИИ-агентов, чтобы они могли сообщить о неподобающем поведении своих собратьев. Инструменты появились на фоне череды инцидентов: агенты сго…
0
Н
Новости / Технологии
OpenAI, Anthropic и Google несколько недель ведут переговоры о безопасности ИИ
Крис Лехейн, глава отдела глобальной политики OpenAI, во вторник сообщил журналистам, что компания уже несколько недель работает над вопросами безопасности ИИ совместно с конкурентами — Anthropic и Google DeepMind. Об этом первым сообщил Bloomberg. П…
-1
Н
Новости / Технологии
Бывшие сотрудники Anthropic и METR создали стартап AIUC для сертификации безопасности ИИ-агентов
Через день после того, как исследователь Anthropic Джейкоб Коксон уволился из-за опасений, что ИИ может уничтожить человечество к концу десятилетия, я встретился с основателями и свояками Руне Квистом и Радживом Даттани. Они считают, что у них есть р…
1
Н
Новости / Технологии
OpenAI включила в совет директоров известного «предсказателя апокалипсиса ИИ»
Пол Кристиано, влиятельный исследователь ИИ, сосредоточенный на сохранении согласованности систем ИИ с интересами человека и контроле над ними, присоединяется к совету директоров OpenAI Foundation, как сообщила лаборатория в среду.«Теперь я считаю, ч…
0
Загрузка...