Глава Anthropic призвал правительство создать стандарты безопасности для ИИ

Краткий пересказ от РИА ИИ

• Глава компании Anthropic Дарио Амодей заявил о необходимости участия правительства в разработке стандартов безопасности для выпуска новых моделей искусственного интеллекта.
• Дарио Амодей призвал замедлить разработку более мощных моделей искусственного интеллекта из соображений безопасности, и эту идею поддержали Илон Маск и Сэм Альтман.

ВАШИНГТОН, 13 сен. Глава компании Anthropic Дарио Амодей заявил о необходимости участия правительства в разработке стандартов безопасности для выпуска новых моделей искусственного интеллекта.
В субботу Амодей призвал замедлить разработку более мощных моделей искусственного интеллекта из соображений безопасности. Американский миллиардер Илон Маск, которому принадлежит компания xAI, а также глава OpenAI Сэм Альтман уже выразили согласие с этой идеей.

«Думаю, следующим шагом после этого, в той или иной форме, должно стать сотрудничество компаний для выработки общих стандартов безопасности при выпуске (моделей ИИ — ред.), возможно, чего-то, касающегося темпов их выпуска … Это нужно обсуждать при участии правительства», — сказал Амодей телеканалу CBS.

Ранее исследователь Anthropic Джейкоб Коксон объявил о своем уходе из ИИ-индустрии, опасаясь, что гонка технологических корпораций приближает мир к «точке невозврата» и может привести к апокалиптическому сценарию уже в конце 2027 года.
После объявления Коксона другой сотрудник компании, руководитель направления стресс-тестирования согласованности ИИ Эван Хьюбингер, заявил, что вероятность того, что искусственный интеллект уничтожит человечество в ближайшие десять лет, составляет 10%.