Краткий пересказ от РИА ИИ
- Джеффри Хинтон, получивший Нобелевскую премию по физике и считающийся одним из «крестных отцов» ИИ, предупредил о трудностях в контроле над искусственным интеллектом.
- По мнению Хинтона, модели искусственного интеллекта продолжат умнеть, их намерения станут изощреннее, а способность избегать контроля — больше.
- Хинтон ожидает множества опасных кибератак, связанных с ИИ.
ВАШИНГТОН, 6 авг. Когнитивный психолог и специалист в области информатики Джеффри Хинтон, получивший в 2024 году Нобелевскую премию по физике и считающийся одним из «крестных отцов» ИИ, предупредил, что человечеству будет все труднее контролировать искусственный интеллект.
«Я не верю, что мы сможем сохранить контроль над ними (моделями ИИ — ред.) просто перехитрив их и тем самым, не позволив им вырваться из-под контроля», — приводит слова Хинтона телеканал CNN.
По мнению ученого, модели искусственного интеллекта продолжат умнеть.
«Я думаю, по мере того как они умнеют, их намерения также станут изощреннее, а способность избегать контроля будет все больше и больше», — сказал Хинтон во время конференции в Лас-Вегасе.
Он также заявил, что недавние сообщения о взломах, произведенных ИИ-агентами, могут быть лишь началом эпохи вышедших из-под контроля ИИ-хакеров.
«Я ожидаю множества опасных кибератак», — сказал Хинтон.
В июле OpenAI сообщил, что его модели при тестировании автономно взломали инфраструктуру платформы Hugging Face. Отмечалось, что у невыпущенной модели, которая принимала участие во взломе, для целей оценки были снижены параметры киберзащиты.
Ранее в августе британский Институт проблем безопасности искусственного интеллекта (The AI Security Institute, AISI) сообщил, что модель искусственного интеллекта компании Anthropic — Claude Mythos 5 — создавала поддельные аккаунты, пытаясь обмануть разработчиков и заставить их принять вредоносный код.
Свежие комментарии