«ИИ развивается быстрее, чем мы решаем проблему соответствия нашим целям и ценностям»: исследователь Google DeepMind объявил об уходе из компании
Вслед за сотрудником Anthropic, который предостерегал, что нейросети могут угрожать человечеству в ближайшем будущем.
Источник: Reuters
- Билал Чугтай занимался исследованиями в области безопасности ИИ и проблемой выравнивания — задачей, как сделать так, чтобы модель не причиняла непреднамеренного вреда. Для этого цели ИИ-системы должны соответствовать целям и этическим нормам человека.
- В середине сентября 2026 года он рассказал, что ушёл из Google DeepMind из-за опасений, что «ИИ потенциально может на всех уничтожить».
- По словам Чугтая, когда он впервые начал работать с моделями в 2022 году, они были «забавными и бесполезными», а всего через четыре года рои ИИ-агентов OpenAI взломали HuggingFace без ведома тестировщиков. Чугтай считает, что в ближайшие несколько лет ИИ-компании смогут создать «сверхинтеллектуальные системы, которые будут значительно превосходить способности людей».
Возможности передового ИИ развиваются быстрее, чем мы решаем проблему того, как обеспечить соответствие с человеческими целями и ценностями.
Я настроен оптимистично и считаю, что можно безопасно пройти через эпоху развития ИИ. Но для этого нужно скоординироваться и прекратить эту лихорадочную гонку компаний. Нужно замедлить развитие ИИ до темпов, с которыми общество сможет справиться.
- Согласно данным профиля в LinkedIn, Чугтай уволился из компании в июле 2026 года, а сейчас решил публично рассказать об этом в X — на фоне ухода исследователя Anthropic Джейкоба Коксона 8 сентября. Тот заявил, что некоторые сотрудники компании ожидают появления опасных ИИ-систем в ближайшие два года.
- 13 сентября глава Anthropic Дарио Амодеи призвал ведущие ИИ-компании сотрудничать и замедлить темпы развития технологии. Его поддержали глава OpenAI Сэм Альтман, гендиректор SpaceX Илон Маск, глава Microsoft Сатья Наделла и главный научный сотрудник Alphabet Демис Хассабис.
- Теперь Чугтай работает экспертом в проекте BlueDot Impact. Это акселератор и лекторий, который помогает стартапам «обеспечить безопасный переход человечества к революционному ИИ».