LawZero: Бенджио выходит на тропу безопасности AI!
Кто стоит за проектом 👀
- Йошуа Бенджио, лауреат премии Тьюринга и один из отцов Deep Learning
- Соавтор первой статьи о механизме внимания
- Долгие годы руководил лабораторией в Монреале
Что запускают
- Некоммерческая организация LawZero
- Команда более 15 исследователей
- Фокус: контроль и безопасность ИИ
Название отсылает к нулевому закону робототехники Азимова:
"Робот не может причинить вред человечеству или своим бездействием допустить, чтобы человечеству был причинён вред".
Ключевая идея
- Создать ScientistAi
- Это не агент, а наблюдатель за агентами
- Задача - минимизировать потенциальный вред, который может нанести ИИ
Кто уже поддержал
- Эрик Шмидт (бывший CEO Google)
- Яан Таллин (сооснователь Skype)
- Другие частные инвесторы
- Первый раунд — 30млнUSD 🤓
Подписывайтесь на Telegram-канал AI Adepts.
Начать дискуссию