Фокус на выручке и снижение требований к безопасности ИИ-моделей: отчёт об изменениях в OpenAI от независимых исследователей
Они считают, что компания «недостаточно ответственно» подходит к созданию общего ИИ, а Сэм Альтман способствует «непрозрачности» внутренних процессов.
- Некоммерческие организации Midas Project и Tech Oversight Project опубликовали отчёт о структуре OpenAI, «проблемах» в руководстве, подходе к выпуску ИИ-моделей и созданию общего искусственного интеллекта (AGI) в будущем. Они собрали корпоративные документы, юридические жалобы, письма и рассказы бывших сотрудников компании.
- Цель досье — «показать, насколько сильно видение конца 2010-х отличается от поведения OpenAI в 2025 году», — сказал директор Midas Project Тайлер Джонстон изданию The Verge.
Уход от некоммерческой организации
- Инвесторы OpenAI, в том числе Microsoft, могут сейчас претендовать на сумму не больше стократного размера начальных вложений. Ограничения гарантировали, что от достижения AGI выиграет «всё человечество». Теперь, согласно выводам исследователей, лимит снимают из-за требований инвесторов.
- Совет директоров некоммерческой организации больше не может полностью контролировать «миссию OpenAI по созданию AGI».
Примерная структура OpenAI на 2025 год. Источник: OpenAI Files
Структура OpenAI как исследовательской лаборатории в 2010-х. Источник: OpenAI Files
Снижение требований безопасности
Исследователи считают, что OpenAI не уделяет «должного внимания» безопасности, «стремясь к скорейшей коммерциализации новых моделей». Компания ускорила процессы проверки ИИ-моделей, а бывших сотрудников вынуждала подписывать соглашения о неразглашении, угрожая лишить их доли в компании.
Конфликт интересов
- В отчёте указаны предполагаемые инвестиции главы компании Сэма Альтмана. В его портфель входят партнёры OpenAI или те, с кем «ведут переговоры о покупке»: Retro Biosciences, Helion Energy, Reddit, Stripe, Rewind AI и Rain AI.
- Также в досье подчёркивают концентрацию власти в руках ограниченного круга лиц «при отсутствии внешнего контроля» — после возвращения Сэма Альтмана в компанию. На сайте есть подборка публикаций СМИ и рассказов сотрудников о «психологическом давлении» и «лжи» со стороны Альтмана до его увольнения с поста гендиректора OpenAI в 2023 году.
«Я не думаю, что Сэм — тот человек, который должен держать палец на кнопке AGI».
- Авторы отчёта подчёркивают, что не получали финансирования или «любой другой поддержки» от Илона Маска, xAI, Anthropic, Google, Microsoft «или любого другого конкурента OpenAI». OpenAI отказалась комментировать публикацию по запросу The Verge.
11 комментариев