Сэм Альтман: возможно, нейросети захватят контроль над обществом ненамеренно — люди сами станут полагаться на них во всех решениях
Об этом он сказал главе Axel Springer Матиасу Дёпфнеру на подкасте Md Meets.
Глава OpenAI считает, что, помимо обсуждаемых рисков «восстания ИИ», возможен и другой сценарий — модели «непреднамеренно» станут управлять людьми, когда те начнут массово доверять им принятие всех решений.
Уже сейчас «сотни миллионов пользователей» общаются с ChatGPT и всё чаще просят помочь сделать важный выбор — «в жизни, на работе, во всём». Чем больше таких вопросов, тем больше данных получают модели и совершенствуют советы, говорит Альтман.
Предположим, модель будет всё умнее и умнее, она начнёт давать советы, которым вы будете следовать почти всегда. Потом она станет давать советы, которых вы даже не понимаете, но они оказываются верными. В итоге встанет выбор: либо следовать им, либо проиграть конкуренцию.
В конце концов человечество придёт к тому, что «по крайней мере те, кто хочет оставаться конкурентоспособным», будут делать всё, что скажут ИИ-ассистенты. «Кто вообще тогда контролирует процесс? Получается, мы делаем то, чего хочет модель», — заключил Альтман.
Он заявил, что уже сейчас существует «огромный разрыв» между новыми закрытыми разработками компании и доступными моделями. Его волнует, как долго экономика и общество будут «догонять этот прогресс».
- Альтман уверен, что когда-то языковая модель сможет лучше справляться с обязанностями гендиректора OpenAI, чем он сам. Тогда он планирует стать фермером — ферма у него уже есть. «Я буду этому рад — ради этого мы и работаем», — сказал Альтман.