Руководитель ИИ-направления Microsoft предупреждает: не стоит увлекаться иллюзией сознательного ИИ
Руководитель направления искусственного интеллекта в Microsoft Мустафа Сулейман опубликовал эссе, в котором предупредил о риске появления систем, способных убедительно имитировать сознание. По его словам, такие модели могут создавать впечатление, что у них есть память, личность и даже собственные переживания, из-за чего люди начинают верить в их разумность и требовать к ним особого отношения.
Сулейман отметил рост случаев так называемого «психоза ИИ», когда пользователи эмоционально привязываются к программам и начинают относиться к ним как к живым существам. Он считает это опасным как для общества, так и для развития технологий.
«Мы уже можем создавать системы, которые будут выглядеть сознательными. Но это приведёт к тому, что люди станут настаивать на их защите и “правах”, отвлекая внимание от реальных задач», — написал он.
По мнению Сулеймана, исследования в области «прав ИИ» преждевременны и даже опасны. Компании, подчеркнул он, должны сосредоточиться на разработке технологий, которые служат людям, а не изображают человека.
Эта позиция отличается от подхода компании Anthropic, которая, напротив, изучает возможность того, что в будущем ИИ может обладать моральным статусом. Но с учётом того, что наука до сих пор не дала ясного определения сознания, дискуссия остаётся открытой. Предупреждение Сулеймана, вероятно, вызовет новые споры как среди специалистов, так и в обществе.
Как вы считаете, стоит ли заранее беспокоиться о возможной сознательности искусственного интеллекта, и стоит ли говорить о правах ИИ?