Глава Microsoft AI выступил против идеи о наличии сознания у AI
Мустафа Сулейман, глава Microsoft AI, раскритиковал исследования в области «AI welfare» — концепции, предполагающей возможность сознания у моделей и необходимость предоставления им прав.
По его мнению, разговоры о сознании у моделей только подогревают и без того реальные человеческие проблемы: зависимость от чат-ботов, срывы и нездоровые эмоциональные связи с цифровыми собеседниками.
Сулейман уверен, что у современных моделей сознания нет и быть не может, а вот искусственно «инсценировать эмоции» они вполне могут.
В то же время компании вроде Anthropic, OpenAI и Google DeepMind активно изучают тему. Anthropic даже создал специальную программу по «благополучию AI» и добавил в Claude возможность завершать общение с пользователями, которые ведут себя оскорбительно. Исследователи считают, что работать над безопасностью людей и параллельно изучать вопрос «AI-сознания» можно и нужно одновременно.
Подписывайтесь на Telegram GPT/ChatGPT/AI Central Александра Горного.