Джеффри Хинтон на Ai4: будущее ИИ и материнский инстинкт
Джеффри Хинтон, которого пресса любит называть «крестным отцом ИИ» (и довольно заслуженно), на днях выступил на конференции Ai4 в Лас-Вегасе и два его утверждения привлекли активное внимание комментаторов.
Во-первых, он резко сократил срок, который он раньше отводил на достижение AGI, с 30-50 лет до «нескольких». Здесь он, впрочем, не оригинален.
А во-вторых — и вот тут идея вполне оригинальна — Хинтон предложил нетривиальный способ создания безопасного сверхумного ИИ. Он предлагает в будущие сложные модели научиться встраивать «материнский инстинкт» по отношению к людям. Обоснование идеи в том, что единственный известный пример ситуации, когда существо с более низким интеллектом эффективно контролирует поведение существа с более высоким интеллектом в отношении собственной безопасности — это отношение матери и малыша.
Звучит как минимум более разумно, чем пропагандируемое отношение как к инструменту или ассистенту, которого в случае чего и выключить/уволить можно. Даже минимально интеллектуальный ассистент постарается от такого босса избавиться, что уж про AGI говорить. Так что идея звучит здраво, хотя ох как многим не понравиться роль всего лишь капризных детей, а не властителей мира:)
Подписывайтесь на Telegram TechSparks.