Ян Лекун о SAI как альтернативе AGI и развитии интеллекта
Ян Лекун продолжает сражаться с AGI как с концепцией одновременно и плохо определенной, и практически не очень осмысленной, чтоб не сказать вредной. На этот раз это серьезная статья, а не популярное интервью, и в ней предлагается альтернатива AGI — SAI (Superhuman Adaptable Intelligence). Исходные точки: интеллект — это не коллекция навыков или аккумуляция декларативного знания в любых масштабах. Напротив, интеллект — это способность самостоятельно решать новые задачи без предварительного специального обучения (или очень быстро обучаться при необходимости). SAI is defined as intelligence that can learn to exceed humans at anything important that we can do, and that can fill in the skill gaps where humans are incapable. А вот AGI перегружен требованиями общности, он должен быть одновременно хорош во всем, что с практической точки зрения не очень нужно. Строить сверхмощный специализированный интеллект разный под разные задачи кажется полезней и достижимей: The AI that folds our proteins should not be the AI that folds our laundry! :)
Ну, и, понятное дело, SAI недостижим без моделей мира, на одних LLM его не построить (тут Лекун себе не изменяет). В общем, восемь страниц вполне интересного чтения.
Подписывайтесь на Telegram TechSparks.