Искаженный консенсус Силиконовой Долины по ИИ

Вопросы о том, что будет, если появится или не появится ИИ, способный равняться человеческим интеллектом, требуют анализа. Сотни миллиардов долларов вкладываются в построение моделей генеративного ИИ. Но даже разработчики моделей не полностью понимают, как работают их модели или что такое AGI. Консенсус Силиконовой Долины поддерживает идею, что AGI достигнут в течение десятилетия. 76% из 475 опрошенных ученых в США считают, что вряд ли нынешний подход к ИИ приведет к достижению AGI. Это может стать проблемой: фондовые рынки США живут в мире полной противоположности. И почему то страховые компании воздерживаются от комплексного страхования ИИ отрасли. Ученые считают, что мир не двигается по технологической траектории по единственно определенному маршруту. Необходимо рассматривать и другие подходы, а не делать одну ставку на глубокое обучение генеративных моделей. Alan Kay, ветеран ИТ отрасли, считает, что главная тема нашей ИИ эпохи- безопасность.

Однажды Oscar Wilde назвал охоту на лис как «неописуемое в погоне за несъедобным». Если бы он жил в наши дни, то назвал бы поиски генеративного ИИ как непостижимое в погоне за неопределяемым.

Сотни миллиардов долларов вкладываются в построение моделей генеративного ИИ. Это гонка за созданием интеллекта равного человеческому. Но даже разработчики моделей не полностью понимают, как работают их модели или что такое AGI (сильный генеративный ИИ).

Вместо того, чтобы громко называть ИИ как новую эпоху изобилия, не лучше ли отказаться от риторики и создать ИИ системы для достижения вполне определенных и реализуемых целей? На прошлой неделе на конференции в University of Southampton и Королевского сообщества как раз это и обсуждали. Shannon Vallor, профессор University of Edinburgh: «Нам уже давно пора прекратить задавать вопрос: машина обладает интеллектом? И спросить: что именно машина делает?». И профессор права.

Термин AGI стал популярным в 2000-ных при описании ИИ систем, способных продемонстрировать общие рассуждения, аналогичные рассуждениям человека (как противоположность узкому применению ИИ, которое хорошо выполняет конкретную задачу). С тех пор, этот термин стал Святым Граалем отрасли, оправдывающем колоссальные расходы на его поиск.

Ведущие исследовательские лаборатории ИИ таких компаний, как OpenAI и Google DeepMind, явно заявляют о цели достигнуть сильного генеративного ИИ (AGI), хотя используют разные определения. Цели OpenAI: «максимально автономная система, которая превосходит человека в большинстве задач, имеющих экономическую ценность». Однако, Сэм Альтман, подписавший в этом году контракт на $1 трлн для повышения вычислительных мощностей компании, признал, что такое определение «не совсем полезное» (для выражения целей компании).

Даже если мы предположим, что сильный генеративный ИИ -главная цель, остаются два опасения. Что произойдет, когда мы достигнем AGI. И что произойдет, если не достигнем.

Консенсус Силиконовой Долины* предполагает, что AGI, как бы его не определяли, будет достигнут в течение десятилетия. Эту цель пытаются достичь ведущие ИИ компании. Они верят, что этот ИИ приведет к значительному росту производительности и огромным прибылям инвесторов.

* Консенсус Силиконовой Долины- призыв к беспрецедентным инвестициям и ускорению. Технологические лидеры не выступают за затягивание поясов. Они вкладывают миллиарды в инфраструктуру искусственного интеллекта с головокружительной скоростью, будучи уверенными, что финансируют следующий эволюционный скачок человечества.

И действительно, некоторые техно лидеры с Западного побережья основали политический комитет с бюджетом в $100 млн для поддержки в промежуточные выборы 2026 года кандидатов, ратующих «за ИИ» и призывающих за отсутствие вредного регулирования. Техно лидеры указывают на массовое внедрение чат-ботов и насмехаются над пессимистами или «де-кселерационистами», которые призывают к постепенному прогрессу и мешают США в техно гонке с Китаем.

Но AGI не станет мгновенным и чудесным благословением свыше. OpenAI признает, что есть «огромный риск злоупотребления, трагичных инцидентов и социальных потрясений». Это объясняет тот факт, почему страховые компании воздерживаются от комплексного страхования этой отрасли.

Некоторые эксперты, например, Eliezer Yudkowsky и Nate Soares, идут дальше в своих прогнозах. Они предупреждают, что супер ИИ, вышедший из-под контроля, представляет экзистенциональную угрозу человечеству. Название их последней книги: «If Anyone Builds It, Everyone Dies» отражает суть их прогнозов.

Пока никто не убежден, что AGI точно появится. Скептики сомневаются, что излюбленный трюк техно отрасли: увеличение вычислительных мощностей и создание умных LLM, приведет к AGI. «У нас до сих пор нет фундаментальных прорывов для AGI».

Ассоциация прогресса ИИ (Association for the Advancement of Artificial Intelligence) провела опрос в этом году. 76% из 475 опрошенных (в основном академики) считают, что вряд ли нынешний подход к ИИ приведет к достижению AGI. Это может стать проблемой: фондовые рынки США живут в мире полной противоположности.

На прошлой неделе прошло мероприятие, участники которого открыто оспаривали идеи ИИ Силиконовой Долины. Мир не двигается по технологической траектории по единственно определенному маршруту. Необходимо рассматривать и другие подходы, а не делать одну ставку на глубокое обучение генеративных моделей.

ИИ компании не могут игнорировать проблемы, которые они создают сегодня, обещая блестящее будущее. Shannon Vallor: остальное общество должно сопротивляться тому, что к нему относятся как к «пассажирам на задних местах в автобусе», надеясь, что ИИ куда-то нас приведет.

Alan Kay, 85-летний ветеран ИТ, - известная фигура в отрасли. Он считает, что есть несколько перспектив. Alan считает, что ИИ может принести пользу. Действительно, ИИ помогает обнаружить рак в МРТ снимках. Alan Kay: «ИИ спасает жизни».

Однако, Alan Kay обеспокоен, что людей так легко одурачить, и что ИИ компании не могут объяснить, как работают их модели. Инженеры ПО, например, дизайнеры аэропланов или строители мостов, обязаны обеспечить безопасность: их системы не должны нанести вред или перестать работать. Главная тема нашего столетия- безопасность.

Лучший путь –использовать коллективный интеллект человечества, который накапливался поколениями. Alan Kay: «У нас уже есть супер ИИ. Это наука». ИИ уже помогло совершить некоторые прорывы. Например, AlphaFold от Google DeepMind смоделировала структуру 200 млн протеинов. Это принесло исследователям Нобелевскую премию.

Alan Kay подчеркивает, что есть определенные опасения об уязвимости кода, сгенерированного ИИ моделями. Он цитирует Butler Lampson: «Запустите джинов в бутылку и держите их там». Хорошая поговорка для эпохи ИИ.

Ссылка на статью: