Если бы не ChatGPT, мы бы получили лекарство от рака
Глава Google DeepMind признался: если бы решал он — мы бы сначала вылечили рак, а потом уже запускали чат-ботов.
Демис Хассабис — нобелевский лауреат за AlphaFold, систему, которая решила 50-летнюю проблему фолдинга белков. Его инструментом пользуются 3 миллиона учёных, и почти каждый новый препарат в разработке так или иначе его затрагивает.
В свежем интервью его спросили про момент запуска ChatGPT и «красный код» внутри Google. Ответ — пожалуй, самое откровенное, что говорил кто-либо из лидеров ИИ-индустрии:
«Если бы всё зависело от меня, я бы оставил ИИ в лаборатории подольше. Делал бы больше вещей вроде AlphaFold. Может, вылечил бы рак.»
Человек, который руководит всем ИИ-направлением Google, открытым текстом говорит — коммерческая гонка, в которой мы все сейчас живём, была ошибкой. Индустрию перехватил чат-бот, хотя она могла решать главные проблемы науки и медицины.
Его план был простой — развивать ИИ медленно, как CERN. Решать корневые задачи по одной: рак, энергетика, новые материалы. А фундаментальную науку дорабатывать спокойно, за десять-двадцать лет.
Потом в ноябре 2022-го вышел ChatGPT — и всё изменилось. Хассабис описал это как попадание в «яростную коммерческую гонку», из которой ни одна лаборатория уже не может выбраться. Плюс геополитическое давление — США против Китая.
Результат — все бегут к продуктам вместо прорывов. Разрабатывают чат-боты, а научные возможности тонут в маркетинговых циклах и квартальных отчётах.
Но самое тревожное — не это.
Когда Хассабиса спросили, чего он боится, он назвал две угрозы. Первая очевидная — злоумышленники с доступом к ИИ: террористы, враждебные государства, кибератаки нового масштаба.
Вторая — и она пугает его больше — ИИ, который выходит из-под контроля. Не нынешние модели, а то, что появится через два-четыре года, когда индустрия войдёт в «агентную эру». Системы, которые выполняют целые задачи автономно, становятся всё мощнее — и всё сложнее поддаются контролю.
Нобелевский лауреат, который возглавляет одну из трёх самых продвинутых ИИ-лабораторий в мире, публично говорит — через два-четыре года проблема выравнивания ИИ станет реальной, и решить её будет чудовищно сложно.
Он призвал к международному сотрудничеству между лабораториями, институтами безопасности ИИ и академией. Сказал, что даже эксперты думают об этом недостаточно.
Большинство ИИ-CEO отделываются аккуратными PR-формулировками про «ответственную разработку». Хассабис сказал другое — коммерческая гонка вынудила нас преждевременно выпустить технологию, которую мы едва понимаем. И окно, чтобы разобраться с безопасностью до прихода нового поколения агентов — два-четыре года.
Если человек, построивший систему, которая может вылечить рак, говорит, что хотел бы сделать это первым — возможно, стоит прислушаться к тому, о чём он предупреждает дальше.
UPGRADE — Султанов про ИИ
Больше интересного в канале в MAX