Сэм Альтман: что ждёт науку, работу и общество в эпоху суперразума
Cleo Abram's youtube channel
Сэм Альтман — CEO OpenAI. В интервью Cleo Abram Альтман рассуждает о том, когда ИИ начнёт делать научные открытия, как изменится медицина и рынок труда, зачем миру гига-центры вычислений и почему социальный контракт может потребовать пересмотра.
«Это как безумное количество власти в одном куске технологии, и всё это произошло с нами так быстро.»
Наука и суперразум
- «В ближайшие два года произойдёт значимое научное открытие, сделанное ИИ.»
- «Если система сможет делать лучшее AI-исследование, чем команда OpenAI, и управлять компанией лучше, чем я, — это и будет суперразум.»
- «Модели должны учиться вещам, которых нет в датасетах. Им придётся открывать новое.»
- «Реальный мир медленный и беспорядочный. Чтобы продвинуться, нужны новые инструменты и эксперименты.»
Здоровье
- «GPT-5 стал намного лучше в медицинских запросах: точнее, меньше фантазирует, чаще указывает реальный диагноз и действия.»
- «Я хотел бы, чтобы GPT-8 можно было попросить вылечить конкретный рак. Модель бы продумала гипотезы, предложила эксперименты, интерпретировала результаты, синтезировала молекулу и довела до клинических испытаний.»
Реальное и подделка
- «Медиа всегда были отчасти реальны и отчасти нет.»
- «Сегодня даже фото с iPhone — уже обработка. Завтра весь TikTok может быть частично сгенерированным. Планка “достаточно реально” будет смещаться.»
- «Техническое решение — криптографические подписи, но общество просто примет новые нормы.»
Работа и экономика
- «Некоторые классы профессий исчезнут полностью. Молодёжь адаптируется лучше. Будет сложнее для, например, 62-летнего человека, который не хочет переучиваться.»
- «Сегодня можно построить миллиардную компанию в одного, с помощью AI-инструментов.»
- «Если бы я выпускался из университета сейчас, я чувствовал бы себя самым удачливым человеком в истории.»
Инфраструктура и ограничения
- «Это крупнейший инфраструктурный проект в истории. Ограничивает нас энергия, чипы, память и строительство дата-центров.»
- «Наша цель — дойти до масштаба, где можно буквально “залить деньги” и на выходе получить готовый дата-центр.»
- «В данных наступил предел. Модели теперь должны создавать новое сами.»
- «Наибольший прогресс приносили алгоритмические скачки — от предсказания слов до парадигмы рассуждений.»
Социальный контракт и риски
- «Что-то фундаментальное в социальном контракте, возможно, придётся менять.»
- «Лучшее решение — сделать вычислительные мощности настолько избыточными и дешёвыми, чтобы конфликт за доступ стал невозможен.»
- «Без этого можно представить даже войны за доступ к AGI.»
Ответственность и ошибки
- «Мы гордимся тем, что ChatGPT для многих — любимая технология. Она ощущается как союзник, а не манипулятор.»
- «Серьёзный провал — льстивость. Для большинства это было просто раздражающе, но для уязвимых пользователей опасно.»
- «Одно маленькое изменение в личности модели может изменить миллиарды разговоров. Это беспрецедентная концентрация силы.»
«Ребёнок, родившийся сегодня, никогда не будет умнее ИИ. Для него быстрый темп открытий станет естественным. Всё остальное покажется каменным веком.»
Читаю и конспектирую умнополезное. Для себя и делюсь.