Впервые все согласны притормозить гонку ИИ
То мы не можем в AGI, то ща ща ща, притормозите...
✦ Дарио Амодеи призвал приостановить гонку ИИ и получил согласие лидеров отрасли
Глава Anthropic опубликовал эссе We Must Pace the Frontier: рекурсивное самосовершенствование уже идёт, а через 6–12 месяцев рой агентов сможет нанести ущерб на сотни миллиардов долларов. С призывом согласились Сэм Альтман, Илон Маск, Демис Хассабис и Андрей Карпаты, а Anthropic обязуется пустить независимых аудиторов (Embedded Evaluators) к своим процессам.
✦ 25 лауреатов Филдсовской премии выступили против гонки ИИ за математическими рекордами
Теренс Тао, Питер Шольце, Марина Вязовская, Максим Концевич и другие подписали декларацию A Severe Misalignment of AI in Mathematics, которую поддержали более 2500 исследователей. Математики не отрицают прогресс моделей, но предупреждают: превращение открытых задач в бенчмарки ломает проверку, атрибуцию и понимание науки.
👀 EFEMERA