Исследователи предложили остановить обучение передового ИИ через специальные чипы
Междисциплинарная группа из 26 исследователей описала план международной паузы в обучении новых передовых моделей как минимум на 10 лет. Вместо остановки уже работающих ИИ-сервисов авторы предлагают постепенно заменить оборудование, способное создавать новые модели, специализированными чипами для запуска уже одобренных систем.
Обычные ускорители в дата-центрах универсальны: на них можно и обучать модель, и обслуживать её ответы пользователям. Поэтому одного международного запрета недостаточно — каждая страна будет опасаться, что соперник тайно продолжит обучение и получит преимущество. Авторы переносят контроль с обещаний на физическое оборудование.
Сначала страны должны запретить обучение новых передовых моделей и составить список уже существующих систем, разрешённых для конкретных способов применения. Затем производители переходят на чипы, в которые архитектура и параметры таких моделей встраиваются при изготовлении. Они смогут быстро обрабатывать запросы, но окажутся практически бесполезными для обучения новой модели, даже если оборудование украдут или захватят.
Переход предлагается провести поэтапно. Государствам придётся учесть и зарегистрировать старые ускорители, следить за их использованием, а после запуска серийного производства новых чипов — заменять оборудование через программы обмена и выкупа. Оставшиеся универсальные ускорители можно будет перевести в строго контролируемые научные вычислительные центры, резерв или окончательно вывести из эксплуатации.
Такой контроль авторы считают возможным из-за концентрации полупроводниковой отрасли. Производство передовых чипов и обучение крупнейших моделей зависят от небольшого числа стран и технологических узлов. В основу соглашения должны войти как минимум США, Китай, Евросоюз, Великобритания, Тайвань, Южная Корея и Япония; без их участия аппаратный барьер быстро потеряет смысл.
Специализированное оборудование существует не только на бумаге. В работе приведены примеры модельно-специализированных микросхем и концептуальная демонстрация для небольшой языковой модели на потребительской программируемой плате. Начало массового выпуска подходящих чипов авторы очень приблизительно оценивают в 26 месяцев или меньше, однако готового производственного решения для глобального перехода пока нет.
Предлагаемая пауза не должна заморозить применение ИИ. Одобренные модели продолжат работать, а более узкие чипы могут снизить стоимость запросов и энергопотребление. Для научных и медицинских исследований авторы допускают ограниченное использование универсальных ускорителей в вычислительных центрах под международным контролем.
Главная уязвимость проекта находится не в конструкции чипа. Странам придётся договориться о списке моделей, инспекциях, учёте старого оборудования и последствиях за нарушение соглашения. Кроме того, более эффективные методы обучения со временем могут позволить создавать сильные модели на меньшем числе ускорителей. Авторы разбирают эти риски, но не считают их устранёнными.
Пока это рабочее исследование, а не готовый международный договор; сами соавторы отдельно подчёркивают, что участие в работе не означает согласия с каждым её тезисом. Тем не менее проект даёт конкретный ответ на вопрос, как проверять глобальную паузу: контролировать не копируемый программный код, а фабрики и оборудование, без которых обучение передового ИИ всё ещё невозможно.