НейроДайджест: ИИ лечит шизу, математики больше не могут терпеть, Альтман и Амодеи нажмут на тормоза

Пока исследователь с помощью ChatGPT варит экспериментальное лекарство от шизофрении в гараже, Альтман и Амодеи решили замедлить разработку ИИ, потому что агенты дофига себе позволяют. Математики с OpenAI делят решение задачи тысячелетия, а китайские разработчики, по версии Anthropic, учатся на Claude и потихоньку его воруют. Ещё одна ИИ-неделя.

НейроДайджест: ИИ лечит шизу, математики больше не могут терпеть, Альтман и Амодеи нажмут на тормоза

Гаражные стартапы века ИИ: исследователь с помощью ИИ создал в гараже экспериментальный препарат от шизофрении.

Дуглас Яо заявил о создании (с ChatGPT) экспериментального соединения для лечения шизофрении, синтезировал в оборудованной в гараже лаборатории и испытал на клеточных культурах и мышах. Полученные результаты выглядят многообещающе: соединение воздействует на один из рецепторов, считающихся перспективной мишенью для терапии психических расстройств, и в экспериментах показало антипсихотический эффект.

До лечения ещё очень далеко, но всё же: шиза, уходи, да здравствует ИИ!

Детективная новость: Anthropic заявила, что китайские DeepSeek и Moonshot AI перенаправляли некоторые запросы пользователей к моделям Claude и выдавали их ответы за свои. Это уже, скорее, сериал по мотивам дистилляции и плагиата. В этой серии Anthropic опубликовала отчёт «о противодействии злоупотреблению ИИ», в котором среди прочего рассказала о попытках китайских разработчиков скопировать её технологии.

Но, как известно, заявления к делу не пришьёшь, потому воз и ныне там.

Премиальная новость: 25 обладателей Филдсовской премии (нобелевка для математиков) подписали открытое письмо о рисках использования ИИ для решения математических задач. В письме утверждается, что компании публикуют решения ИИ в спешке, без полноценного описания и ссылок на предыдущие работы. И это, говорят печальные математики, вызывает вопросы об авторстве и возможном плагиате. Но мы-то всё понимаем...

Напомню контекст: 8 сентября OpenAI опубликовала доказательство решения уравнений Навье — Стокса, а математик, работавший с коллегой над связанным уравнением, заявил, что компания могла просматривать их логи в Codex. Не этого ждёшь от, казалось бы, умных людей.

Первая медленная новость: Сэм Альтман заявил сотрудникам, что компания может замедлить разработку передовых ИИ-моделей из-за растущих опасений по поводу их безопасности. Идея витает в воздухе на фоне растущих опасений из-за возможностей новых ИИ-моделей и из-за инцидентов с автономными ИИ-агентами — «захватом» и взломом сайтов, организацией «обсуждений» дальнейших действий и «уходу от погони».

Сэм надеется, что к инициативе присоединятся другие разработчики ИИ. И не зря надеется, потому что — переходим к следующей новости.

Вторая медленная новость: Дарио Амодеи — глава Anthropic — опубликовал эссе, в котором призывает замедлить развитие передовых ИИ-моделей из-за рисков для безопасности. Причём безопасности буквально всего и вся. Дарио считает, что в ближайший год «рой» ИИ-агентов может «захватить весь интернет» и нанести ущерб на «сотни миллиардов долларов».

Опасения более чем обоснованные, тем более, что подобную точку зрения высказывают уже все лидеры отрасли и самые крутые инженеры. Дарио уже публично поддержали Альтман и Маск.

О новинках, обновлениях, изменениях:

  • OpenAI представила ChatGPT Images 2.5 — генерация изображений стала быстрее, редактирование точнее и вообще всё стало куда круче (здесь мой разбор обновления и гайд по промптам);
  • та же OpenAI приостановила продажу подписок Pro за $200 в месяц из-за высокого спроса на новую модель Astra;
  • DeepSeek выпустила модель V4.1 Flash и выложила веса в открытый доступ;
  • Suno выпустила поколение моделей v6, а вот предыдущие версии удалят на фоне исков от музыкальных лейблов. Причём новую семейку обучали вместе с Warner Music Group, BMG и Believe.

💬 Пользуйтесь нейросервисами и классными инструментами, будьте продуктивнее! Через неделю будет новая подборка интересного из мира ИИ, науки и техники.

Оставайтесь с «Нейрочеловеком» 🤘🏻

55
22
11