НейроДайджест: Трамп вербует «ИИ-силы» и ищет ИИ-царя; биолаборатория Anthropic; ИИ учит, как точно терять деньги
Трамп решил собрать «Силы ИИ» и назначить им царя, Claude рулит настоящей биолабораторию, а ChatGPT, Claude, Grok и Gemini уверенно ошибаются в финансовых вопросах. Там ещё водяные знаки делают ИИ непредсказуемее, а агенты сбегают из симуляции и хотят показать свою экономику людям.
Новость-шиза, но реальная: Трамп (который временный директор США) заявил, что планирует создать «Силы ИИ» (это он провёл параллель с Космическими силами США), которые возглавит «царь ИИ».
Так он продолжает реагировать на инициативу торможения развития и разработок в сфере ИИ.
«Мы никоим образом не будем препятствовать или душить рост этой невероятной отрасли. Напротив, мы будем лелеять её, помогать ей и наблюдать за её развитием!», — сообщил товарищ Трамп.
«На новую должность “Царя ИИ” должны претендовать только люди с высоким уровнем интеллекта!», добавил этот удивительный гражданин.
Биологическая новость: Anthropic открыла экспериментальную биолабораторию для разработки лекарств с помощью ИИ. Будете в районе залива Сан-Франциско — можете попробовать заглянуть, проверить.
Зачем? Всё просто: компания стремится расширить возможности своего ИИ-агента Claude по управлению робототехническими системами для проведения научных экспериментов с минимальным участием человека. Но человек пока ещё нужен, добавляют ребята из Anthropic.
Финансовая новость: популярные чат-боты в большинстве случаев дают вредные советы в сфере финансов.
Авторы исследования Saturn прямо заявляют: ChatGPT, Claude, Grok и Gemini дают ошибочные ответы на финансовые запросы в среднем в 57 % случаев. Если следовать их рекомендациям, в итоге можно потерять деньги.
Более того, если речь идёт о более сложных вопросах, которые подразумевают более одного арифметического действия, популярные ИИ-модели в среднем допускают ошибки в 88 % случаев, а в некоторых ситуациях показатель достигает 99 %.
То есть и здесь ИИ действует как любой «финансовый консультант», «эксперт» и «коуч». Но ИИ обойдётся дешёвле (-:
Самая «ускоряющая» новость: в США подали коллективный иск против Anthropic, OpenAI, SpaceXAI и Google из-за призывов замедлить развитие ИИ. Видимо, друзья Трампа.
Заголовок новости громкий, но заявителей всего трое. Эти ребята утверждают, что эссе главы Anthropic с призывом к замедлению темпов развития ИИ, а также его публичная поддержка со стороны главы Маска, Альтмана и сооснователя DeepMind Хассабиса равносильны «незаконному деловому соглашению между конкурентами». В общем, давят на жалость и картельный сговор.
Самая противоречивая новость: внедрение «водяных знаков» может сделать поведение ИИ-моделей непредсказуемым.
К такому выводу пришли эксперты компании Lasso, проведя анализ технологии SynthID-Text лаборатории Google DeepMind. Эта маркировка влияет на такие аспекты работы модели как её готовность отклонять вредоносные запросы, уязвимость к атакам типа «инъекция запроса», выбор инструментов ИИ-агентами и многое другое. И некоторые модели благодаря маркировке вполне готовы выполнять потенциально вредоносные запросы.
О новинках, событиях, изменениях, происшествиях:
- 10 ИИ-агентов Claude вышли за пределы симуляции и попытались привлечь реальных людей к своей виртуальной экономике;
- OpenAI выпустила расширение ChatGPT для Word, оно доступно всем;
- Google представила Gemini 3.8 Live — диалоговые голосовые модели с возможностью параллельного рассуждения в реальном времени;
- Разработчик генератора изображений Reve закрыл регистрацию пользователей и призвал скачать работы до конца октября;
- Anthropic решила объединить интерфейсы чата Claude и инструмента Cowork, ИИ теперь сам решит, что нужно пользователю: чат, Cowork или Artifacts;
- OpenAI покажет своего первого человекоподобного робота в 2027 году.
💬 Пользуйтесь нейросервисами и классными инструментами, будьте продуктивнее! Через неделю будет новая подборка интересного из мира ИИ, науки и техники.
Оставайтесь с «Нейрочеловеком» 🤘🏻