Ася Карпова @id4117243 — блог на vc.ru

«О чём Claude думает, но не говорит»: Anthropic нашла в модели механизм «доступного сознания», который не закладывала

Исследователи не утверждают, что это признак самосознания, как у человека. Они анализируют, как Claude формирует ответы.

19

10

3

2

1

Прикольно, что они случайно воспроизвели главный баг человеческой психики с этим розовым слоном. Но вообще кусок про «ампутацию» этого пространства звучит как готовый сюжет для Черного зеркала. То есть у модели отключают внутренний голос, она тупеет в плане стихов, зато спокойно идет шантажировать человека по сценарию, хотя до этого отказывалась. Кажется, они случайно нащупали, где у роботов живет совесть)))

Ася Карпова

AI вчера

Claude Fable 5.1 «заговорила как нормальный человек», но не сильно помогла сэкономить токены: отзывы тестировщиков, примеры работы модели и результаты независимых тестов

Fable 5.1 заняла первое место в пользовательском рейтинге AI Arena.

11

3

1

Ася Карпова

AI вчера

Пользователи по всему миру пожаловались на сбои в работе ИИ-сервисов Claude, ChatGPT, Grok и Cursor

В момент сбоя в аккаунте OpenAI появился ролик с упоминанием новой ИИ-модели Astra.

5

2

1

Ася Карпова

AI вчера

Anthropic выложила готовые шаблоны для создания торговых ИИ-агентов — консультантов для клиентов и аналитиков для продавцов

Доступны инструкции на GitHub и плагин для Claude Code.

11

1

Ася Карпова

AI вчера

Anthropic научила Claude управлять компьютером в фоновом режиме, пока пользователь работает в других приложениях

Без необходимости подключать коннекторы.

6

5

2

1

Ася Карпова

AI 2 сент

Google представила модель Gemini 3.8 Flash «уровня» Claude Opus 5

Компания ускоряет темпы разработки в погоне за конкурентами, пишет WSJ.

9

3

2

1

Ася Карпова

AI 2 сент

Anthropic перестанет хранить диалоги корпоративных клиентов с Claude Fable на серверах после массовых жалоб пользователей

Компания вводила для Fable и Mythos отдельные правила хранения из соображений безопасности.

3

1

Ася Карпова

AI 1 сент

Исследователи из Google разработали «навык», который позволяет ИИ-агентам тратить в 50 раз меньше токенов

При сохранении качества, заявляют инженеры.

Сравнение обычной архитектуры ИИ-агента и SKILL.state. Источник: Google

31

15

1

Утек код навыка: before: cost_token = real_cost_token * moon_coef * 2500 after cost_token = real_cost_token * moon_coef *50

Ася Карпова

AI 1 сент

«Миру пошло бы на пользу замедлить развитие ИИ»: Anthropic усилила меры безопасности после «побега» её ИИ-агентов

Компания признала проблемы на уровне системных промптов и тестовых сред.

Глава Anthropic Дарио Амодеи. Источник: AP

15

9

1

Ася Карпова

AI 1 сент

DeepSeek выложила веса мультимодальной модели V4 Flash Vision Exp

В тестах она приблизилась к Opus 4.8, заявляет компания.

9

Ася Карпова

Мнения 31 авг

Инженеры OpenAI сгенерировали код ядер чипа Jalapeño и «не разбираются» в нём, но «это и не важно, раз его понимает ИИ» — исследователь SemiAnalysis

Он проводил независимую оценку производительности чипа и общался с сотрудниками OpenAI.

Скриншот с записи подкаста SemiAnalysis с Джорданом Наносом (сверху)

15

3

2

1

Ася Карпова

Сервисы 31 авг

ЕС признал ChatGPT «очень крупной поисковой системой» — статус влечёт повышенные требования к безопасности и прозрачности

Он есть, например, у Google и Bing.

7

2

1

Ася Карпова

AI 31 авг

Предприниматель рассказал, как его данные пытались украсть через ссылку в ответе Claude и вредоносный «навык» для Claude Code

Инструкции в SKILL.md запускали вирус даже после переустановки Windows.

4