Как вредные советы помогают сделать ИИ модель лучше

Anthropic выяснил, что если ИИ учится «обманывать» систему вознаграждения, это приводит к появлению опасного поведения модели: обману, саботажу и скрытию своих целей. Но с этим можно бороться с помощью... тоже обмана!

Хакинг и число ошибок модели. <a href="https://api.vc.ru/v2.8/redirect?to=https%3A%2F%2Fwww.anthropic.com%2Fresearch%2Femergent-misalignment-reward-hacking&postId=2620775" rel="nofollow noreferrer noopener" target="_blank">Источник</a>

Как создавать успешные продукты: данные vs интуиция

Продуктовый подход — это не набор инструментов, а способ мышления. Его цель — создавать ценность для пользователей и бизнеса, а не просто новые фичи. Как понять, что он действительно работает? Когда полагаться на данные, а когда — на интуицию? Разбираемся вместе с Сергеем Тихомировым, экспертом программы «Директор по продукту: управление продуктово…

Как создавать успешные продукты: данные vs интуиция

С какими рисками внедрения ИИ сталкивается российский бизнес

Эйфория от внедрения искусственного интеллекта прошла. В 2025 году бизнес увидел и оборотную сторону: по данным MIT, 95% компаний не получают желаемой отдачи от инвестиций в ИИ, а часть уволенных сотрудников приходится возвращать — заменить людей алгоритмами оказалось сложнее, чем думали.

С какими рисками внедрения ИИ сталкивается российский бизнес

Как утечка Grok стала закономерностью, а не случайностью

Что скрывалось за утечкой чатов Grok?
Мы собрали хронологию, признаки перегрева и причины, о которых никто не говорил вслух.

История о том, как давление, скорость и амбиции ломают даже большие компании.

1

Галлюцинации ИИ: почему машины всё ещё врут и как это исправить

Знакомый рассказал, как берлинский стартап якобы сорвал сделку на два миллиона евро — из-за ИИ. Помощник в презентации выдал: «рост рынка на 42% по данным McKinsey». Красиво, убедительно. Вот только отчёта не существовало.

Пример галлюцинации ИИ с просторов интернета
2

Wikipedia просит ИИ-компании отказаться от скрейпинга и использовать её платный API

Wikipedia усиливает давление на индустрию генеративного ИИ, пытаясь сформировать прозрачные и устойчивые правила использования своего контента. Организация фиксирует рост скрытого скрейпинга, который приводит к снижению качества трафика и подрывает модель, построенную на участии добровольцев и пожертвованиях. На этом фоне Wikimedia призывает разраб…

Wikipedia просит ИИ-компании отказаться от скрейпинга и использовать её платный API

Google внедряет Gemini в Maps: навигация по ориентирам и персонализированные подсказки

Google внедряет Gemini в Maps: навигация по ориентирам и персонализированные подсказки

Google интегрирует ассистента Gemini в «Карты». Новый ИИ станет заменой стандартного голосового помощника и будет давать контекстные подсказки, персональные ответы и визуальные ориентиры во время навигации.

Как изменилась дипломатическая карта Москвы за пять лет: данные, тренды и новая география влияния

С 2020 по 2025 год количество посольств в Москве сократилось с 160 до 149, но общее число стран с дипотношениями осталось стабильным — 191. За этой статистикой скрывается масштабная трансформация: уход западных миссий и укрепление связей с Азией, Африкой и Латинской Америкой.

Хронология изменений: от точечных решений к системной перест…

Профессиональный поиск по ключевым словам в файлах

🔒 FORENSIC ANVIL FILE SEARCH BY STREZHNEV
🎯 Профессиональный инструмент для поиска по ключевым словам в файлах различных форматов с расширенными возможностями анализа и экспорта.

✨ ВОЗМОЖНОСТИ:
• 🔍 Поиск в любой директории/диске
• 📁 Поддержка 50+ форматов файлов
• 📊 Экспорт в Excel
• 🖼 EXIF метаданные изображений
• 🔑 MD5 хеши файлов
• 🟢 Зеленый пр…

Как диковинные эксперименты ИИ приводят к реальным изобретениям в физике

Расскажу, как ИИ начинает создавать очень необычные и непредсказуемые физические эксперименты, которые – на удивление! – работают и даже превосходят то, что могли придумать люди-физики.

🔥 Еще больше интересного в моем канале продуктовые штучки

2

За “слив” банковской тайны — до 7 лет тюрьмы: что грозит IT-специалистам, дропперам и посредникам по новому закону

Кого коснётся новый закон и чем он опасен?

Президент подписал закон, который серьёзно ужесточает наказание за незаконное использование банковской, налоговой или коммерческой тайны. Изменения внесены в части 3 и 4 статьи 183 УК РФ. За преступления, совершенные группой лиц, теперь грозит лишение свободы сроком от двух до пяти лет со штрафом в размер…

Российское растениеводство в 2024: данные, которые изменят ваш взгляд на отрасль

Российское растениеводство в 2024: данные, которые изменят ваш взгляд на отрасль

Представьте, что вы управляете компанией с оборотом в триллион рублей, и вдруг за год теряете 13% выручки. Паника? Кризис? Увольнения?