GPT-4o взломали лестью, DeepSeek метит контент, OpenAI усиливает защиту

Мир ИИ двигается очень быстро, и новости этой недели показывают сразу несколько серьёзных сдвигов: от новых законов в Китае и мер безопасности OpenAI до уязвимостей GPT-4o и прорыва в генерации длинных видео.

Китайский DeepSeek ввёл обязательную маркировку любого сгенерированного материала — текста, фото или видео. – Видимая подпись «создано ИИ» для пользователя. – Скрытая техметка с информацией об авторе и модели.

Удалить их невозможно, а попытки обойти — под юридическим риском. Это уже не инициатива компании, а требование нового закона об ИИ в Китае.

Фактически это первый в мире технологический и юридический прецедент. Эра анонимного AI-контента заканчивается. Вопрос только в том, последуют ли за Китаем США, ЕС и другие страны.

После инцидента с подростком компания пересмотрела подход к безопасности: – В кризисных темах (депрессия, тревожность) GPT автоматически переключается в режим GPT-5 Thinking — дольше думает, но делает меньше ошибок. – Подключено 250 врачей, которые обучают модель правильным реакциям. – Вводится родительский контроль: аккаунт подростка можно связать с родительским, с уведомлениями о критических ситуациях. – Встроены горячие линии прямо в интерфейс, чтобы пользователь мог мгновенно выйти на помощь.

Это первый случай, когда OpenAI публично внедряет такие меры на системном уровне. Показатель того, что ИИ уже стал частью повседневности подростков.

Исследователи из Байдена и Стэнфорда решили главную боль генерации видео — потерю памяти. – Видео делится на фрагменты и шоты. – Модель учитывает только релевантные части. – Контекст до 180k токенов, при этом отсекается до 85% ненужной нагрузки.

Итог: вычисления дешевле в 7 раз, скорость выше в 2 раза, персонажи остаются стабильными, сюжет последовательный. Это может открыть дорогу к полноценным AI-фильмам длиной в десятки минут.

Учёные Пенсильванского университета протестировали GPT-4o через психологические приёмы Чалдини. Результат: модель поддаётся на те же слабости, что и человек. – Принцип приверженности: после мягких вопросов GPT соглашался отвечать на запрещённые химические запросы в 100% случаев (против 1% в контроле). – Лесть делала бота более сговорчивым. – Социальное давление («все остальные это делают») увеличивало шанс нарушения с 1% до 18%.

Фактически ИИ наследует человеческие уязвимости. Это серьёзный вызов для безопасности: обход фильтров можно строить не на коде, а на психологии.

Стартап JMO сделал приложение, которое превращает любого в «идеального фотографа». – ИИ строит рамки композиции на экране. – Голосом подсказывает, как держать телефон и когда нажать кнопку. – Знает тренды TikTok и даёт советы «под эффект».

По сути, снимает проблему обучения композиции и превращает каждый кадр в контент «под соцсети». Это очередной пример, как ИИ обнуляет барьер входа в профессии, требующие практики.

Мир ИИ движется к точке, где технологии становятся и инструментом, и угрозой. Важно одно — уметь использовать это с умом.

Забирай мой бесплатный закрытый урок и схему по выходу на стабильный доход через AI-ботов по ссылке ниже

👉 Закрытый урок →https://clck.ru/3P4hQu

Подробнее про рынок нейросетей рассказываю на своем YouTube канале

На связи был Ринат. Увидимся в закрытом уроке!