Google разрешила своим ИИ генерировать видео. Это конец или только начало?

Кажется, мир уже не будет прежним. Google, которая и так знает всё о ваших запросах, теперь берёт на себя ещё одну миссию — научить машины создавать видео. Да, Veo, новый ИИ-сервис компании, уже доступен избранным клиентам, и его возможности звучат как мечта. Или как начало кошмара. Почему меня это пугает? Сейчас объясню.

Марка печенья Oreo собирается использовать Veo для создания рекламных роликов. Quora планирует внедрить его в свою платформу чат-ботов Poe. Всё звучит безобидно, но давайте подумаем: кто ещё получит доступ к этой технологии?

Рекламные ролики, мемы, обучающие видео, замедленные съёмки — Veo может всё. Но вот вопрос: если рекламные агентства и платформы вроде Quora уже планируют внедрить это, то что мешает менее добросовестным компаниям (или людям) делать то же самое?

Гипотетическая ситуация:Представьте, вы смотрите видео на YouTube. Это якобы ролик вашего любимого блогера, который рекомендует новый продукт. Только вот блогер никогда этого не говорил. Veo уже сделал это за него.

Реальная угроза: поддельные видео станут нормой, а мы потеряем способность отличать правду от вымысла.

В Veo встроены фильтры, которые якобы предотвращают нарушение авторских прав, создание сцен насилия и другой неподобающий контент. Но кто проверяет эти фильтры? Google? Те самые люди, которые интегрировали данные YouTube в обучение своей модели без согласия авторов?

Да, на презентации в мае 2024 года Google пообещала, что система будет безопасной. Но вспомните, как быстро ломают любую защиту. Если кто-то захочет обойти фильтры Veo, он это сделает.

Гипотетическая ситуация:Владелец маленькой кофейни заказывает рекламный ролик у Veo. Через два дня он обнаруживает, что его же видео украли и слегка отредактировали для рекламы конкурента. Кто виноват? Veo? Google? Или мир, где авторство уже не имеет значения?

Реальная угроза: фильтры — это временная преграда. Их сломают, и это лишь вопрос времени.

В апреле 2024 года стало известно, что Google включила данные YouTube в набор для обучения Veo. Это миллионы, если не миллиарды, видео, созданных обычными людьми.

Вы сняли видео с котиком? Отлично, теперь оно — часть обучения Veo. Ваш ролик с отпуском? Тоже пригодится. И вот, ИИ уже генерирует видео, которые могут быть подозрительно похожи на ваши.

Гипотетическая ситуация:Вы случайно находите рекламу, где персонажи говорят вашими словами из старого влога. Вас это возмущает, но юридически доказать, что это украдено у вас, невозможно.

Реальная угроза: граница между авторством и массовой эксплуатацией уже размыта. Теперь её может вообще не стать.

Veo — это не просто инструмент, это новый уровень манипуляции. Сегодня это рекламные ролики и чат-боты. Завтра — политические кампании, поддельные новости и целые фильмы, созданные для обмана.

Google — огромная корпорация, но кто контролирует её технологии? Они говорят о прозрачности, но сколько мы действительно знаем о том, как работают их ИИ?

Гипотетическая ситуация: вы получаете видео от друга, который просит срочно перевести деньги. Видео выглядит настоящим, но на самом деле его сгенерировал Veo. Деньги уходят мошенникам, а вы остаетесь ни с чем.

Да, Veo — это прорыв. Но это ещё и огромный риск. Мы уже видели, как быстро технологии могут выйти из-под контроля. И если такие инструменты, как Veo, станут доступны широкому кругу пользователей, последствия могут быть катастрофическими.

Мой совет? Будьте параноиком. Смотрите, кто создаёт видео, и задавайте вопросы. А ещё лучше — научитесь отличать настоящее от фальшивки. Пока ещё есть шанс.