OpenAI представила новую модель видеогенерации Sora: Какие нас ждут последствия

Про новую модель написали уже все, но практически никто — о возможных последствиях. Подивившись на великолепные видео, давайте выдохнем и подумаем, чем нам это грозит.

1. Очевидно, что это не конечная точка — качество генерации, консистентность (способность удерживать сюжет, стиль и детали) будет улучшаться, а стоимость — уменьшаться. Уже сейчас эти видео довольно сложно отличить от реальности, а скоро это сделать будет невозможно вообще, даже с помощью алгоритмов или других нейросетей.

2. Прямо сейчас фотки трехпалых детей и шестилапых кошек «жертв войны» набирают в твиттере сотни тысяч ретвитов. Люди не обращают внимание даже на такие, казалось бы очевидные косяки, что уж говорить про примеры выше. И это при том, что в твиттере есть Community Notes — когда прямо на твит с фейком или дезой вешается плашка-опровержение со ссылками на доверенные источники. В других соцсетях этого нет вообще!

3. Создать инфоповод о несуществующем событии, либо «правильно» подогреть нужный станет еще проще. Люди доверяют видео. Нагенерил видео с разных «ракурсов», запостил, а боты на условном ChatGPT откоментили, обсудили и заретвитили. Мы живем в мире, когда не только новости пишутся по твитам, но политические решения принимаются по тем же самым твитам, которые, естественно, ни на секунду не являются репрезентацией реальности.

4. Не стоит думать, что OpenAI станет корпорацией добра, которая введет цензуру и не даст генерировать дипфейки и прочую дезу. Точнее, OpenAI постарается, но они не являются носителями уникального и неповторимого знания. Другие исследователи и разработчики с аналогичными решениями отстают максимум на пару-тройку лет.

5. Государства постараются взять ИИ под свой контроль, ради «безопасности». Да, инструменты манипуляции реальностью будут контролировать те, кто больше всего заинтересован в манипуляциях реальностью.

6. Что касается кожаных видео-операторов, режиссеров и прочих киноделов. Утверждающие, что «вас не заменит ИИ — вас заменит человек с ИИ» правы лишь наполовину. Это переходной период, который продлится не очень долго. Сложно делать прогнозы, но я даю классической киноиндустрии 10, максимум 15 лет. Нейросеть, буквально обладающая опытом и знаниями всего человечества, сможет создавать намного более глубокие и затягивающие сюжеты. И что самое главное, персонализированные.

7. Индустрия развлечений изменится — бесконечные, персонализированные и интерактивные многопользовательские сериалы на любую тему, вероятнее всего, появятся уже в течение нескольких лет. Персонализированное порно, естественно, тоже будет (я знаю, вы об этом подумали 😀). Бесконечная дофаминовая петля и полный уход от реальности близок как никогда, а с развитием AR/VR гарнитур станет еще ближе.

---

В завершение хочу сказать, что вы, мои дорогие читатели, входите в ~0.01% людей, которые имеют внятное представление об этих технологиях, их возможностях, и будущем. Обмануть остальные 8 миллиардов людей — легче легкого.

Используйте эти знания во имя добра, пока еще можете.

Расскажите всем: верить своим глазам и ушам больше нельзя.

Хороших выходных! Не забудьте подписаться на мой канал — Рептилоидная, где я регулярно пишу о таких вещах.