Люди не смогли отличить созданные нейросетью OpenAI Sora видео от настоящих

Несколько недель назад компания Open AI представила новую нейросеть Sora, которая способна генерировать реалистичные видео по текстовому описанию. Продолжительность видео может достигать одной минуты, а разрешение составляет 1920×1080 пикселей.

Теперь компания HarrisX провела опрос, чтобы выяснить, смогут ли взрослые американцы отличить видео, сгенерированное искусственным интеллектом, от настоящего. В результате опроса выяснилось, что большинство респондентов допустили ошибки в 5 из 8 предлагаемых роликов.

В опросе, который проводился с 1 по 4 марта в США, приняли участие более 1000 американцев. Исследователи сгенерировали четыре высококачественных ролика с помощью нейросети Sora, а также выбрали четыре небольших видео, снятых на камеру в реальном мире. Респондентам случайным образом показывали эти видео, и их задачей было определить, был ли ролик снят человеком или сгенерирован искусственным интеллектом. Мнения участников опроса разделились, но при этом в 5 из 8 случаев большинство респондентов дали неверный ответ.

Это исследование показывает, что контент, создаваемый с помощью генеративных нейросетей, становится все более реалистичным, и отличить его от реального становится все сложнее. Именно поэтому в разных странах все чаще звучат призывы к властям о необходимости законодательного регулирования этого сегмента.

В числе прочего предлагается обязать пользователей нейросетей отмечать генерируемый контент таким образом, чтобы он не вводил других в заблуждение и не мог стать источником дезинформации.

Алгоритм Sora еще не доступен широкой публике, но уже вызывает беспокойство в обществе, особенно в индустрии развлечений, где развитие технологий генерации видео может привести к негативным последствиям, например, для киностудий. Более того, все чаще возникает вопрос о том, что подобные алгоритмы могут использоваться для создания фейковых видео с участием политиков и знаменитостей, что может привести к непредсказуемым последствиям.