"Приложение Sora может вызвать поток помоев искусственного интеллекта"
Сэм Альтман говорит, что OpenAI закроет приложение Sora, если жизнь пользователей не улучшится.
Приложение предназначено для всех, кто ищет персонализированный контент, удобный для просмотра. Одна из выдающихся функций, называемая "Камео", позволяет людям вставлять себя или друзей непосредственно в клипы, созданные искусственным интеллектом.
Критики предупреждают, что приложение может вызвать поток "помоев искусственного интеллекта"
Приложение быстро вызвало критику со стороны искусственного интеллекта, причем критики предупреждали о "помоях искусственного интеллекта" — общем, малоценном контенте, предназначенном для максимального вовлечения, но лишенном креативности или содержания. Как и TikTok и аналогичные платформы, формат Sora основан на алгоритмах, которые оптимизированы для быстрой реакции, что приводит к созданию контента, который часто кажется взаимозаменяемым и поверхностным.
Генеральный директор OpenAI Сэм Альтман предвидел критику. В заявлении он предупредил о "вырождающемся случае генерации видео с помощью искусственного интеллекта, в котором мы все попадаем в RL-оптимизированный канал нежелательной рекламы". RL-оптимизированный относится к алгоритмам обучения с подкреплением, которые максимизируют вовлеченность пользователей, часто жертвуя качеством и разнообразием.
Альтман признает, что риск реален, но говорит, что OpenAI активно работает над тем, чтобы избежать его. Вместо того, чтобы гнаться за краткосрочным взаимодействием, он объясняет, что Sora разработана с учетом долгосрочной удовлетворенности пользователей. По словам Альтмана, пользователи смогут настраивать свои каналы в соответствии со своим настроением, интересами или конкретными целями. Приложение предназначено для того, чтобы помогать людям достигать того, что он называет их истинными целями, будь то привести себя в форму, начать бизнес или "быть более общительными со своими друзьями".
Та же механика, другие обещания
Тем не менее, Sora использует многие из тех же функций, которые вызывают критику на других платформах: интенсивную персонализацию, эмоциональные триггеры и инструменты для обмена в социальных сетях. Известно, что они способствуют аддиктивному поведению. Хотя OpenAI утверждает, что Sora поддерживает долгосрочные цели, ее дизайн сосредоточен на короткометражном видео и быстрых циклах обратной связи.
Альтман говорит, что OpenAI будет внимательно следить за тем, как Sora влияет на жизни людей. Если большинство пользователей не почувствуют реальных позитивных изменений в качестве своей жизни, по его словам, компания рассмотрит "далеко идущие меры", включая полное закрытие приложения.
Успех, по словам Альтмана, означает, что "большинство пользователей, оглядываясь назад на последние 6 месяцев, должны чувствовать, что их жизнь стала лучше благодаря использованию Sora, чем была бы, если бы они этого не делали". Если это не так, Альтман говорит, что OpenAI внесет "существенные изменения", и если они не смогут решить проблему, они даже "прекратят предлагать услугу".
Но Альтман тут же перестраховывается. Он признает, что некоторые люди могут просто хотеть прокручивать до бесконечности, даже если это причиняет им боль. "И если вы действительно хотите просто прокручивать doom и злиться, тогда хорошо, мы поможем вам с этим", — сказал он, фактически перекладывая ответственность обратно на пользователей - как и на любую другую платформу социальных сетей.
Кратко
- OpenAI запустила Sora, приложение, которое позволяет пользователям создавать короткие видеоролики, созданные искусственным интеллектом, и делиться ими, включая функцию "Камео", при которой пользователи или их друзья становятся главными героями клипов.
- Члены сообщества искусственного интеллекта выразили обеспокоенность тем, что Sora в основном производит "AI slop", что означает общий, поверхностный контент, предназначенный для максимизации реакции, но предлагающий мало реальной ценности.
- Генеральный директор OpenAI Сэм Альтман публично признал риск появления каналов с вызывающим привыкание контентом и говорит, что компания будет внимательно следить за Sora, с возможностью закрыть приложение, если оно будет развиваться в негативном направлении.
- Генерировать видео нейросетью в разных пропорциях и тд в России можно через сервис Videobot от KolerskyAI