Как "искуственный" Джо Байден призывал не голосовать на выборах 2024 года в США
Статья является переводом с сайта
В то время как основные инструменты искусственного интеллекта набирают обороты в преддверии президентских выборов в США в 2024 году, дезинформация, создаваемая искусственным интеллектом, не просто вызывает опасения - она уже стала реальностью. 22 января Министерство юстиции Нью-Гэмпшира опубликовало заявление о том, что люди получили аудиозапись с фальшивым голосом Джо Байдена, призывающую их не голосовать на первичных выборах в штате. Звонок призывал избирателей "сохранить" свой голос, ложно отмечая, что "ваш голос будет иметь значение в ноябре, а не в этот вторник".
Несколько дней спустя компания ElevenLabs, занимающаяся разработкой искусственного интеллекта, отстранила от работы создателя фальшивого аудиоролика Байдена, сообщает Bloomberg.
ElevenLabs - это генератор голосов ИИ, управляемый моделью, которая, как утверждается на сайте компании, может добавлять в голос человеческие интонации в зависимости от контекста. Генератор имеет тысячи готовых голосов ИИ на выбор, или вы можете создать свой собственный. Bloomberg сообщает, что компания Pindrop Security Inc., занимающаяся обнаружением голосового мошенничества, обнаружила, что робозвонок ИИ Байдена был сделан с помощью ElevenLabs.
"Мы стремимся предотвратить неправомерное использование инструментов искусственного интеллекта и крайне серьезно относимся к любым случаям неправомерного использования", - заявили в ElevenLabs агентству Bloomberg. На сайте ElevenLabs указано, что глубокие подделки политиков могут использоваться только в определенных случаях, включая карикатуру, пародию или сатиру. Как только компании стало известно о подделке Байдена, она провела расследование и приостановила работу аккаунта, ответственного за это, сообщил Bloomberg источник.
В интервью изданию The Hill профессор информатики Университета Карнеги-Меллон Кэтлин Карли сказала, что робозвонок Байдена - это "вершина айсберга" в попытках подавить избирателей. Карли добавила, что это предвестник того, что может произойти.
Разработчик ChatGPT компания OpenAI уже пытается самостоятельно бороться с дезинформацией, обнародовав планы по защите честности выборов. Вскоре после этого компания отстранила от работы разработчика, который создал бота для кандидата от демократов, имеющего большой шанс на победу.
Поэтому мы должны быть бдительны к тому, что видим - и слышим - в этот предвыборный сезон. Как предупреждает технический репортер Mashable Сесили Мауран, "идея интернета, в котором будет доминировать контент, созданный искусственным интеллектом, уже воплощается в жизнь, и это выглядит не очень хорошо".