OpenAI будет защищать предстоящие выборы в США

Выборы – сложная тема, информация о которой быстро меняется. Чтобы убедиться, что у вас самая актуальная и точная информация, воспользуйтесь поиском Google.

OpenAI объявила о комплексном подходе к предотвращению злоупотреблений своей технологией искусственного интеллекта во время президентских выборов в США в 2024 году. Компания, занимающаяся генеративным искусственным интеллектом, заявила, что она будет гарантировать, что ее инструменты искусственного интеллекта, такие как ChatGPT и DALL-E, будут использоваться исключительно для продвижения «точной информации о голосовании», реализации надежных политических мер и повышения прозрачности. OpenAI подтвердила начало масштабного плана по борьбе с возможным злоупотреблением ее технологиями в избирательном процессе.

В своих усилиях OpenAI объединила опыт различных внутренних групп, включая команды по системам безопасности, аналитике угроз, юридические, инженерные и политические команды. Перед этой межведомственной группой стоит задача оперативно выявлять и устранять любые злоупотребления ее технологиями, которые могут поставить под угрозу честность выборов не только в США, но и во всем мире.

OpenAI также четко заявила о своей позиции против использования своих инструментов для любых политических кампаний, лоббирования и создания чат-ботов с искусственным интеллектом, предназначенных для выдачи себя за кандидатов или правительственные организации. Фирма будет активно блокировать попытки использовать свою технологию для распространения вводящей в заблуждение информации о голосовании или передачи сообщений, которые могут несправедливо повлиять на явку избирателей.

Чтобы улучшить обнаружение дипфейковых изображений, OpenAI разрабатывает новый инструмент, известный как «классификатор происхождения». Этот инструмент предназначен для идентификации изображений, созданных ИИ, в том числе тех, которые претерпели общие модификации. OpenAI ожидает, что журналисты и другие профессиональные тестировщики вскоре получат доступ к этому инструменту, позволяющему эффективно различать подлинные изображения и изображения, созданные искусственным интеллектом.

Более того, OpenAI стремится к сотрудничеству с общественностью, позволяя людям сообщать о предполагаемых нарушениях непосредственно в компанию. Это действие последовало за проверкой чат-бота Microsoft Copilot, работающего на базе технологии OpenAI, который предоставил неточную информацию о прошлых выборах. В ответ Microsoft также заявила, что представит инструменты, которые помогут политическим организациям подтвердить подлинность их цифрового контента, такого как реклама и видео.

Поскольку искусственный интеллект все больше интегрируется в социально-политическую сферу, инициатива OpenAI отражает растущую потребность технологических компаний предпринимать активные шаги для обеспечения того, чтобы их платформы не стали проводниками дезинформации, особенно в критическом контексте демократических выборов.

Google уже применил аналогичный подход к OpenAI. В прошлом месяце компания объявила о собственных мерах по предотвращению влияния ИИ на выборы. В ответ на проблемы, связанные с распространением дезинформации в предыдущих избирательных циклах, гигант поисковых систем решил ограничить ответы своих генеративных инструментов искусственного интеллекта запросами, связанными с предстоящими выборами.

В ноябре служба безопасности Microsoft предупредила о том, как ИИ повлияет на президентские выборы в США. В докладе, озаглавленном «Защита выборов 2024 года от иностранного вредоносного влияния», подчеркивается потенциальное вмешательство со стороны авторитарных государств, использующих ИИ и другие передовые технологии.