Как создатели ChatGPT борются с дипфейками и дезинформацией
Влияние продуктов на базе ИИ на нашу жизнь усиливается с умопомрачительной скоростью. Разработчики ChatGPT осознают это и работают над тем, чтобы предотвратить злоупотребления и обеспечить достоверность создаваемого ИИ контента. А нам важно понимать, какие есть возможности, чтобы не нарваться на фейковый контент.
Например, недавно фейковое фото горящей Эйфелевой башни в соцсети собрало 87 млн просмотров за три дня.
Вот основные инициативы от OpenAI.
1. Предотвращение злоупотреблений
1) В DALL·E отклоняются запросы на создание изображений реальных людей, включая кандидатов для предотвращения создания дипфейков.
2) Регулярное обновление политики использования ChatGPT и API по мере того, как появляется больше сведений о том, как люди используют или пытаются злоупотреблять технологией.
3) Запрет на создание приложений для политических кампаний и лоббирования, по крайней мере, до тех пор, пока не поймут, насколько эффективными могут быть инструменты для личного убеждения.
Буквально 21 января в Washington Post появилась информация,что OpenAI впервые забанил разработчика политического чат-бота.
The Washington Post сообщила, что стартап Delphi не может использовать платформу OpenAI после того, как он создал Dean.Bot, чат-бот, имитирующий представителя Дина Филлипса (демократ от Миннесоты).
2. Прозрачность контента, созданного ИИ
Идет работа над несколькими проектами по обеспечению прозрачности происхождения изображения и возможности определить, какие инструменты использовались для создания изображения.
1) В начале 2024 г. обещают внедрить «знак прозрачности» для изображений, созданных с помощью DALL·E 3. В значке будут закодированы сведения о происхождении контента с помощью криптографии. Специальный значок разрабатывается в рамках Коалиции за подлинность контента (C2PA).
В начале февраля 2024 г. OpenAI начали маркировать все изображения, которые создаются в ChatGPT и их API. Теперь продукты содержат метаданные с использованием спецификаций C2PA.
2) Эксперименты с классификатором происхождения — новым инструментом для обнаружения изображений, созданных DALL·E. Внутреннее тестирование показало многообещающие первые результаты, даже если изображения подвергались модификации. Планируют вскоре предоставить его первой группе тестировщиков, включая журналистов, медиа и расследователей для получения обратной связи.
3) ChatGPT интегрируется с источниками информации. Пользователи начнут получать доступ к новостям в реальном времени по всему миру, включая данные об источниках информации и ссылки. Это поможет избирателям лучше оценить информацию и решить для себя, чему они могут доверять.
3. Упрощение доступа к заслуживающей доверия информации о выборах
Компания понимает всю важность и свою ответственность за то, чтобы технология не использовалась для подрыва демократического процесса.
Например, в США OpenAI работает с Национальной ассоциацией государственных секретарей (NASS), старейшей беспартийной организацией государственных служащих. ChatGPT будет направлять пользователей на CanIVote.org, авторитетный веб-сайт с информацией о голосовании в США, когда ему задаются вопросы, связанные с процедурой выборов, например, где голосовать. Эта работа станет основой для работы в других странах и регионах.
Пожалуйста, поддержите меня, поставьте лайк!
Есть версия, что попытка увольнения Сэма из OpenAI в ноябре 2023 г. связана с его желанием излишне быстро коммерциализировать наработки в области искусственного интеллекта (ИИ). Однако его статья еще 2021 года (Moore's Law for Everything) говорит скорее об обратном. В ней Сэм рассуждает о — ни много ни мало! — эре социализма, которая-таки наступит…
Вчера исполнился год ChatGPT, а нам уже трудно представить жизнь без него. Главный ученый OpenAI Илья Суцкевер, чей вклад стал ключевым для успеха компании, недавно поделился своими видением будущего ИИ для Ted Talks. Видение его любопытно хотя бы потому, что Илья среди тех, кто сейчас определяет будущее ИИ в мире. И он не меньше создателей атомной…
Мой рабочий день начинался в 4 утра, а на дорогу от дома до рынка и обратно тратила почти 6 часов — история о том, как я была посредником на Садоводе и почему это адский и неблагодарный труд...
Что делать оффлайн-бизнесу, который сталкивается с плохими отзывами?! Герой нашей статьи сделал агентство удаления таких отзывов. Как это работает — детально рассказали в материале.
Свой «быт» показывает в Douyin — китайской версии TikTok.
Обновление доступно пользователям всех платных тарифов.
И назначить штраф в 315 млн рублей.
Вы видели этих счастливых людей в Instagram. Загорелые, с ноутбуком на коленях, на фоне побережья Бали или террасы с видом на Альпы. Подпись гласит: "Понедельник в офисе 🌴 #remotework #digitalnomad". И у вас, сидящего в опостылевшем офисе или квартире в спальном районе, подкатывает ком зависти к горлу...
После выхода из тюрьмы я бы никогда не подумал, что захочу помогать гражданам отстаивать свои права. Благо я узнал про каналы, которые дали мне возможность зарабатывать 500к+/месяц.