Как определить, был ли контент создан ChatGPT и другими ИИ

Искусственный интеллект (ИИ) способен создавать все более похожие на человеческие тексты, изображения, музыку и видео. Были сообщения о том, что студенты используют его для мошенничества, и вокруг книг, написанных ИИ, возникла индустрия, которую люди называют - своей собственной работой (есть множество статей, как создать электронную детскую книжку и продавать ее на амазоне).

Тем не менее, есть также по крайней мере один зарегистрированный случай , когда учитель (очевидно, неумелый) использовал ИИ, чтобы неправильно «доказать», что его ученики жульничали, что привело к тому, что он завалил их всех на экзамене.

Есть также недавний случай, когда фотограф выиграл конкурс, отправив фотографию, созданную искусственным интеллектом, а не ту, которую он сделал сам. В данном случае у фотографа были благие намерения, и он вернул свою награду, раскрыв свой эксперимент.

К счастью, на данный момент существуют довольно точные методы определения того, что работы были созданы с помощью ИИ. В этой статье я рассмотрю, какие инструменты существуют, как они работают, а также почему они могут быть жизненно важны для безопасности и защиты академической и художественной целостности.

По мере того, как контент, созданный ИИ, становится все более распространенным явлением, возрастает его способность вызывать разрушительные и потенциально опасные последствия. Прекрасным примером является явление дипфейков, реалистичных изображений или видео реальных людей, которые, кажется, делают или говорят то, чего никогда не делали. Уже были случаи, когда это использовалось для фальсификации порнографического контента людей без их согласия и для того, чтобы вкладывать слова в уста политиков, включая Барака Обаму . Вы можете найти видео ареста Трампа (даже до того, как он был арестован) и Джо Байдена, поющего «Baby Shark » (чего, насколько я знаю, он никогда не делал).

Кое-что из этого может показаться забавным, но это может иметь разрушительные последствия для вовлеченных людей или для общества в целом, если это повлияет на демократические процессы.

ИИ использовался для клонирования человеческих голосов с целью совершения мошенничества. В одном случае его использовали, чтобы попытаться заставить семью поверить в то, что их дочь была похищена, чтобы вымогать выкуп. В другом случае руководителя компании убедили перевести более 240 000 долларов с помощью поддельного голоса, который он считал своим боссом.

Если учащиеся используют его для обмана на сочинениях и экзаменах, это может нанести ущерб целостности систем образования и репутации школ и колледжей. Это может привести к тому, что студенты будут не подготовлены к карьере, которую они надеются получить, и к обесцениванию дипломов.

К счастью, существует ряд доступных методов для обнаружения контента, созданного ИИ.

Во-первых, существуют цифровые инструменты, которые используют собственные алгоритмы ИИ, пытаясь определить, был ли текст, изображение или видео создан с помощью ИИ.

Вы можете найти несколько текстовых детекторов AI в свободном доступе в Интернете. Детектор контента ИИ утверждает, что надежен на 97,8% и может проверить любой фрагмент текста на наличие признаков того, что он не был написан человеком.

Это возможно, потому что для компьютера содержание ИИ относительно предсказуемо, поскольку оно основано на вероятностях. Это означает, что концепция под названием «недоумение» может быть использована для определения того, используется ли в тексте язык с высокой вероятностью или нет.

Другими полезными инструментами являются Writer AI Content Detector и Crossplag .

Для обнаружения дипфейков компании, в том числе Microsoft, сотрудничают в рамках проекта Deepfake Detection Challenge . Этот проект регулярно выпускает наборы данных, которые можно использовать для обучения алгоритмов обнаружения. Это также вдохновило на конкурс на совместном портале по науке о данных Kaggle, где пользователи соревнуются в поиске наиболее эффективных алгоритмов.

Признавая угрозу, которую генерируемые ИИ видео и изображения могут представлять для национальной безопасности, военные организации также присоединились к борьбе. Агентство перспективных исследовательских проектов Министерства обороны США (DARPA) создало инструменты , предназначенные для определения того, были ли изображения созданы или обработаны искусственным интеллектом. Один из инструментов, известный как MediFor, работает, сравнивая изображение, сгенерированное искусственным интеллектом, с изображениями реального мира, ища контрольные признаки, такие как вариации эффекта освещения и цвета, которые не соответствуют действительности.

Наконец, мы не должны упускать из виду ту роль, которую человеческое суждение и критическое мышление могут сыграть в обнаружении контента ИИ. У людей есть чувство «внутреннего чутья», которое, хотя и не безошибочно, может помочь нам, когда дело доходит до определения подлинности. Бросить критический взгляд и применить то, что мы знаем .

А если вам еще больше интересна тема ИИ, вы хотите знать больше и не пропускать новинки и обзоры, подпишитесь на канал в тг, мне будет приятно -

#ии #иибудущее #chatgpt #chatgpt4 #chatgpt3 #нейросети #искусственныйинтеллект #определение #определяем