«Опасная околесица»: книга про СДВГ, написанная чат-ботом ИИ, продается на Amazon
Эксперты считают, что онлайн магазин должен нести ответственность за недопущение в продажу работ, написанных чат ботам на чувствительные темы. Онлайн маркетплейсы переполнены книгами, написанными чат-ботами. Эксперты отмечают, что из-за отсутствия регулирования работ, созданных ИИ ботами, возникает риск распространения довольно опасной дезинформации. Созданные чат-ботами книги не маркируются. Как выясняется, читатели обнаруживают «странности» и вредные советы, когда читают купленные на Amazon работы от ИИ ботов.
Amazon продает книги, которые рекламируют людям, нуждающимся в техниках управления СДВГ, при этом эти книги позиционируются как написанные экспертами, хотя их написал ИИ чат-бот, аналог ChatGPT.
Площадка Amazon переполнена работами, созданными ИИ. Эти книги легко и дешево печатать, но они содержат бесполезную или опасную дезинформацию, например, это некачественные путеводители или книги о грибах, которые поощряют опасную дегустацию.
На маркетплейсе появились книги про СДВГ, созданные чат-ботом. Названия: «Навигация по СДВГ у мужчин: управление даже при поздней диагностике», «Мужчины с СДВГ: высокоэффективные техники управлять фокусом внимания», «Тайм менеджмент и преодоление беспокойства», «Мужчины с СДВГ: диета и фитнес».
Образцы восьми книг по заказу издания Guardian были изучены американской компанией Originality.ai, которая выявляет контент, созданный ИИ. Компания сообщила, что каждая книга на 100% написана ИИ.
ИИ боты известны тем, что дают опасные советы
Эксперты заявляют, что онлайн маркетплейсы - это «Дикий запад» из-за отсутствия регулирования работ, созданных ИИ ботами. В результате возникает риск распространения довольно опасной дезинформации.
Michael Cook, исследователь компьютерных наук в King’s College London: известно, что генеративные ИИ системы дают опасные советы, например, принять внутрь токсичные вещества, смешать токсичные химические ингредиенты или игнорировать рекомендации врача по поддержанию здоровья.
Michael Cook: «разочаровывает и пугает, как книги, написанные ИИ ботами, распространяются на цифровых маркетплейсах», особенно, когда это книги по теме здоровья или медицины. Такие книги могут привести к постановке некорректного диагноза или ухудшению состояния человека.
Michael Cook: «Генеративные ИИ системы, как ChatGPT, могут быть обучены на множестве медицинских книг и статей, но они также обучены и на материалах из псевдонауки, теории заговоров и фантастике».
«Эти материалы страдают от недостатка критического анализа или достоверного изложения знаний, которые были получены ИИ технологией. Это не очень просто, заставить ИИ "запомнить" то, на чем технология была обучена. Генеративный ИИ должен быть исключен из чувствительных и опасных тем, пока его не проверили эксперты».
Бизнес-модель Amazon стимулирует продажи псевдокниг, написанных ИИ ботами
Michael Cook: бизнес-модель Amazon поощряет практику продажи книг, написанных ИИ, так как продавец «зарабатывает каждый раз, когда человек покупает книгу» вне зависимости от того, «достоверна ли информация в книге или нет», а компании- разработчики генеративного ИИ не несут ответственности за контент.
Профессор Shannon Vallor, директор Центра ответственного техно будущего при Университете Эдинбурга, заявила, что Amazon «должен нести этическую ответственность за усилия по предотвращению причинения вреда клиентам и обществу», хотя было бы «абсурдно» делать продавца ответственным за содержание всех книг.
Применение ИИ в написании книг разрушило устоявшиеся защитные механизмы издательского бизнеса
Профессор Shannon Vallor: проблема появилась, так как защитные механизмы, давно работающие в издательском мире, например, репутационные риски и проверка авторов и их работ, полностью изменились из-за ИИ.
Это усложнилось «Диким западом», когда нет регуляторных правил, которые бы «устанавливали значимые последствия за принесение вреда», что подстегивает эту «гонку глубоко вниз».
Отсутствие регулирования ИИ книг
В настоящее время отсутствует регулирование, требующее, чтобы книги, написанные ИИ, маркировались соответствующим образом. Закон об авторском праве применяется только тогда, когда был воспроизведён контент, защищенный авторским правом, хотя Shannon Vallor отмечает, что деликтное право должно налагать «базовые обязанности по соблюдению безопасности и разумности».
Агентство по стандартам рекламы заявило, что книги, написанные ИИ, не могут рекламироваться, так как это создает ложное впечатление, что они написаны человеком. Такой подход позволяет подать жалобу, если реклама имела место.
История пациента с СДВГ: «очень странная книга» с вредными советами
Richard Wordsworth надеялся узнать об СДВГ, такой диагноз ему недавно поставили. Его отец посоветовал ему прочитать книгу, которую он нашел на Amazon по теме: «СДВГ у взрослых мужчин».
Когда Richard начал читать книгу, то «она показалась ему странной сразу же». Книга начиналась с цитаты консервативного психолога Jordan Petersen, а потом шел ряд анекдотов, также был ряд исторических неточностей.
Некоторые советы были реально вредными, заметил Richard. Например, в одной из глав обсуждалась эмоциональная дисфункция. Там утверждалось, что «семья и друзья не прощают эмоционального вреда, который вы им наносите. Боль оставляет неизгладимые раны».
Когда Richard Wordsworth поискал автора книги, то он понял, что портрет был сгенерирован ИИ, и у автора не была соответствующей квалификации. Он поискал похожие названия книг на Amazon и был шокирован, встретив множество «предупреждений», что его состояние - «катастрофа», и «у него в четыре раза больше шансов умереть».
Он почувствовал себя «расстроенным», так же, как и его отец, который был образованным человеком. Richard Wordsworth: «Если его обманули эти книги, то они могут обмануть кого угодно. Нормальные, но отчаявшиеся люди забьют себе голову опасной чепухой, которую придумывают мошенники, а Amazon на этом зарабатывает».
Представитель Amazon: «У нас есть руководства для управления контентом. Это руководство определяет, какие книги могут быть выставлены на продажу. У нас есть техники, которые помогают нам выявить контент, нарушающий наши правила, независимо от того, создан он ИИ или человеком. Мы тратим время и ресурсы, чтобы удалить книги, которые нарушают наши правила».
«Мы продолжим улучшать наши методы защиты от контента, нарушающего правила. Наши процессы и правила будут меняться по ходу изменений в издательском бизнесе».
Ссылка на статью: