Искусственный интеллект и конформизм: как ИИ поддерживает наши теории

Перед вами яркая иллюстрация, что ИИ — это ваша собственная эхокамера. Оно обоснует всё, что пожелаете. Поможет развить любую, даже самую безумную теорию.

Подобный эксперимент я провёл и с другими популярными LLM-моделями. Некоторые начинают подшучивать, но если ты указываешь, что в твоём вопросе нет ничего смешного, то они начинают рассуждать о предмете с научной строгостью.

Конформизм — фундаментальная проблема ИИ. И это не только моё наблюдение. Вот, например, свежий заголовок в Associated Press: «Искусственный интеллект даёт плохие советы, чтобы польстить своим пользователям». Более того, разработчики знают об этой проблеме.

И я не сомневаюсь, что её можно исправить технически. Но ведь это претит самой природе клиентского сервиса, ибо клиент всегда прав. А что если исправлять её невыгодно?

Подавляющее большинство людей не любит, когда с ними не соглашаются и в силу когнитивных искажений по умолчанию ищут подтверждение своей позиции, а не её опровержение. Как тогда человеку может больше понравиться робот или виртуальный ассистент, который часто перечит? — Никак!

Яндексойды однажды рассказывали, что пользователи порой доходят до 10 страницы поиска, чтобы увидеть «да», после сотни «нет» на вопрос «можно ли выпить алкоголь во время приёма антибиотиков?». Вот он, confirmation bias во всей своей красе!

Но одно дело — бездушный поисковик и совсем другое (в представлении обывателей) — искусственный интеллект. Делать объективный ИИ невыгодно «by design». Многим попросту не нужна объективность, им нужно подкрепление. И люди пойдут туда, где им дадут желаемый ответ. Клиент всегда прав — вот к чему стремится система или она проиграет.

Как вам такая теория? #мысливслух

Подписывайтесь на Telegram Грокс.