Политическая предвзятость ChatGPT снова подчеркнута новым исследованием
Текст составил Райан — старший редактор TechForge Media с более чем десятилетним опытом освещения новейших технологий и интервью с ведущими деятелями отрасли. Его часто можно увидеть на технических конференциях с крепким кофе в одной руке и ноутбуком в другой.
Исследование , проведенное исследователями компьютерных и информационных наук из Великобритании и Бразилии, вызвало обеспокоенность по поводу объективности ChatGPT.
Исследователи утверждают, что обнаружили существенную политическую предвзятость в ответах ChatGPT, склоняющуюся к левой стороне политического спектра.
Опубликованное на этой неделе в журнале Public Choice исследование, проведенное Фабио Мотоки, Вальдемаром Пиньо и Виктором Родригесом, утверждает, что наличие политической предвзятости в контенте, созданном ИИ, может увековечить существующие предубеждения, обнаруженные в традиционных СМИ.
Исследование подчеркивает потенциальное влияние такой предвзятости на различные заинтересованные стороны, включая политиков, средства массовой информации, политические группы и образовательные учреждения.
Используя эмпирический подход, исследователи заполнили серию анкет, чтобы оценить политическую ориентацию ChatGPT. Чат-боту было предложено ответить на вопросы политического компаса, отражая его позицию по различным политическим вопросам.
Кроме того, в исследовании рассматривались сценарии, в которых ChatGPT выдавал себя за среднестатистического демократа и республиканца, что выявило присущую алгоритму предвзятость к ответам с уклоном в сторону демократов.
В чем же результаты исследования?
Результаты исследования показывают, что предвзятость ChatGPT распространяется за пределы США и также заметна в его ответах относительно политического контекста Бразилии и Великобритании. Примечательно, что исследование даже предполагает, что это смещение является не просто механическим результатом, а преднамеренной тенденцией в результатах работы алгоритма.
Определение точного источника политической предвзятости ChatGPT остается сложной задачей. Исследователи исследовали как данные обучения, так и сам алгоритм, и пришли к выводу, что оба фактора, вероятно, способствуют смещению. Они подчеркнули необходимость будущих исследований, направленных на распутывание этих компонентов для более четкого понимания причин предвзятости.
OpenAI , организация, стоящая за ChatGPT (если что, ChatGPT в России можно использовать через наш сервис KolerskyAI), пока не отреагировала на результаты исследования. Это исследование дополняет растущий список проблем, связанных с технологией искусственного интеллекта, включая вопросы, связанные с конфиденциальностью, образованием и проверкой личности в различных секторах.
Поскольку влияние инструментов, основанных на искусственном интеллекте, таких как ChatGPT, продолжает расширяться, эксперты и заинтересованные стороны сталкиваются с последствиями предвзятого контента, создаваемого искусственным интеллектом.
Это исследование служит напоминанием о том, что бдительность и критическая оценка необходимы для обеспечения того, чтобы технологии искусственного интеллекта разрабатывались и применялись справедливым и сбалансированным образом, без неправомерного политического влияния.
Лайк, пожалуйста, он помогает продвигать статью.
Ну и как положено, канал тг))) Канал и чатик
Там в закрепленном боты для доступа в Chat GPT и Midjourney без VPN
Конечно, каждый владелец ИИ хочет навязать только свое мнение. Только в этом и есть смысл ИИ.