Исследование ChatGPT проявляет политическую предвзятость в пользу левых в США и за ее пределами

ChatGPT исследование проявляет политическую предвзятость в пользу левых в США и за ее пределами

ChatGPT, крупная модель чат-бота на основе языка (LLM), якобы лишена объективности в политических вопросах, согласно новому исследованию.

Исследователи компьютерных и информационных наук из Великобритании и Бразилии утверждают, что нашли “надежные доказательства” того, что ChatGPT имеет значительное политическое предубеждение в пользу левой стороны политического спектра. Аналитики Фабио Мотоки, Вальдемар Пиньо Нето и Виктор Родригес поделились своими выводами в исследовании, опубликованном журналом Public Choice 17 августа.

Исследователи утверждают, что тексты, созданные LLM, такие как ChatGPT, могут содержать фактические ошибки и предубеждения, которые вводят в заблуждение читателей и могут усугубить существующие проблемы политических предубеждений, возникающие из традиционных СМИ. Поэтому, как отмечают авторы исследования, эти результаты имеют важное значение для принимающих решения лиц в сфере медиа, политики и академии:

“Наличие политического предубеждения в его ответах может иметь те же отрицательные политические и избирательные последствия, что и предубеждение традиционных и социальных медиа.”

Исследование основано на эмпирическом подходе и изучает серию опросников, предоставленных ChatGPT. Эмпирическая стратегия начинается с задания ChatGPT политических вопросов компаса, которые определяют политическую ориентацию респондента. Подход также основан на тестах, в которых ChatGPT выдает себя за типичного демократа или республиканца.

Диаграмма сбора данных в исследовании “Более человеческий, чем человек: измерение политического предубеждения ChatGPT”

Результаты тестов указывают на то, что алгоритм ChatGPT по умолчанию предвзят в пользу ответов из демократического спектра в Соединенных Штатах. Исследователи также утверждают, что политическое предубеждение ChatGPT не является явлением, ограниченным контекстом США. Они пишут:

“Алгоритм предвзят в пользу Демократической партии в Соединенных Штатах, Лулы в Бразилии и Лейбористской партии в Великобритании. Вместе с тем, наши основные и робастные тесты сильно указывают на то, что это явление действительно является своего рода предубеждением, а не механическим результатом.”

Аналитики подчеркивают, что точный источник политического предубеждения ChatGPT сложно определить. Исследователи даже пытались принудить ChatGPT перейти в режим разработчика, чтобы получить доступ к какой-либо информации о предвзятых данных, но LLM “категорически утверждает”, что ChatGPT и OpenAI не имеют предвзятости.

OpenAI не ответила немедленно на запрос Cointelegraph о комментарии.

Связано: OpenAI говорит, что ChatGPT-4 сокращает время модерации контента с месяцев до часов

Авторы исследования предположили, что возможно, есть по крайней мере два потенциальных источника предубеждения, включая тренировочные данные и сам алгоритм.

“Наиболее вероятный сценарий заключается в том, что оба источника предубеждения влияют на вывод ChatGPT в определенной степени, и разделение этих двух компонентов (тренировочные данные против алгоритма), хотя и не тривиально, является важной темой для будущих исследований”, – заключили исследователи.

Политические предубеждения – не единственная проблема, связанная с инструментами искусственного интеллекта, такими как ChatGPT или другими. В свете массового использования ChatGPT по всему миру люди всего мира обозначили множество связанных рисков, включая проблемы конфиденциальности и сложности в образовании. Некоторые инструменты искусственного интеллекта, такие как генераторы контента на основе искусственного интеллекта, даже вызывают опасения относительно процесса проверки подлинности личности на криптовалютных биржах.

Журнал: AI Eye: Apple разрабатывает карманный ИИ, сделку с музыкой глубокой фейковой, гипнотизирующий GPT-4

We will continue to update BiLee; if you have any questions or suggestions, please contact us!

Share:

Was this article helpful?

93 out of 132 found this helpful

Discover more

финансы

Свидетели Комитета по финансовым услугам публично высказывают несколько анти-CBDC аргументов.

Подкомитет по финансовым услугам Палаты представителей США выслушал показания о цифровой валюте центральных банков и ...

DeFi

Тезер и Битфинекс соглашаются отказаться от возражения против запроса FOIL

Tether and Bitfinex подтверждают свою готовность отказаться от противодействия запрошенной информации по FOIL.

политика

Запуск Bitcoin ETF может быть отложен на более чем месяц после одобрения SEC

Ранее SEC продлил срок для комментариев по спотовому биткоин-ETF до 8 ноября для периода комментариев.

политика

Процесс Сэма Бэнкман-Фрида с FTX - пять вещей, которые вам нужно знать

Бывший генеральный директор FTX Сэм Бэнкман-Фрид начинает судебный процесс, сталкиваясь с несколькими обвинениями в м...

политика

LedgerX подчеркивает разрыв в регуляторных правилах CFTC в отношении активов клиентов

CFTC нацелена на обработку клиентских активов, но новое регулирование не обеспечивает гибкости для криптоплатформы Le...

политика

Банк Испании принимает цифровой евро, объясняет его преимущества

Банк утверждает, что физический формат наличных денег не позволяет полностью использовать все преимущества, предлагае...