Исследование ChatGPT проявляет политическую предвзятость в пользу левых в США и за ее пределами

ChatGPT исследование проявляет политическую предвзятость в пользу левых в США и за ее пределами

ChatGPT, крупная модель чат-бота на основе языка (LLM), якобы лишена объективности в политических вопросах, согласно новому исследованию.

Исследователи компьютерных и информационных наук из Великобритании и Бразилии утверждают, что нашли “надежные доказательства” того, что ChatGPT имеет значительное политическое предубеждение в пользу левой стороны политического спектра. Аналитики Фабио Мотоки, Вальдемар Пиньо Нето и Виктор Родригес поделились своими выводами в исследовании, опубликованном журналом Public Choice 17 августа.

Исследователи утверждают, что тексты, созданные LLM, такие как ChatGPT, могут содержать фактические ошибки и предубеждения, которые вводят в заблуждение читателей и могут усугубить существующие проблемы политических предубеждений, возникающие из традиционных СМИ. Поэтому, как отмечают авторы исследования, эти результаты имеют важное значение для принимающих решения лиц в сфере медиа, политики и академии:

“Наличие политического предубеждения в его ответах может иметь те же отрицательные политические и избирательные последствия, что и предубеждение традиционных и социальных медиа.”

• Криптокредитор Helio приговорен за ложные утверждения о наличии лицензии австралийского кредитора
• Иск, поданный Coinbase-Funded Tornado Cash против Министерства финансов, закончился поражением
• Сэм Бэнкман-Фрид теперь в тюрьме

Исследование основано на эмпирическом подходе и изучает серию опросников, предоставленных ChatGPT. Эмпирическая стратегия начинается с задания ChatGPT политических вопросов компаса, которые определяют политическую ориентацию респондента. Подход также основан на тестах, в которых ChatGPT выдает себя за типичного демократа или республиканца.

Результаты тестов указывают на то, что алгоритм ChatGPT по умолчанию предвзят в пользу ответов из демократического спектра в Соединенных Штатах. Исследователи также утверждают, что политическое предубеждение ChatGPT не является явлением, ограниченным контекстом США. Они пишут:

“Алгоритм предвзят в пользу Демократической партии в Соединенных Штатах, Лулы в Бразилии и Лейбористской партии в Великобритании. Вместе с тем, наши основные и робастные тесты сильно указывают на то, что это явление действительно является своего рода предубеждением, а не механическим результатом.”

Аналитики подчеркивают, что точный источник политического предубеждения ChatGPT сложно определить. Исследователи даже пытались принудить ChatGPT перейти в режим разработчика, чтобы получить доступ к какой-либо информации о предвзятых данных, но LLM “категорически утверждает”, что ChatGPT и OpenAI не имеют предвзятости.

OpenAI не ответила немедленно на запрос Cointelegraph о комментарии.

Связано: OpenAI говорит, что ChatGPT-4 сокращает время модерации контента с месяцев до часов

Авторы исследования предположили, что возможно, есть по крайней мере два потенциальных источника предубеждения, включая тренировочные данные и сам алгоритм.

“Наиболее вероятный сценарий заключается в том, что оба источника предубеждения влияют на вывод ChatGPT в определенной степени, и разделение этих двух компонентов (тренировочные данные против алгоритма), хотя и не тривиально, является важной темой для будущих исследований”, – заключили исследователи.

Политические предубеждения – не единственная проблема, связанная с инструментами искусственного интеллекта, такими как ChatGPT или другими. В свете массового использования ChatGPT по всему миру люди всего мира обозначили множество связанных рисков, включая проблемы конфиденциальности и сложности в образовании. Некоторые инструменты искусственного интеллекта, такие как генераторы контента на основе искусственного интеллекта, даже вызывают опасения относительно процесса проверки подлинности личности на криптовалютных биржах.

Журнал: AI Eye: Apple разрабатывает карманный ИИ, сделку с музыкой глубокой фейковой, гипнотизирующий GPT-4

We will continue to update BiLee; if you have any questions or suggestions, please contact us!