AI21 Labs представляет функцию антигаллюцинации для чат-ботов GPT

AI21 Labs представляет антигаллюцинацию для GPT-чат-ботов.

AI21 Labs недавно запустила “Контекстные ответы” – движок для отвечающих на вопросы больших языковых моделей (LLM).

Подключившись к LLM, новый движок позволяет пользователям загружать свои собственные библиотеки данных, чтобы ограничить выводы модели только конкретной информацией.

Запуск ChatGPT и подобных продуктов искусственного интеллекта (AI) существенно изменил отрасль AI, но недостаток надежности затрудняет принятие их многими компаниями.

Согласно исследованиям, сотрудники проводят почти половину рабочего дня в поисках информации. Это представляет огромную возможность для чат-ботов, способных выполнять функции поиска. Однако большинство чат-ботов не предназначены для предприятий.

• Arkham Intel Exchange показывает 11 представлений с момента дебюта, включая нахождение кошелька Илона Маска
• Криптовалютная торговая платформа Bitget расширяется на Ближний Восток, открывает офис в Дубае
• Союзники ИГИЛ использовали криптовалюту для сбора миллионов TRM Labs

AI21 разработала Contextual Answers, чтобы заполнить пробел между чат-ботами, предназначенными для общего использования, и услугами ответов на вопросы на уровне предприятия, предоставив пользователям возможность передавать свои собственные данные и библиотеки документов.

Согласно сообщению в блоге AI21, Contextual Answers позволяет пользователям управлять ответами AI без повторного обучения моделей, тем самым устраняя некоторые из наиболее серьезных проблем принятия:

“Большинство компаний испытывают трудности с принятием [AI], указывая на стоимость, сложность и недостаток специализации моделей в их организационных данных, что приводит к неверным, “галлюцинирующим” или неподходящим ответам в контексте”.

Одной из ключевых задач, связанных с разработкой полезных LLM, таких как ChatGPT от OpenAI или Bard от Google, является обучение их выражать недостаток уверенности.

Обычно, когда пользователь обращается к чат-боту, он дает ответ, даже если в его наборе данных недостаточно информации для предоставления фактической информации. В таких случаях вместо вывода ответа с низкой уверенностью, например, “Я не знаю”, LLM часто создает информацию без каких-либо фактических оснований.

Исследователи называют эти выводы “галлюцинациями”, потому что машины генерируют информацию, которая, кажется, не существует в их наборах данных, как люди, видящие то, чего на самом деле нет.

Мы рады представить Contextual Answers, решение API, при котором ответы основаны на организационных знаниях, не оставляя места для галлюцинаций ИИ. ➡️ https://t.co/LqlyBz6TYZ pic.twitter.com/uBrXrngXhW

— AI21 Labs (@AI21Labs) 19 июля 2023 г.

Согласно A121, Contextual Answers должен полностью устранить проблему галлюцинации, выводя информацию только тогда, когда она имеет отношение к предоставленной пользователем документации или вообще ничего не выводя.

В секторах, где точность важнее автоматизации, таких как финансы и право, появление систем generative pretrained transformer (GPT) имело различные результаты.

Эксперты продолжают рекомендовать осторожность при использовании систем GPT в финансовой сфере из-за их склонности к галлюцинациям или смешению информации, даже при подключении к интернету и возможности ссылаться на источники. В юридической сфере адвокат сталкивается с штрафами и санкциями за полагание на выводы, сгенерированные ChatGPT, во время дела.

AI21, предварительно загрузив системы AI соответствующими данными и вмешавшись до того, как система сможет галлюцинировать недостоверную информацию, похоже, продемонстрировала решение проблемы галлюцинации.

Это может привести к массовому принятию, особенно в сфере финтеха, где традиционные финансовые учреждения были неохотны принимать технологии GPT, а сообщества криптовалют и блокчейна имели в лучшем случае смешанный успех в использовании чат-ботов.

Связано: OpenAI запускает “пользовательские инструкции” для ChatGPT, чтобы пользователи не повторялись в каждом запросе

We will continue to update BiLee; if you have any questions or suggestions, please contact us!