OpenAI закрывает AI детектор из-за низкой точности

OpenAI закрывает AI детектор из-за точности

Искусственный интеллект OpenAI тихо отключил свое программное обеспечение для обнаружения ИИ, ссылаясь на низкую точность.

Разработанный OpenAI классификатор ИИ впервые был запущен 31 января и был направлен на помощь пользователям, таким как учителя и профессоры, в отличии текста, написанного человеком, от текста, сгенерированного ИИ.

Однако, согласно оригинальной записи в блоге, которая объявила о запуске инструмента, классификатор ИИ был закрыт с 20 июля:

“С 20 июля 2023 года классификатор ИИ больше не доступен из-за низкой точности.”

• Верховный законодатель предлагает, что Китай и ЦБД России «совместимы»
• Экологический Crypto Chimpzee приближается к сбору 1 миллиона долларов для спасения животных с использованием блокчейна – следующий большой тренд?
• Aave может вырасти на 20% с поддержкой исторических уровней, но существует ключевое сопротивление

Ссылка на инструмент более не функционирует, а примечание предлагает только простое объяснение причин закрытия инструмента. Однако компания объяснила, что ищет новые, более эффективные способы определения контента, созданного ИИ.

“Мы работаем над включением обратной связи и в настоящее время исследуем более эффективные методы происхождения текста, а также мы приняли обязательство разработать и внедрить механизмы, позволяющие пользователям понять, является ли аудио- или видеоконтент созданным ИИ”, – говорится в заметке.

С самого начала OpenAI ясно указало, что инструмент обнаружения подвержен ошибкам и не может считаться “полностью надежным”.

Компания заявила, что ограничения ее инструмента обнаружения ИИ включают “очень низкую” точность при проверке текста с менее чем 1000 символов и возможность “с уверенностью” помечать текст, написанный людьми, как созданный ИИ.

Связано: У Apple есть своя система ИИ GPT, но нет заявленных планов на публичный релиз: отчет

Классификатор – последний из продуктов OpenAI, который стал предметом критики.

18 июля исследователи из Стэнфорда и Университета Калифорнии в Беркли опубликовали исследование, в котором было показано, что флагманский продукт OpenAI ChatGPT со временем становится значительно хуже.

Мы оценили поведение #ChatGPT со временем и обнаружили значительные различия в его ответах на *одни и те же вопросы* между версией GPT4 и GPT3.5 и версиями от марта. Новые версии стали хуже в некоторых задачах. с Lingjiao Chen @matei_zaharia https://t.co/TGeN4T18Fd https://t.co/36mjnejERy pic.twitter.com/FEiqrUVbg6

— James Zou (@james_y_zou) 19 июля 2023 года

Исследователи обнаружили, что за последние несколько месяцев способность ChatGPT-4 точно определять простые числа упала с 97,6% до всего 2,4%. Кроме того, как ChatGPT-3.5, так и ChatGPT-4 заметно ухудшились в способности генерировать новые строки кода.

AI Eye: Обученный на контенте ИИ ИИ сходит с ума, потери от Threads для данных ИИ?

We will continue to update BiLee; if you have any questions or suggestions, please contact us!