Чтобы выжить в новой эпохе роботизированного спама, обратитесь к истории криптовалюты

Для выживания в эпоху роботизированного спама, обратитесь к истории криптовалюты

Это Дэвид З. Моррис, заменяющий Майкла Кейси, чтобы поговорить о так называемом искусственном интеллекте, угрозах, которые он представляет для будущего, и о том, как криптовалюта может помочь смягчить эти угрозы.

Как наверняка согласится Майкл, в криптовалюте настоящих выходных нет. Я это вспомнил сам, когда недавно провел длинные выходные на фантастической конвенции по фантастике Readercon. Несомненно, я пропустил некоторые важные новости из мира криптовалюты, но я также получил близкое представление о другой грозящей новинке: существенной угрозе, которую автоматизированные модели языка больших размеров (LLM), такие как GPT3, представляют для всего интернета.

Вы читаете Money Reimagined, еженедельный обзор технологических, экономических и социальных событий и тенденций, которые переопределяют нашу связь с деньгами и преобразуют глобальную финансовую систему. Подпишитесь, чтобы получить полный информационный бюллетень здесь.

Это может показаться гиперболичным. Но на Readercon я встретил Нила Кларка, основателя и редактора ведущего научно-фантастического журнала Clarkesworld, который вместе с другими изданиями фантастики стал своеобразным предупреждением о том, что ИИ вышел из-под контроля. Всплеск использования ChatGPT привел к наводнению этих журналов фальшивыми авторскими работами, созданными GPT, что вынудило Clarkesworld временно приостановить прием работ в феврале этого года, угрожая работе и средствам к существованию настоящих авторов.

“Я называю это спамом”, – говорит Кларк, – “Потому что это и есть. Иногда я даже отказываюсь называть это ‘искусственным интеллектом’. Вы не можете гуманизировать эти вещи. Это не то, что показывают в фильмах о научной фантастике, где оно обладает сознанием. Это статистическая [языковая] модель”.

Ссылка на спам должна привлечь внимание долгосрочных наблюдателей криптовалюты: та же проблема стояла у самого зарождения Биткоина.

Между 1998 и 2002 годами компьютерный ученый Адам Бэк разработал концепцию “Hashcash”, в основном предназначенную для борьбы со спамом по электронной почте путем требования символической платы за отправку сообщения. Бэк и его идеи стали основой развития Биткоина, и теперь он является генеральным директором разработчика криптовалюты Blockstream.

Через два десятилетия, когда роботизированные варварские орды готовы накрыть системы человеческого общения, пришло время пересмотреть концепцию Hashcash.

Шарлатаны языковых моделей

“ChatGPT появился в конце ноября”, – говорит Кларк, – “И мы сразу начали получать работы, созданные с его помощью. Первыми его приняли те, кто уже отправлял плагиаты. Он был широко принят людьми, которые пытались быстро заработать на чужих работах”.

Сталкиваясь с проблемой спама, Кларк говорит, что он и его команда быстро поняли, что атака была координированной. Видеоканалы YouTube и TikTok, ориентированные на схемы быстрого обогащения, обещали зрителям, что они могут заработать тысячи долларов, отправляя GPT-созданные истории в журналы фантастики, такие как Clarkesworld. Clarkesworld платит несколько сотен долларов за работу, в зависимости от ее объема – не так много даже в некоторых частях света, но крайне важно в других.

Подобные мошеннические обещания онлайн-грабителей, похоже, быстро распространились. Кларк говорит, что в декабре он получил 54 ИИ-сгенерированные работы. В январе – 117 фальшивых историй. В феврале их число достигло 514, прежде чем Кларк закрыл прием работ 20 февраля.

“И только в тот утро”, – говорит он, – “у нас было 50”.

У Clarkesworld небольшой штат, который обычно рассматривает около 1 100 работ в месяц. Поэтому ускоряющийся поток мусора грозил их перегрузить, и решения были неочевидными.

“У нас есть открытый процесс приема работ, специально разработанный для привлечения новых писателей и новых голосов”, – говорит Кларк. – “Поэтому мы можем закрыть прием работ из определенных мест [для борьбы со спамом], но у нас также есть законные авторы, приходящие из этих стран. И нам говорили такие вещи, как: ‘Оплата за эту работу покроет мои счета на месяц'”.

“Такие авторы затерялись. Работы, созданные ИИ, наносят вред новым авторам и авторам, которые могут не быть из хорошо связанных сообществ”. Это один из явных способов, которым автоматический контент угрожает сделать интернет хуже для людей, особенно для тех, кого и так уже обходят стороной.

“Если вернуться 15 или 20 лет назад, когда мы принимали работы на бумаге”, – говорит Кларк, – “стоимость почтовых отправлений уже достаточно снижала количество работ из стран, находящихся за пределами США, Канады и Великобритании. И как только у нас появились цифровые работы, мы получили эту волну международных работ. В результате произошло огромное разнообразие в мире художественной литературы – творческое возрождение, которое теперь под угрозой из-за развития LLM.”

Кларк также является программистом, что дало ему полезные инструменты для решения проблемы спама. Он начал ассоциировать больше метаданных с публикациями, таких как, например, прохождение через VPN и продолжительность сеанса пользователя. Эти и другие критерии теперь используются в качестве части «системы баллов», которая помещает истории, которые скорее всего являются поддельными, в конец очереди на рассмотрение. Это помогает реальным авторам быть прочитанными первыми, но также гарантирует, что каждая публикация в конечном итоге будет рассмотрена.

Наконец, если история считается созданной LLM, отправитель навсегда исключается из системы.

Эти меры помогли Clarkesworld открыть прием публикаций, пока что – но продолжающийся рост объема спама, с которым они имеют дело, означает, что решение является временным.

«Хуже, чем самый худший человеческий писатель»

Одним из важных аспектов опыта Кларка является то, что фактическое качество роботизированных публикаций было ужасно низким. Они почти мгновенно узнаваемы для человеческого читателя и не имеют реальных шансов быть опубликованными.

«ChatGPT3 писал на уровне ниже самых плохих человеческих писателей», – говорит Кларк, который после двух десятилетий работы редактором точно знает, как выглядит самое плохое. «GPT4 приближается к самым плохим человеческим писателям, но даже это все еще редкость».

«Общая вещь заключается в том, что у них идеальная грамматика, они имеют идеальное правописание», – продолжает Кларк. «Но сами истории не имеют особого смысла. Они пропускают важные моменты. Они начинают с базового предположения, например, о экологическом кризисе, и представляют некоторых ученых, которые могут решить проблему, а затем внезапно они решают проблему. Пропущена середина истории, а начало и конец выполнены стереотипно и очень плохо».

Это очень похоже на недавнюю характеристику ChatGPT, данную Тедом Чиангом, как «размытый JPEG интернета». Этот явный отстой счастливо разоблачает большую часть глупой хвалебной рекламы вокруг LLM. Но это также делает образ талантливых (и крайне недооцененных) редакторов, вынужденных просеивать этот мусор, еще более депрессивным.

Обещание небольших возмещаемых сборов

Еще один вариант сокращения нежелательных публикаций – взимание платы за публикацию. Кларк упоминает этические и творческие проблемы, так как плата будет ограничивать доступ – но, на самом деле, проблемы в основном сводятся к техническим недостаткам текущей глобальной платежной инфраструктуры.

Например, Кларк говорит, что он был бы готов взимать плату за публикацию, если бы она могла быть легко возвращена, например, писателям, чьи истории были приняты или просто не были созданы с помощью ИИ. Идеальная плата для блокировки спама также должна быть достаточно низкой – определенно ниже стоимости почтовых марок в $25 или $30, которая отталкивала авторов из развивающихся стран в эпоху до интернета.

Но существующие технологии не позволяют этого сделать.

«Скажите мне компанию по кредитным картам, где я могу вернуть почти все. Я потеряю аккаунт», – говорит Кларк. Как хорошо известно крипто-братьям, кредитные карты тоже плохо справляются с малыми платежами. Но это даже не самая большая проблема.

«Есть также проблемы с попыткой принимать платежи в разных частях мира», – продолжает Кларк. «Существует ряд африканских стран, с которыми компании по кредитным картам не работают. Таким образом, авторы были бы исключены. Мне также предлагали идентификационные сервисы, но у них также есть «дыры» размером с государство. Нам нужно что-то, что работает для всех».

Если вы читаете это, вы уже знаете, куда мы направляемся: по крайней мере в принципе, криптовалюта и связанные с ней системы могут помочь смягчить проблему фальшивых публикаций в Clarkesworld.

Взимание небольшой платы за все публикации сократило бы низкокачественные публикации, облегчая работу редакторов и компенсируя их за спам, который все же поступает. Поскольку платежи могут быть дешевыми, быстрыми и легко возвращаемыми реальным авторам, затраты на реальных человеческих писателей были бы минимальными. И поскольку эти системы не ограничены национальными границами, ни один реальный писатель не был бы вытеснен робо-регургитаторами.

Хотя для этого потребуется значительное развитие, некоторая версия той же системы в будущем может служить параллельным целям в менее бутиковых средах. Можно представить использование системы ставок стейкинга, аналогичной Steem, чтобы наказывать автоматическое публикование на форумах или в социальных сетях, например. Более сложные децентрализованные системы идентификации, такие как SpruceID, более сложные и на данный момент более ранние, но имеют еще больший потенциал.

Чтобы быть ясным, ничего из этого не должно быть необходимо. LLM быстро раскрываются как не более чем фокусы для развлечения клиентов в сфере обслуживания и кликбейт-развлечений (как, например, неудачный эксперимент CNET с использованием GPT для написания новостных статей).

Самые значительные последствия этой технологии, на самом деле, проявляются в распространении никчемной чуши, которая только тратит время и мозговую энергию всех реальных людей, вовлеченных в это. Но если именно это видят боги-князья Силиконовой Долины как следующую границу богатства венчурного капитала, то это и будет мир, в котором нам предстоит жить. По крайней мере, криптовалюта предлагает одну надежду на борьбу.

Редактировал Бен Шиллер.

We will continue to update BiLee; if you have any questions or suggestions, please contact us!

Share:

Was this article helpful?

93 out of 132 found this helpful

Discover more

мнение

CME, где институты торгуют фьючерсами на биткоин, обогнал Binance. Это так замечательно, как звучит?

Омкар Годбол, сотрудник CoinDesk, говорит, что растущий объем открытых позиций на Чикагской бирже товаров и фьючерсов...

мнение

Почему мне не жаль жертв основателя HEX Ричарда Харта

Возможно, Комиссия по ценным бумагам и биржам наконец убедит поклонников Hex и PulseChain в том, что они были обмануты.

мнение

Али Яхья, Андриссен Хоровиц 'Многие первопроходцы венчурного капитала изменили курс

Главный партнер A16z рассказывает Джеффу Уилсеру, почему устойчивый венчурный фонд нацелен на криптовалюты на 100%.

мнение

Биткойн - это собственность, а не имущество

Природа биткоина в качестве цифрового актива делает невозможным полностью вписать его в рамки собственности, как мы е...

мнение

Познакомьтесь с Ботто, искусственным интеллектом-художником, который сам создает свои NFT

Botto – это частично искусственный интеллект, частично сообщество людей, частично DAO и частично эксперимент на пути ...

мнение

ИИ создает угрозы безопасности и векторы атак. Может ли блокчейн помочь?

Децентрализованное хранение данных и другие инструменты, основанные на технологии блокчейн, могут помочь защитить инф...