Per sopravvivere alla nuova era dello spam robotico, guarda alla storia delle criptovalute

Sono David Z. Morris, in sostituzione di Michael Casey, a parlare della cosiddetta intelligenza artificiale, delle minacce che pone al futuro e di come le Cripto potrebbero contribuire ad attenuarle.

Come Michael sicuramente concorderebbe, non ci sono veri giorni liberi nel Cripto. Me ne sono ricordato quando ho trascorso di recente un lungo weekend al fantasticoLettoreConconvention di narrativa. Inevitabilmente, mi sono perso qualche storie importanti Cripto, ma ho anche avuto modo di osservare da vicino un'altra imminente novità: la minaccia esistenziale che i modelli linguistici automatizzati di grandi dimensioni (LLM) come GPT3 rappresentano per l'intera Internet.

Stai leggendoIl denaro ripensato, uno sguardo settimanale agli Eventi e alle tendenze tecnologiche, economiche e sociali che stanno ridefinendo il nostro rapporto con il denaro e trasformando il sistema finanziario globale. Iscriviti per ricevere la newsletter completa Qui.

Potrebbe sembrare esagerato. Ma al Readercon ho incontrato Neil Clarke, fondatore e direttore della rivista di fantascienza di alto livelloIl mondo di Clarkes, che insieme ad altre pubblicazioni di narrativa è diventato un canarino nella miniera di carbone dell'intelligenza artificiale impazzita. L'ascesa di ChatGPT ha inondato queste riviste con un'ondata di falsi invii di storie generati da GPT, una piaga così grave che Clarkesworld è stata costretta a sospendere temporaneamente gli invii questo febbraio, minacciando il lavoro e i mezzi di sostentamento dei veri autori.

"L'ho chiamato spam", dice Clarke, "perché è quello che è. A volte mi rifiuto persino di chiamarlo 'intelligenza artificiale'. T puoi umanizzare queste cose. Non è come la fantascienza dei film in cui è consapevole. È un modello [di linguaggio] statistico".

La menzione dello spam dovrebbe far drizzare le antenne agli osservatori di lunga data Criptovaluta : lo stesso problema si trova alle origini del Bitcoin.

Tra il 1998 e il 2002, l'informatico Adam Back ha sviluppato il concetto di "Hashcash", pensato principalmente per combattere lo spam via e-mail richiedendo un piccolo pagamento per l'invio ONE. Back e le sue idee sono diventati fondamentali per lo sviluppo di Bitcoin, e ora è CEO dello sviluppatore Cripto Blockstream.

Due decenni dopo, con orde di barbari robotici pronti a travolgere i sistemi di comunicazione Human , potrebbe essere giunto il momento di rivisitare il concetto di Hashcash.

Grandi trafficanti di lingue

"ChatGPT è uscito a fine novembre", dice Clarke, "e abbiamo subito iniziato a vedere invii che lo utilizzavano. Le prime persone ad adottarlo sono state quelle che avevano già inviato lavori plagiati. È stato prontamente accolto da persone che cercavano di fare soldi QUICK con il lavoro di altre persone".

Mentre affrontavano il problema dello spam, Clarke dice che lui e il suo team si sono resi conto rapidamente che l'attacco era coordinato. I canali YouTube e TikTok focalizzati su schemi per arricchirsi rapidamente promettevano agli spettatori che avrebbero potuto guadagnare migliaia di dollari inviando storie generate da GPT a riviste di narrativa come Clarkesworld. Clarkesworld paga qualche centinaio di dollari per storia, a seconda della lunghezza, non molto più di quanto costasse una birra in alcune parti del mondo, ma estremamente significativo in altre.

Quelle promesse fraudolente dei truffatori online sembrano essersi diffuse rapidamente. Clarke afferma di aver ricevuto 54 invii generati dall'intelligenza artificiale a dicembre. A gennaio, ha ricevuto 117 storie false. A febbraio, il numero ha raggiunto quota 514 prima che Clarke chiudesse gli invii a mezzogiorno del 20 febbraio.

"E solo quella mattina", dice, "ne avevamo 50".

Clarkesworld ha un piccolo staff, che normalmente esamina circa 1.100 candidature al mese. Quindi il flusso accelerato di spazzatura minacciava di sopraffarli e le soluzioni T erano ovvie.

"Abbiamo un processo di invio aperto, specificamente progettato per accogliere nuovi scrittori e nuove voci", afferma Clarke. "Quindi potremmo chiudere gli invii da determinate località [per combattere lo spam], ma abbiamo anche autori legittimi che arrivano da quei paesi. E ci è stato detto cose come, 'Il pagamento per questa storia coprirà le mie bollette per un mese.'"

"Autori come questo vengono seppelliti. Le proposte di intelligenza artificiale danneggiano i nuovi autori e gli autori che potrebbero non provenire da comunità ben collegate". Questo è ONE modo chiaro in cui i contenuti generati automaticamente minacciano di peggiorare Internet per gli esseri Human , in particolare per quelli ai margini.

"Se torniamo indietro di 15 o 20 anni, quando accettavamo le candidature su carta", dice Clarke, "solo il costo delle spese postali era sufficiente a ridurre sostanzialmente le candidature da fuori dagli Stati Uniti, dal Canada e dal Regno Unito. E non appena sono arrivate le candidature digitali, abbiamo avuto questa ondata di candidature internazionali". Ciò ha portato a un'enorme diversificazione del mondo della narrativa, una rinascita creativa che ora è minacciata dall'ascesa degli LLM.

Clarke è anche un programmatore, il che gli ha fornito strumenti utili per affrontare la sfida dello spam. Ha iniziato ad associare più metadati alle proposte, come se arrivassero tramite una VPN e la durata della sessione dell'utente. Questi e altri criteri sono ora utilizzati come parte di un "sistema a punti" che colloca le storie con maggiori probabilità di essere false più in basso nella coda di revisione. Ciò aiuta i veri autori a essere letti per primi, ma garantisce anche che ogni proposta venga alla fine esaminata.

Infine, se si stabilisce che un racconto è stato generato da LLM, l'autore viene bannato definitivamente dal sistema.

Tali misure hanno aiutato Clarkesworld a riaprire le candidature, per ora, ma un continuo aumento del volume di spam che stanno gestendo significherebbe che la soluzione è solo temporanea.

“Peggio del peggior scrittore Human ”

ONE aspetto importante dell'esperienza di Clarke è che la qualità effettiva delle proposte robotiche è stata abissalmente bassa. Sono quasi immediatamente riconoscibili da un lettore Human e non hanno alcuna possibilità effettiva di essere pubblicate.

"ChatGPT3 scriveva a un livello inferiore rispetto ai peggiori scrittori Human ", afferma Clarke, che dopo due decenni come editor sa esattamente come LOOKS il peggio. "GPT4 si sta avvicinando ai peggiori scrittori Human , ma anche questo è ancora RARE".

"La cosa comune è che hanno una grammatica perfetta, hanno un'ortografia perfetta", continua Clarke. "Ma le storie in sé T hanno molto senso. Saltano cose importanti. Inizieranno con una premessa di base, come il collasso ecologico, e presenteranno alcuni scienziati che possono risolvere il problema, e poi all'improvviso hanno risolto il problema. Manca la parte centrale della storia, e la delimita con aperture e chiusure stereotipate, fatte molto male".

Sembra molto simile alla recente caratterizzazione dell'output di ChatGPT da parte di Ted Chiang come"un JPEG sfocato di Internet."Questa palese schifezza smentisce felicemente gran parte dell'insensata pubblicità che circonda gli LLM. Ma rende anche l'immagine di editor di talento (e selvaggiamente sottopagati) costretti a setacciare la feccia ancora più deprimente.

La promessa di piccole commissioni rimborsabili

Un'altra opzione per ridurre gli invii di spam è una quota di iscrizione. Clarke afferma di non avere alcun desiderio o piano di implementare una quota, grazie a preoccupazioni etiche e creative prevalenti. In particolare, una quota di iscrizione potrebbe limitare l'accesso, cosa a cui la comunità degli scrittori di fantascienza si oppone fermamente.

Ma oltre a ciò, le carenze tecniche dell'attuale infrastruttura di pagamento globale rendono poco pratico l'addebito di una commissione anti-spam, anche se Clarke lo volesse.

Ad esempio, Clarke afferma che per far pagare una quota di iscrizione, dovrebbe essere in grado di rimborsarla, ad esempio agli scrittori i cui racconti sono stati accettati o semplicemente non generati dall'intelligenza artificiale. Una quota ideale per bloccare lo spam sarebbe anche piuttosto bassa, sicuramente molto inferiore ai 25 o 30 dollari di spese postali che tenevano lontani gli autori dei paesi in via di sviluppo nell'era pre-internet.

Ma con la tecnologia attuale non è possibile farlo.

"Dimmi una società di carte di credito dove posso rimborsare quasi tutto. Perderei il conto", dice Clarke. Come ogni bravo Cripto bro sa, le carte di credito T vanno bene nemmeno con i piccoli pagamenti. Ma quelli T sono nemmeno il problema più grande.

"Ci sono anche problemi nel tentativo di accettare pagamenti in diverse parti del mondo", continua Clarke. "Ci sono diversi paesi africani con cui le società di carte di credito T vogliono lavorare. Quindi questo eliminerebbe gli autori. Ho anche avuto persone che hanno suggerito servizi di identità, ma anche quelli hanno buchi di dimensioni nazionali. Abbiamo bisogno di qualcosa che funzioni per tutti".

Se stai leggendo questo articolo, sai già dove vogliamo arrivare: almeno in linea di principio, le Criptovaluta e i sistemi correlati potrebbero contribuire ad attenuare il problema dei falsi invii di Clarkesworld.

Richiedere un piccolo pagamento per tutti gli invii ridurrebbe gli invii di bassa qualità, alleggerendo il carico di lavoro degli editor e compensandoli per lo spam che è arrivato. Poiché i pagamenti potrebbero essere restituiti in modo economico, rapido e semplice agli autori reali, il costo per gli scrittori Human effettivi sarebbe marginale. E poiché questi sistemi non sono limitati da confini nazionali, nessun vero scrittore verrebbe messo fuori gioco dai robo-rigurgitatori.

Sebbene ciò richiederebbe una notevole elaborazione, una versione dello stesso sistema potrebbe un giorno servire a scopi paralleli in contesti meno boutique. ONE può immaginare unSimile a un fustosistema di incentivi di staking utilizzato per punire la pubblicazione automatizzata su forum o social media, ad esempio. Sistemi di identità decentralizzati più elaborati, comeAbeteID, sono più impegnativi e, per ora, più nascenti, ma potrebbero avere un potenziale ancora più profondo.

Per essere chiari, niente di tutto questo dovrebbe essere necessario. Gli LLM si stanno rapidamente rivelando poco più che trucchi da salotto, la cui reale utilità è probabilmente limitata, almeno nel NEAR termine, a un servizio clienti di breve durata e a un intrattenimento clickbait. (Prendi ad esempioIl disastroso esperimento di CNETcon l'utilizzo di GPT per scrivere articoli di notizie).

I maggiori impatti della tecnologia si vedono invece nella diffusione di un gergo di quarta categoria che spreca il tempo e la capacità intellettuale di tutti gli esseri umani coinvolti. Ma se questo è ciò che i principi-dei della Silicon Valley vedono come la prossima frontiera della ricchezza del capitale di rischio, allora è il mondo in cui dovremo vivere. Come minimo, le Cripto offrono ONE speranza per reagire.