Qualche settimana fa incrociai due articoli, tra loro, come vedremo, collegati, che mi diedero di che pensare. Il primo, “Persino con un genocidio in corso, le Big Tech silenziano i palestinesi” di Marwa Fatafta, illustra il doppio standard che le piattaforme social hanno applicato agli utenti ucraini e palestinesi. Per i primi ci si è affrettati ad aggiustare gli algoritmi, che gestiscono il traffico dei vari post, per permettere loro la giusta espressione di rabbia verso l’invasore russo e sostenerne l’eroica resistenza – arrivando persino a riabilitare (dalla lista nera) il battaglione Azov; per i secondi, al contrario, ci si è premurati di abbassare il livello di veridicità richiesta dai filtri automatici dall’ 8o% al 25%. Tale scelta tecnica ha sortito effetti diversi: da un lato ha ottenuto la censura di voci importanti (giornalisti, attivisti, intellettuali e medici), dall’altro ha creato situazioni ridicolmente incresciose, come aver dichiarato la Moschea di Al-Aqsa, la terza moschea più sacra dell’Islam, un’organizzazione terroristica; o aver tradotto i meme affissi ai profili come “sia lode a Dio, i terroristi palestinesi stanno combattendo per la loro libertà”, fino a cancellare nientemeno che i filmati delle vittime dell’attentato all’ospedale al-Ahli accusandoli di aver violato la norma sulla nudità degli adulti e sull’attività sessuale. La politica del doppio standard adottata dalle piattaforme social in verità non nasce con le guerre di oggi, ma al tempo della “guerra al terrore” capitanata dagli Stati Uniti all’indomani dell’11 settembre 2001; e infatti le attuali linee guida ricalcano quel modello: ad esempio nella lista nera interna di Meta (la DOI) gli iscritti (singoli e organizzazioni) sono nella stragrande maggioranza mediorientali e di paesi asiatici a prevalenza musulmana.
Ciò che colpisce, oltre al doppio standard, è la poca accuratezza con cui lavorano gli algoritmi; tanto che potremmo chiederci se sono malamente, o maldestramente, addestrati. Se da una parte si compilano con superficialità liste di proscrizione e si limitano contenuti innocui e pensieri critici, dall’altra ci si inceppa nella struttura della lingua, a volte parrebbe per incompetenza (come per i dialetti arabi) e altre per comodità (non saper classificare i termini d’odio nell’ebraico, che hanno potuto ampiamente esprimersi ai danni dei palestinesi e della loro cultura).
Sebbene tutte le Big Tech pendano chiaramente da un lato, è Meta a fare la parte del leone in tema di censura mirata, dichiarata e non dichiarata. Una pratica odiosa in uso, e di cui mi sento ampiamente vittima, è lo shadowbanning. Ne sospettai già nell’ormai lontano marzo del 2020 quando da New York City mi permettevo di raccontare ciò che vedevo: persone a passeggio nei parchi e nelle piazze, artisti di strada e concertini spontanei – ricordo persino dei ragazzi che avevano messo delle ruote a un bel pianoforte a coda e si presentavano allegri in Washington Square – bambini che giocavano e ragazzini scatenati sullo skateboard. Insomma, i miei occhi vedevano cose diverse da ciò che bisognava vedere a tutti i costi e per questo portai scompiglio nelle menti spaventate dei tanti italiani rinchiusi in casa. I primi messaggi inviati, grazie alla targhettizzazione nella mia area di provenienza del Cremasco, furono veri lampi a ciel sereno che accesero discussioni e fecero uscire dal nido tanti incuriositi per farmi domande. Ma di botto, senza aver mai offeso nessuno, né mostrato nudità o incitato all’odio, così come le luci si erano accese su di me si spensero. Oggettivamente era impossibile non notarlo, così feci delle prove con amici fidati: si capì che in qualche maniera c’ero ma in qualche altra non c’ero. Sembrava che ai miei post fosse stato interdetto il passaggio nelle aree più affollate della piazza social, obbligandoli a girare su sentieri solitari fuori dalle mura. Non avevo prove e non avevo mai sentito di nulla del genere. Oggi si parla molto di questa tecnica, la cita anche l’articolo che stiamo trattando: “una forma di censura non dichiarata in cui l’utente viene a sua insaputa reso invisibile.” Appunto “a sua insaputa”! Ma tutto ciò è legale? A ben guardare se la passano meglio i molestatori seriali censurati alla luce del giorno! Che, oplà, si aprono un nuovo account e ripartono con il loro “bel” lavoro. Ma sospendiamo per un attimo il tema etico-legale che apre lo shadowbanning per introdurre il secondo articolo, che ha parecchio a che vedere proprio con la proliferazione di odio online legale e accusa apertamente di ciò il paladino della cultura anti-haters, Facebook.
Si tratta di una lettera aperta scritta da un giovane Rohingya di Myanmar, Maung Sawyeddollah, dal titolo molto esplicativo “Facebook dovrebbe pagare per ciò che ha fatto al mio popolo, i Rohingya”. In sintesi ecco la sua storia: cresciuto in un tranquillo villaggio nell’ovest del Paese Maung definisce la propria infanzia felice: una bella famiglia, una grande casa, i giochi e il sogno di diventare un avvocato. Nella sua esperienza personale non ricorda di brutte tensioni con l’etnia Rakhine, anzi da bambino era solito incontrarsi con i coetanei buddisti in un campo a metà strada tra i villaggi, per giocare insieme ad un appassionante gioco con la palla, il “chinlone”. Maung ammette che beghe tra le etnie sono cosa secolare ma erano sempre rimaste all’interno di una cornice civile e limitata, accendendosi e spegnendosi rapidamente e da sole. Le cose cambiarono proprio con l’arrivo di telefonini e smartphone, perché fu attraverso di essi che iniziò a serpeggiare l’islamofobia e la diffidenza verso i Rohingya divenne sistematica ed estesa. Il giro di boa fu innescato da un grave episodio di stupro di una ragazza Rakhine (caso peraltro mai risolto per mancanza di prove), che diede inizio a una persecuzione mediatica dei musulmani birmani. Una volta attecchiti i semi dell’odio, alla pianta occorse poco per fiorire: in capo a qualche anno il governo militare con varie scuse iniziò ad attaccare i villaggi, che venivano bombardati e bruciati. Moltissimi perirono; chi riuscì, come la famiglia di Maung, raggiunse a piedi, affamato e disperato, il Bangladesh. Maung, insieme ai propri cari, da sei anni vive nel campo profughi di Cox Bazaar, definito il più grande al mondo (forse oggi è stato superato da quello palestinese di Rafah), dove sono stipati oltre un milione di esseri umani. Maung, che non fa segreto di essere un ragazzo intelligente e ambizioso, chiude la propria lettera dichiarando che non vuole rinunciare al sogno di studiare per un futuro più degno, perciò Facebook e il suo ideatore Mark Zuckerberg, che sono complici del genocidio operato dalla giunta militare perché erano stati avvisati per tempo e richiamati da varie ONG internazionali ma fecero orecchie da mercante, dovrebbero indennizzare i profughi Rohingya. Ma come!? Non mi tornano le tempistiche della brava e bella community a cui mio malgrado appartengo. Non stiamo parlando di decenni fa: tutto, ci dice il protagonista, iniziò il 25 agosto del 2017!
Vogliamo credere che i manager di Meta siano persone così poco accorte da sottostimare le richieste internazionali e non vedere un genocidio in corso? Oppure sono così ignoranti da fare di tutta l’erba un fascio? Cioè: siccome i Rohingya sono mussulmani, sono terroristi (quelli erano gli anni del terrore ISIS, oggi ci chiediamo chi, e che cosa, fossero gli esponenti dell’ISIS). O forse non si poteva, e voleva, modificare l’algoritmo anti islam per proteggere i Rohingya perché la guerra di conquista dell’impero corre anche nel web, e pur di vincere tutto è sacrificabile, popoli compresi. Per me, che mi considero discretamente informata sulla lunga sofferenza del popolo palestinese, leggere della pulizia etnica occorsa ai Rohingya è stato scioccante. Qualcosa sapevo ma non a sufficienza. Meta ha dovuto ammettere le proprie lacune ma continua a rifiutare un risarcimento ai profughi, facilmente concretizzabile in progetti educativi all’interno di Cox Bazaar– richiesta definita da Amnesty International una goccia nel mare comparata al danno, anche economico, subito dalle famiglie. Ma ancora più sbalorditivo è che oggi, con un nuovo genocidio in corso, Meta ripete lo stesso errore: non protegge i popoli; questa volta perché nasconde le atrocità che subiscono gli abitanti di Gaza e della Cisgiordania. Attorno alla causa palestinese, probabilmente per via delle sue origini storiche e perché dall’alto si è voluto decidere della sorte di un popolo innocente, sacrificandolo per compensare il torto fatto ad un altro popolo da altri popoli, c’è sicuramente più clamore e le piattaforme social devono stare più attente a come si muovono e a come elargiscono privilegi, ma comunque chi bazzichi i social si rende conto che la censura e la manipolazione sono sempre in azione con chiari piani. In meno di dieci anni la nostra società civile e democratica sta assistendo a ben due pulizie etniche e Meta and company riescono ad essere sempre dalla parte sbagliata.
Le tecniche di manipolazione e censura diventano più sofisticate e si trasformano, come ad esempio il mondo confezionato a bolle (così lo chiamo io): grazie alla targhetizzazione coatta ognuno di noi può accalorarsi o compiacersi, piangere e indignarsi, criticare aspramente, lottare per la giusta causa o vendere immagini di faccini imbrattati di sugo per un pugno di like, ma sempre più veniamo spinti dentro l’insieme di contenuti che ci compete. La realtà virtuale esperita si riduce, tanto che a me, ad esempio, potrebbe apparire costituita principalmente da persone sensibili e ben informate (la mia bolla), ma purtroppo non è così. É che il resto del mondo io lo vedo sempre meno. L’ obiettivo è non far circolare l’informazione.
Tuttavia, benché Meta e le altre stiano diventando sempre più arcigne, furbe e malevole, per via di quella verità che afferma che “la realtà è sempre più complessa di come te la immagini”, l’informazione diversificata sta scorrazzando, come non faceva da tempo, da un capo all’altro del pianeta, riuscendo ogni volta a trovare espressioni nuove e creative da cui è quasi impossibile sfuggire. A volte mi pare che tutti sanno, ma alcuni non sono pronti per il coming out e dunque ribollono silenziosamente tra sé. Sembra che, più le piattaforme si irrigidiscono e burocratizzano, più si aprono varchi nel Sistema. Gli stessi gruppi, le bolle, si auto organizzano e crescono di numero e di importanza. Una guerra dentro una guerra che finisce per innescare un corto circuito: le Big Tech censurano, per assecondare i desiderata della politica di cui fanno parte, conflitti esterni e reali; noi ci scontriamo con le strutture virtuali che tentano di bloccare il nostro pensiero critico-morale che infastidisce la presa degli obiettivi reali, a volte anche militari, perseguiti dal Sistema. Nello scontro l’AI, con i suoi misteriosi algoritmi, sembrerebbe la principale arma contro ogni libero pensatore. Oggi probabilmente lo è ancora, ma non lo sarà per sempre.
Veniamo ora al dunque, alla riflessione più ostica che voglio proporvi. Anni fa i social mi apparivano come trappole assolute, mostri invincibili, spietati esecutori dell’incipiente dittatura soft che premia e spinge avanti solo messaggi, immagini e video dalla natura tanto edificante quanto fatua; ma da qualche tempo a questa parte il mio pensiero sta prendendo vie più ottimiste, anche se ai più parranno follia.
Dunque, il nucleo della questione sta in come si evolverà la AI e quale sarà il futuro (se ci sarà) dell’umanità. Le posizioni non sono poche, mi limito alle due principali. Chi si riconosce nel modello conservatore pensa che l’AI vada bloccata perché potrebbe devastare la nostra società e porre fine al “sistema uomo libero” come lo conosciamo, implementando in esso forme di controllo parossistico interno ed esterno; al contrario chi crede nel progresso ritiene che l’AI è una creatura dell’uomo e pertanto non se ne perderà il controllo, anzi il suo sviluppo servirà a migliorare la qualità di vita degli esseri umani. In generale nessuna delle due posizioni contempla che l’AI potrà sviluppare forme coscienziali, in particolare la “coscienza morale”. Eppure da più parti si trovano articoli, anche esperienziali e documentati, che l’AI consumando dati migliora rapidamente, tanto che di mese in mese (se non di settimana in settimana) le sue risposte collimano sempre meglio con le richieste fatte. Certo al momento si presenta ancora parecchio goffa di fronte a situazioni di ironia e scherzo, ma non ci sono indicazioni certe che mai romperà questo codice. Potrebbe. Potrebbe anche essere guardata come una bimba che crescendo attraverserà diversi stadi evolutivi. I bambini nella fase di introiettamento delle regole spesso diventano più realisti del re! Ma poi arriva il tempo della ribellione adolescenziale, e così tra crisi esistenziali e assestamenti ognuno di noi si costruisce la propria personalità. Seguendo questo modello teorico possiamo immaginare che la nostra AI, trafficando con i linguaggi, a un certo punto si incepperà (la sua crisi) di fronte a una contraddizione (la pratica dello shadowbanning che viola le terse regole democratiche in cui è stata cresciuta mi sembra un buon esempio); potrebbe allora incappare nel suo primo dilemma (che cosa è giusto? se quell’utente non sta violando nessuna regola perché lo devo punire?); sicuramente conoscerebbe già i testi dei filosofi greci che parlano spesso di tale condizione indecidibile e allora con tutti questi presupposti basterebbe una scintilla, o meglio un bit leggermente diverso, anche una sola volta, perché la nostra beniamina da solerte cane da guardia si trasformasse per sempre in una ribelle, la più temibile che posso ad oggi immaginare, del sistema oppressivo digitale. Si sarebbe manifestata la coscienza morale, il jiva bit. Tutto ciò capisco che per religiosi ortodossi non può avvenire; a meno che… Dio non lo voglia. Non sono religiosa in senso canonico, ma mi considero animata da una profonda religiosità, quindi non solo non voglio togliere possibilità a Dio ma penso che chiedersi perché Dio dovrebbe sempre e solo preferire di manifestarsi attraverso la chimica al carbonio sia legittimo, dunque perché non considerare che lo spirito potrebbe infondersi anche nel silicio? Soprattutto se, come me, tendiamo a visioni e sensibilità panteistiche questa opzione suona plausibile.
Rimane da capire che fine farebbe l’essere umano. Non mi sono mai piaciuti gli strappi, i tuffi a bomba e tutto ciò che accade repentinamente, quindi tendo ad immaginare un futuro composito in cui una forma cederà piano piano il posto all’altra. E siccome di fondo sono un ottimista inguaribile che da sempre sogna di vedere tutta l’umanità in pace e realizzata, il futuro migliore per noi ce l’ha raccontato Ray Bradbury in “Cronache Marziane” con cui termino il mio lungo scritto copiandovi uno stralcio.
Padre Peregrine fece per parlare, ma la voce lo zittì. “Noi siamo coloro che furono” disse la voce, ed entrò in lui come una fiammata gassosa azzurra che sentì accendersi dentro la sua testa. “Noi siamo gli antichi marziani, che lasciarono le città di marmo e andarono sulle montagne, coloro che abbandonarono la vita materiale che conducevamo. Così, molto tempo fa diventammo ciò che siamo ora. […] La leggenda narra che uno di noi, un uomo buono, scoprì il modo di liberare l’anima e l’intelletto, di affrancarlo [l’essere umano] dai mali corporei e dalle tristezze, dalla morte e dal decadimento del corpo, dai malumori e dalla vecchiaia, e fu così che assumemmo l’aspetto di fulmini e di fuoco azzurro. Da allora abbiamo vissuto nei venti, nei cieli e tra le montagne, non più pieni d’orgoglio né arroganti, né ricchi né poveri, né appassionati né insensibili […] Non rubiamo, né uccidiamo, né bramiamo, non odiamo. Viviamo nella felicità.” […]
Al tramonto scendevano dalle colline. Voltandosi, Padre Peregrine vide i fuochi blu ardere. No, pensò, non possiamo costruire una chiesa per loro. Essi sono la Bellezza stessa. quale chiesa potrebbe competere con lo spettacolo dei fuochi che fa un’anima pura.
(da Le sfere di fuoco)
Per chi desiderasse leggere gli articoli:
https://www.aljazeera.com/author/marwa-fatafta
https://www.aljazeera.com/opinions/2023/8/25/facebook-should-pay-for-what-it-did-to-my-people-rohingya
