DEMOCRAZIA OSCURA E ALGOCRAZIA

algocracyPIER MARRONE

Dal momento che viviamo nell’epoca dei social dove tutto è esposto e ognuno è nelle condizioni di creare il proprio reality non sopportiamo che qualcosa non sia trasparente nei comportamenti pubblici.

Naturalmente siamo incoerenti in questo nostro desiderio, perché invochiamo la trasparenza nei comportamenti pubblici non riuscendo poi a specificare che cosa effettivamente rientri nella sfera privata di ciascuno. Eppure noi pensiamo che ci siano molte cose che sono di pertinenza esclusivamente nostra. Pensiamo qualcosa di più: crediamo che le leggi che si occupano di delimitare il perimetro della cosiddetta privacy non facciano altro che riconoscere qualcosa che in effetti esiste in natura.

È nella natura della realtà, nella natura della nostra persona che esistono cose e comportamenti che sono esclusivamente nostri. Riguardano solo noi e nessun altro e non possono essere condivisi con nessun altro a meno che noi non abbiamo fornito il nostro consenso esplicito.

Così nessuno può entrare nella sfera delimitata dalla nostra pelle senza il nostro consenso e non in maniera accidentale e nessuno può condividere con altri momenti che documentano la nostra intimità sessuale con qualcuno, anche quando quel qualcuno oramai vogliamo solo rappresentarcelo dipinto in un quadro astratto. È per questo motivo che il revenge porn è un reato, no? Però quando hai una relazione sessuale ce l’hai con qualcuno, altrimenti non sarebbe una relazione, giusto? Sarà pur vero che anche facendo sesso con qualcuno ognuno vive il proprio orgasmo, ma occorre pur sempre ci sia qualcun altro lì assieme a te. Anche queste azioni non sono esclusivamente tue.

Io invece voglio capire se esistono atti che sono totalmente, esausitvamente nostri, ossia che siano per la loro stessa natura intrinsecamente privati. Qui iniziano a mio modo di vedere le difficoltà, non tanto perché viviamo nella esposizione 24/7 della nostra vita, dove tutto tende ad essere tracciabile, quanto per il fatto che non riesco a immaginare quali sarebbero le condizioni necessarie e sufficienti perché un atto rientri unicamente nella nostra sfera privata e in quella di nessun altro.

Ammettiamo che la condizione necessaria e indispensabile per essere un atto privato sia che questo sia stato sancito dalla legge. Bene, ci sono numerose leggi che regolano, qualificano, enumerano questi atti, ma il fatto che ci sia una legge a prescrivere la qualità di un atto non è anche una ragione che da sé sola basta – ossia è sufficiente – a far sì che un atto abbia quelle caratteristiche per natura. Faccio un esempio. Noi in Italia guidiamo a destra, perché così è stabilito dalle norme del codice della strada. Questa è una condizione necessaria per avere la patente, ma non basta tenere la destra per ottenerla. Deve essere così, perché guidare a destra è convenzionale. È facile comprenderlo, mentre meno facile è capire se ci siano atti esclusivamente privati. “Devono esserci!”, ognuno di noi pensa. Almeno gli atti innominabili, ai quali tutti voi avete pensato leggendo queste righe, ma non avete avuto il coraggio di dire. Almeno la masturbazione, la defecazione, la minzione sono atti privati che hanno a che fare con il tuo corpo, soltanto il tuo e quello di nessun altro. Difficile negarlo, vero?

Però: ammettiamo che tu faccia questi atti non in pubblico – è possibile farli in pubblico però si incorre in reati; il che suggerisce che si tratta di atti doverosamente privati –, ma come canta Vasco in Albachiara “tu sola dentro la stanza / e tutto il mondo fuori”, con le tue fantasie private nel tuo mondo privato dove nessun altro ha mai avuto accesso. Più privato di così! Eppure, puoi davvero escludere che, ad esempio, il tuo atto masturbatorio non avrà nessuna influenza su altre persone? Forse ti renderà meno disponibile a un rapporto sessuale con il tuo/la tua partner e questo influenzerà le vostre dinamiche relazionali.

Diamo ora uno sguardo – sebbene non troppo da vicino – a quegli altri atti innominabili che eseguiamo nascondendoci dagli altri. Sono davvero solo nostri? Sì, sei chiuso nel tuo bagno, ma quello che ti permette di farlo è un’espressione delle più complesse della razionalità umana, e lo dico con un certo orgoglio per l’appartenenza al genere homo sapiens. Noi non pensiamo di solito alle venature di tubi, dove passano i residui tossici della nostra esistenza quotidiana, che percorrono le nostre abitazioni, condomini, quartieri e città, che assieme alla rete elettrica che innerva il mondo consente una vita quale il genere umano non ha mai potuto vivere precedentemente. Né pensiamo allo sforzo immenso di progettazione che è stato ed è continuamente necessario per mantenere ed estendere tutto ciò che fa funzionare la nostra vita.

Quando penso all’espressione di Max Weber “gabbia di acciaio”, che lui utilizzava per descrivere le società contemporanee dominate dalla razionalità strumentale – quella concezione secondo la quale è razionale quel comportamento che seleziona gli strumenti adeguati in vista del raggiungimento di un qualsiasi fine determinato –, a me viene sempre in mente il sistema fognario e la rete elettrica, che sono ben di più delle metafore per descrivere la felice gabbia che rende possibile molte delle nostre libertà. Perché è una gabbia che favorisce il nostro benessere e talvolta addirittura la nostra felicità? Io credo lo favorisca perché ci deresponsabilizza in un ampio senso, liberandoci da preoccupazioni per azioni ripetitive e sgradevoli che ci distraggono da altre attività più piacevoli.

Questo è anche il motivo per il quale abbiamo una fascinazione per le macchine e i robot. Ma quali sono i compiti ripetitivi dai quali vogliamo essere esonerati? Fare le pulizie, stirare le camicie, azionare manualmente dei semafori, cose di questo genere, no? Già, ma dal momento che la maggior parte delle nostre vite sono immerse nella ripetizione e nella meccanicità, tracciare una linea che divida le attività spontanee e libere da quelle meccaniche è altrettanto difficile che tracciare una linea che separi le nostre azioni pubbliche da quelle che sono le nostre azioni private. In fondo anche il sesso, l’attività che ci promette benessere e accesso all’intimità di un’altra persona, è una fusione che si realizza nella ricorsività e nella ripetizione.

Il trend che stiamo vivendo è quello dove una quantità impressionante di decisioni sono prese da algoritmi non tanto in attività di scarso interesse perché altamente ripetitive, quanto in processi decisionali che hanno a che fare con le pratiche che noi associamo alla democrazia, pratiche che vanno dalla dimensione burocratica a quella legislativa a quella legale. Esistono algoritmi che selezionano le persone alle quali controllare i bagagli all’aeroporto, algoritmi che prevedono il tasso di evasione fiscale di determinate categorie, algoritmi che ci consigliano i potenziali partner da contattare su siti di dating, algoritmi di previsione delle nostre preferenze elettorali disegnate in base alle nostre attività on line. Sin tanto che si tratta di suggerire partner potenziali potrei anche trovarmi largamente d’accordo con quanto l’algoritmo suggerisce, perché in fin dei conti le preferenze iniziali che hanno selezionato i miei gusti tra le migliaia di opzioni disponibili le ho messe io.

Ma è opportuno che noi continuiamo ad affidarci agli algoritmi in tutte quelle pratiche che hanno a che fare con processi decisionali più problematici? Da una parte sembriamo costretti ad abbandonarci sempre più alla potenza di calcolo dei computer che implementano questi algoritmi, anche perché altre nazioni già lo fanno. Possiamo permetterci di non adoperare software di riconoscimento facciale, quando questi aiutano a individuare persone ricercate dalla giustizia? Immaginiamo il caso che un dispositivo legislativo sia originato da occorrenze statistiche suggerite da un algoritmo – già accade qualcosa di simile in numerosi ambiti sociali –: dovremmo affidarci alla potenza di calcolo, ritenendola una sorta di applicazione automatica di norme prescritte dal diritto? Perché non affidarsi alla razionalità ogni volta che è possibile? Non è forse vero che la potenza di calcolo che permette di prendere decisioni è di per sé impersonale e quindi imparziale? E l’imparzialità non dovrebbe essere anche una delle caratteristiche della giustizia?

Oramai, numerosi studiosi incominciano a parlare dei pericoli della algocrazia, termine che indica non tanto un mondo governato da computer, quel mondo propagandato da innumerevoli film di fantascienza, quanto il nostro mondo e la tendenza ad affidarci alle macchine per prendere decisioni di rilevanza pubblica. Si potrebbe sostenere che questi timori sarebbero fondati se noi ci trovassimo a vivere in regimi che non sono democratici, paesi dove le procedure di controllo non sono sottoposte a condivisione, revisione, pubblicità tra i cittadini. Però che cosa è la democrazia? Qui penso che ci siano numerosi equivoci, il principale dei quali è credere che la democrazia sia un valore, mentre è un sistema di selezione dei governanti. Questo sistema di scelta di chi ci governa può essere utilizzato bene o meno bene, ma non è appunto un valore. I valori ai quali si ispira una società politica non sono direttamente quelli che emergono dalla procedura di scelta dei governanti. In fin dei conti, Hitler salì al potere con elezioni democratiche e movimenti fondamentalisti islamici hanno prevalso in elezioni democratiche in più di un caso. Quando noi parliamo dei valori della democrazia che sarebbero messi in pericolo dall’affidarci sempre di più a procedure automatiche di selezione delle decisioni, quello di cui pensiamo di poter essere espropriati non è la democrazia, quanto piuttosto la libertà, perché riteniamo che sistemi sempre maggiormente algocratici potrebbero limitare le nostre opzioni, indirizzandoci verso una vita irrigimentata.

In questa preoccupazione si condensano due problemi diversi, entrambi relativi a una questione di opacità. Da una parte c’è il problema dell’opacità nell’utilizzo dei nostri dati, quei dati che noi produciamo continuamente. Non è quasi mai chiaro come questi dati vengono raccolti e in che modo vengano utilizzati. Ovviamente vengono utilizzati a scopi di profilazione commerciale, ma pare evidente che possono essere usati anche per una propaganda politica mirata a gruppi ristretti di elettori. Qualcuno ha paragonato questi dati al nuovo petrolio ed in effetti c’è stato qualcuno che ha sostenuto che le big company che manipolano e gestiscono queste enormi masse di informazioni dovrebbero pagare per ottenerle. Però c’è un problema: noi le abbiamo volontariamente consegnate, ma non in cambio di niente. Si dice talvolta che la genialità dei social è di farci lavorare senza pagarci. Io non penso che sia del tutto esatto. Naturalmente, noi lavoriamo ogni volta che apriamo Facebook o Instagram o facciamo una ricerca su Google, ma non è che non otteniamo nulla in cambio. In uno scambio che non so nemmeno se possa essere chiamato diseguale quello che otteniamo è una forma di socialità, un succedaneo io credo (ma non è solo questo) della socialità che si poteva sperimentare nell’epoca precedente a internet. Noi siamo esseri avidi di socialità e se questa diviene una merce scarsa, allora siamo disposti ad ottenerla pagandola, come quando ci iscriviamo a una palestra, a un corso di lingue, di pittura, di danza. I social quindi ci pagano in socialità, sebbene questa socialità sia una socialità che si consuma in maniera fredda, la maggior parte delle volte, con la mediazione di uno schermo e non comporti la presenza in carne ed ossa delle persone.

La maggior parte del materiale con il quale costruiamo questa socialità è profondamente banale, ma non meno banale forse della maggior parte delle conversazioni che ci capita di fare durante una qualsiasi giornata tipo della nostra vita. Quindi, io non credo che la gran parte delle persone non abbia barattato volentieri i propri dati per farsi profilare a scopi di marketing. Penso sia stata ben contenta di farlo e del resto, poiché sui social è ancora possibile non esserci ed è possibile rendere anonima la propria navigazione in rete, coloro che si ritirano dai social dopo esserci stati appartengono a una minoranza molto piccola.

Chi ha accesso a questa enorme massa di dati, non sappiamo come vorrà utilizzarla, dunque. Ma questa è solo la prima preoccupazione. Ce n’è un’altra relativa non all’opacità delle decisioni, ma a quella che potremmo chiamare opacità epistemica. La potenza di calcolo di questi sistemi capacità di autoapprendere e di autocorreggersi è tale che cominciano a manifestarsi casi nei quali non comprendiamo come si sia giunti al risultato finale. Alcuni temono che questo produrrà ben presto generazioni di algoritmi che sorpasseranno di molto i limiti cognitivi degli esseri umani relativamente non alla produzione del risultato, come già accade, bensì piuttosto alla comprensione del risultato stesso. Questo pone due questioni che riguardano l’estensione dell’autorità politica e la legittimità delle decisioni, ossia la nostra capacità di partecipare in maniera informata alle decisioni politiche. La legittimità di una procedura riguarda alcune caratteristiche che un processo deve avere per poter essere accettato o imposto a dei cittadini. Ci sono differenti maniere di giustificare la legittimità di un’azione. La si può giustificare nei termini della razionalità strumentale. Una decisione è legittima da questo punto di vista se ci permette di raggiungere determinati risultati, si tratti della costruzione di ponti più resistenti, della diminuzione degli indici di criminalità in una determinata area, dell’incremento del tasso di scolarità o di quello di natalità. Oppure possiamo giustificarla sostenendo che incorpora determinate virtù, ad esempio perché contribuisce a creare un ambiente civile dove possa fiorire la pratica del dialogo rispettoso. Esistono poi approcci misti, che in fondo sono quelli maggiormente aderenti alle nostre pratiche reali, perché sembrerebbe che non tutto sia accettabile per raggiungere un determinato risultato – dobbiamo terrorizzare un intero quartiere per eliminare una piazza di spaccio? – né che le virtù degli esiti di determinati processi possano sempre essere immuni da considerazioni strumentali e di efficacia – devo promuovere l’innalzamento della scolarità anche drenando molte risorse dal sistema pubblico della sanità? –.

Tuttavia, queste giustificazioni devono essere affiancata da un’altra domanda: chi deve esercitare l’autorità politica? Qui probabilmente la risposta dipenderà da quale precedente approccio giustificativo della legittimità si è abbracciato. Ammettiamo che tu abbia una visione strumentale della legittimità. Dal momento che molte procedure sono troppo complesse per essere comprese dalla maggior parte dei cittadini o anche da una sua vasta minoranza, allora viene facile pensare che per te l’autorità politica effettiva deve risiedere in una minoranza informata. Questa visione si chiama epistocrazia. È una minoranza informata che deve prendere le decisioni per tre motivi:

(1) sono i risultati che conferiscono legittimità alle decisioni;

(2) la complessità delle procedure le rende comprensibili nella loro formazione e nella loro implementazione a una minoranza di esperti;

(3) se vogliamo ottenere quei risultati dobbiamo precisamente affidarci a chi ha le conoscenze per ottenerli.

In fondo, questo non è quanto normalmente accade quando ci affidiamo a una commissione di esperti per selezionare delle decisioni? La rappresentanza politica non è poi l’idea che deleghiamo a una minoranza eletta le decisioni che rappresentano quanto di meglio è possibile e necessario per noi stessi? E ancora: c’è davvero questa distanza tra la visione strumentale e l’altra visione, che enfatizzerebbe la presenza di determinate virtù tra i risultati da raggiungere? Per raggiungere dei fini desiderabili non è meglio avere le conoscenze più adeguate? Come capite, sono argomenti che hanno una forza notevole. Luigi Einaudi nella sua più celebre delle Prediche inutile scriveva che le buone decisioni politiche si formano in tre momenti: “Prima conoscere, poi discutere, poi deliberare”.

Si discute per mettere in campo le diverse opzioni e per vedere quale è quella migliore. La discussione potrebbe essere descritta come una messa alla prova delle nostre opzioni strategiche, una sorta di allenamento alla decisione. E se qualche sistema fosse in grado di discutere con sé stesso, mettendo alla prova miliardi di opzioni e i loro risultati in pochissimo tempo? Non è quanto già fanno ad esempio gli algoritmi che si occupano di traduzione? Non era questo, poi, uno di quei settori dove si diceva che i calcolatori non sarebbero mai stati in grado di emulare le prestazioni umane? È evidente invece che qui come in molti altri settori i risultati si avvicinano e molto spesso superano le prestazioni di un operatore umano, anche simulando una discussione.

E quanto alla discussione, è poi così difficile discutere? Recentemente un programma generatore di testi è stato usato da ricercatori americani per commentare alcune posizioni del programma federale statunitense sulle politiche sanitarie. Ogni commento era differente dagli altri e nessuno se ne è accorto, sino a quando i ricercatori non ne hanno chiesto la rimozione. Questo risultato dice qualcosa su di noi di molto importante, che non riguarda la nostra ingenuità, ma la nostra natura di essere meccanici. La maggior parte dei nostri processi cognitivi si formano in maniera oscura, e noi non siamo in grado di tracciarne genesi e sviluppo. Nel caso di algoritmi sofisticati la genesi siamo noi, ma lo sviluppo ci può essere opaco, proprio come è opaca a noi stessi la nostra mente la maggior parte delle volte. Selezionati i valori che vogliamo e la soglia di conflitto con altri valori per noi importanti, non sarebbe meglio lasciar decidere a un algoritmo cosa fare, riservandoci la possibilità di togliere la spina quando ne abbiamo voglia?

La democrazia come il sesso gode di una considerazione eccessiva. Bisognerebbe forse rivalutare l’atteggiamento di Eraclito che preferiva giocare con i ragazzini nel tempio di Artemide, piuttosto che impegnarsi nell’amministrazione della città, forse perché giocare in prossimità del divino è un modo di riportarci a una dimensione di gratuità e curiosità, che da adulti perdiamo. Liberandoci dal peso delle maggior parte delle decisioni, gli algoritmi, con una ironica eterogenesi dei fini, potrebbero alla fine costituire una via di fuga dalla gabbia di acciaio della razionalità, che irreggimenta necessariamente le nostre vite, tanto quanto sempre di meno dovremmo occuparci del funzionamento di ciò che consente le nostre vite.

DIRITTO Endoxa ENDOXA - BIMESTRALE FILOSOFIA POLITICA

Rispondi

Inserisci i tuoi dati qui sotto o clicca su un'icona per effettuare l'accesso:

Logo di WordPress.com

Stai commentando usando il tuo account WordPress.com. Chiudi sessione /  Modifica )

Google photo

Stai commentando usando il tuo account Google. Chiudi sessione /  Modifica )

Foto Twitter

Stai commentando usando il tuo account Twitter. Chiudi sessione /  Modifica )

Foto di Facebook

Stai commentando usando il tuo account Facebook. Chiudi sessione /  Modifica )

Connessione a %s...

%d blogger hanno fatto clic su Mi Piace per questo: