Intervista a Mauro Calise di Antonella Vitelli
Viviamo un tempo paradossale, quello che vede da un lato una crescita veloce e incontrollabile della tecnologia e da un lato la sensazione che l’essere umano faccia fatica a comprendere davvero il mondo che sta costruendo.
Algoritmi, intelligenza artificiale, piattaforme digitali e sistemi di raccolta dati stanno ridefinendo politica, comunicazione, consenso e persino la nostra percezione della realtà, ma mentre tutto cambia a una velocità vertiginosa, resta aperta una domanda essenziale:
chi governa davvero questa trasformazione?
È da qui che parte la riflessione di Mauro Calise e Fortunato Musella nel loro libro Digicrazia pubblicato da Editori Laterza. Un libro che affronta una delle questioni più pressanti del contemporaneo: il rapporto tra democrazia, tecnologia e nuove forme di potere generate dall’intelligenza artificiale.
Nel loro lavoro, i due politologi descrivono una trasformazione silenziosa ma radicale; il passaggio verso una “digicrazia”, una forma di potere in cui il digitale non è più soltanto uno strumento, ma il luogo stesso nel quale si costruiscono leadership, identità e anche decisioni e partecipazione politica.
“Il sonno della ragione genera il mostro della digicrazia”, scrivono gli autori, mettendo in guardia da una società che rischia di entrare dentro questa nuova fase storica senza piena consapevolezza. E forse è proprio qui che emerge il nodo più profondo. Perché se il futuro non ammetterà più alcuna “tecno ignoranza”, allora il problema non sarà soltanto tecnologico, ma culturale, umano e persino filosofico. In un mondo dominato dalla velocità delle macchine, dalla personalizzazione algoritmica e dall’automazione del pensiero, torna inevitabile a farsi strada un’altra domanda: chissà se oggi, più di ieri, non ci sia un disperato bisogno di artisti, poeti, filosofi e umanisti.
Di persone capaci non solo di usare strumenti, ma di interrogarsi sul senso del potere, della libertà e della vita collettiva.
Ma questa, forse, è già un’altra storia. O forse è la stessa storia vista dall’angolazione più umana possibile. Per capire meglio cosa significhi davvero questa trasformazione e perché gli autori parlino di una mutazione profonda della democrazia contemporanea, ho chiesto al professor Mauro Calise di entrare nel cuore del concetto di “digicrazia”.
Professore, nel libro “Digicrazia” sembra di capire che l’AI non sia una semplice evoluzione tecnologica della democrazia, ma un mutamento molto più profondo della struttura del potere. Che cosa significa esattamente questa affermazione?
Significa - come dice il titolo - che al posto del demos c'è il digitale come vero depositario del potere. Il mutamento non sta solo nella fonte del potere, ma nel modo in cui il potere viene esercitato.
Nella democrazia, il potere del popolo si concretizza soprattutto nel momento elettorale, come fonte di legittimazione. E sappiamo - purtroppo - fin troppo bene come questo circuito rappresentativo tra popolo e governanti si sia andato, negli ultimi decenni, molto indebolendo sia in Europa che - ancor più - in America. Il digitale, invece, è una presenza molto più pervasiva, la sua influenza riguarda la struttura e le procedure dei principali apparati amministrativi, i canali della comunicazione e - come stiamo vedendo sempre più chiaramente negli ultimi mesi - gli armamenti sempre più micidiali grazie all'innesto della Intelligenza artificiale.
Nel libro si sostiene che l’intelligenza artificiale non sia soltanto uno strumento tecnico, ma una nuova forma di produzione della conoscenza. L’IA sta cambiando solo il modo in cui accediamo alle informazioni oppure sta modificando anche il nostro stesso rapporto con la verità?
Il nostro rapporto con le informazioni è tra le più radicali trasformazioni dell'ecosistema digitale. Questo cambiamento era cominciato con l'avvento dei social e il fenomeno della platformization, il fatto cioè che le nostre relazioni attraverso la rete non dipendono più dalle nostre scelte, ma da come queste scelte vengono orientate e - soprattutto - moltiplicate dai codici di profilazione delle piattaforme che gestiscono i social network. Quelle che noi nel libro chiamiamo opinioni elettroniche sono tecnologicamente eterodirette. E la moltiplicazione incontrollabile di queste opinioni rende sempre più difficile verificare il loro fondamento fattuale. Nel mondo delle post-verità la distinzione tra vero e falso è una linea d'ombra che, a molti utenti, purtroppo, non interessa neanche approfondire.
Nel capitolo Bot dixit emerge una questione filosoficamente molto forte: i modelli linguistici sembrano offrire risposte autorevoli pur essendo strutturalmente privi di comprensione. Quindi autorevolezza senza coscienza e ed esperienza.
Si, è così. Questa è ancora la soglia che separa i grandi modelli linguistici dalla nostra mente. Yann LeCun ha lasciato il suo ruolo come chief AI scientist di Meta, l'azienda che in questo ultimo anno ha incrementato enormemente i propri investimenti in AI, sostenendo che i modelli attuali non possano da soli condurre all'AGI - l'Artificial General Intelligence che sarebbe superiore a quella umana - perché mancano di comprensione del mondo fisico, di pianificazione gerarchica e di memoria persistente.
Nel libro descrivete la crescente integrazione tra potere tecnologico, infrastrutture digitali e governance. La digicrazia rischia di produrre una nuova forma di tecnocrazia opaca, dove le decisioni appaiono neutrali perché fondate sui dati, ma in realtà incorporano precise visioni politiche ed economiche.
Si, a nostro avviso, questo è il rischio maggiore. Nel cittadino comune, c'è scarsissima consapevolezza di quanto ampi e incisivi siano i cambiamenti nella struttura del potere. Il caso delle Big Tech è eclatante. Oggi le cosiddette Magnifiche sette di Wall Street hanno un valore di capitalizzazione superiore a quello di grandi paesi come il Giappone. E - cosa ancora più preoccupante - sono gestite in materia del tutto assolutistica dai loro proprietari fondatori, sono diventate delle aziende personali senza limiti territoriali di espansione. Per molti versi, siamo oltre la stessa forma Stato che per secoli è stato il contenitore organizzativo del potere. E la capacità dei cittadini di incidere su questi superpotentati aziendali è inesistente.
Lei insiste molto sul fatto che i grandi modelli linguistici non siano semplicemente strumenti esterni, ma sistemi destinati a entrare nelle strutture amministrative, educative e cognitive della società. Qual è, secondo lei, il rischio più profondo: la sostituzione del lavoro umano oppure una progressiva delega della capacità deliberativa dell’uomo alle macchine?
Sicuramente il secondo. Il processo sostitutivo è molto ampio, ma non molto diverso da quello che abbiamo registrato in fasi storiche precedenti dello sviluppo industriale. Noi ne siamo molto colpiti, perché questa volta la sostituzione non riguarda tanto funzioni manuali, ma investe massicciamente ruoli intellettuali anche molto sofisticati, come nel campo editoriale e in quello della education. Ma fin tanto che saremo noi a conservare il controllo del cambiamento, magari intervenendo con sempre maggiore capacità nella finalizzazione di queste evoluzioni, potremo avere anche dei vantaggi consistenti.
Qualora, però, l'automazione dovesse investire funzioni cruciali come quelle della distruzione di bersagli umani - come sta avvenendo in maniera sempre più tragica su molti fronti di guerra - la partita può sfuggirci di mano. Questo nodo è stato al cuore dello scontro tra Anthropic - la società che sviluppa il modello più potente, Claude - e il Ministero della Guerra americano, perchè Anthropic sostiene che nei loro accordi contrattuali fossero esclusi la profilazione facciale indiscriminata della popolazione e l'uso automatico delle armi di distruzione senza l'intervento dell'uomo.
Questo è il campanello d'allarme cui è indispensabile dare una risposta forte e chiara. Sempre che le nostre democrazie ne siano ancora capaci.