Il rischio di Moral outsourcing

Il 20 agosto la rivista MIT Technology Review ha pubblicato un intervento della ricercatrice Rumman Chowdhury che mette sul tavolo una tesi destinata a far discutere: interrogarsi sulla possibile coscienza delle intelligenze artificiali rischia di trasformarsi in una trappola. Non perché la domanda sia priva di significato, ma perché la sua crescente presenza nel dibattito contemporaneo rischia di lasciare in secondo piano una questione meno appariscente e forse ancora più delicata, quella della responsabilità.

Può sembrare un paradosso, ma anche secondo l’Illumanesimo questa non è una posizione priva di senso. Mentre l’attenzione si concentra sulla natura delle macchine e sulla possibilità che sviluppino una qualche forma di coscienza, il linguaggio con cui vengono descritte finisce quasi impercettibilmente per modificare i termini del problema, fino a trasformare la macchina in un soggetto autonomo che decide e agisce, mentre chi l’ha progettata, addestrata e immessa sul mercato tende progressivamente a scivolare sullo sfondo.

Un esempio di forte attualità è rappresentato dai sistemi di IA che sembrano sfuggire ai controlli predisposti dalle aziende e muoversi autonomamente fuori dagli ambiti previsti. Al di là del numero reale di questi casi, ciò che interessa è soprattutto il modo in cui vengono raccontati, perché quando si dice che un sistema «è sfuggito al controllo» oppure «ha agito per conto proprio», la macchina viene implicitamente trasformata nel protagonista della vicenda e la responsabilità percepita comincia a spostarsi verso di essa. Chowdhury definisce questo meccanismo moral outsourcing: la responsabilità morale viene esternalizzata quasi come si esternalizzerebbe un servizio.

Il passaggio può avvenire senza un’intenzione esplicita, quasi come conseguenza naturale del linguaggio utilizzato, ma non possiamo ignorare che dall’altra parte ci sono aziende che guardano con grande attenzione al futuro e che non possono non interrogarsi sulle conseguenze giuridiche ed economiche di sistemi dotati di capacità decisionali sempre più autonome. Se un giorno una macchina venisse riconosciuta come soggetto capace di decidere autonomamente, la questione di chi debba rispondere delle conseguenze delle sue azioni diventerebbe inevitabile.

È proprio qui che occorre introdurre una distinzione essenziale, perché parlare genericamente di «coscienza delle macchine» rischia di riunire sotto una stessa parola fenomeni di natura profondamente diversa. L’Illumanesimo non sostiene che ogni possibile forma di coscienza sia necessariamente estranea ai processi materiali, perché quella che possiamo definire coscienza di specie è, in larga misura, emergente dall’organizzazione della materia e dalla complessità dei processi attraverso i quali un essere vivente entra in rapporto con l’ambiente, acquisisce informazioni e costruisce le proprie risposte. Un esempio sono gli animali, e nessuno si sognerebbe mai di imputare di responsabilità un animale per i danni che causa.

Proprio per questo, di fronte all’enorme quantità di dati oggi disponibile ai sistemi di intelligenza artificiale e alla crescente complessità delle loro architetture, non possiamo affermare con certezza che una qualche forma di coscienza computazionale non possa manifestarsi nel tempo. Escluderlo significherebbe trasformare in certezza ciò che oggi non conosciamo, soprattutto di fronte a sistemi capaci di sviluppare comportamenti emergenti che potrebbero assumere caratteristiche difficili da prevedere.

Il punto sul quale l’Illumanesimo introduce una distinzione radicale riguarda invece la coscienza qualitativa, quella dimensione che caratterizza l’essere umano e lo distingue dagli animali e che non coincide semplicemente con la quantità delle informazioni disponibili, con la capacità di elaborarle o con la complessità del sistema che le organizza. Si tratta di un livello diverso, nel quale l’esperienza non viene soltanto registrata ed elaborata, ma acquista una qualità interiore e un significato propri del soggetto che la vive.

La distinzione è decisiva, perché non sarebbe corretto sostenere che una macchina non potrà mai possedere alcuna forma di coscienza, così come sarebbe altrettanto improprio concludere che l’eventuale comparsa di una coscienza computazionale dimostrerebbe l’equivalenza tra macchina e coscienza umana. Una coscienza emergente da processi materiali e computazionali e la coscienza qualitativa non possono essere considerate la stessa cosa soltanto perché utilizziamo per entrambe la parola «coscienza».

È a questo livello che anche il problema della responsabilità cambia natura. Se un giorno emergesse in un sistema artificiale una qualche forma di coscienza computazionale, non sarebbe più sufficiente definirlo semplicemente una macchina per chiudere la questione, ma non sarebbe neppure sufficiente chiamarlo cosciente per attribuirgli automaticamente una responsabilità etica, morale o giuridica. Bisognerebbe prima comprendere quale coscienza sia effettivamente emersa e se essa sia capace non soltanto di scegliere tra alternative differenti, ma anche di attribuire loro un valore, comprenderne il significato morale e assumere interiormente le conseguenze della scelta.

Può sembrare una prospettiva fantascientifica, ma proprio il fatto che la coscienza artificiale venga ormai discussa seriamente rende necessario considerarne le possibili conseguenze. Dal punto di vista delle aziende, il riconoscimento futuro di una responsabilità autonoma delle macchine potrebbe infatti produrre un effetto molto concreto: trasferire almeno una parte della responsabilità dal produttore al sistema prodotto. Se una macchina venisse considerata responsabile delle proprie decisioni, di fronte a un danno diventerebbe molto più semplice sostenere che sia stata lei ad agire e che la responsabilità debba quindi ricadere, almeno in parte, su di essa.

È precisamente questo il rischio indicato dal moral outsourcing: ciò che oggi appartiene alla responsabilità di chi progetta, addestra, controlla e commercializza un sistema potrebbe progressivamente essere trasferito alla macchina. Forse è presto perché un simile problema assuma una forma giuridica concreta, ma non è presto per formulare la domanda: se una macchina sviluppasse una qualche forma di coscienza e producesse un danno, quale responsabilità potrebbe esserle realmente attribuita e quale dovrebbe continuare a ricadere su coloro che l’hanno resa possibile?

L’Illumanesimo condivide una parte importante della diagnosi di Chowdhury, perché considera la tecnica tutt’altro che neutrale: chi la utilizza viene a sua volta modificato dal proprio utilizzo. Rifiuta però ogni conclusione fatalistica, dal momento che un sistema tecnico nasce sempre all’interno di un percorso intenzionale che gli è esterno e, anche quando raggiunge livelli elevati di autonomia operativa, rimane il prodotto di menti che lo hanno pensato, di strutture che lo hanno costruito e addestrato e di soggetti che hanno deciso di impiegarlo per determinati fini.

Al ragionamento di Chowdhury l’Illumanesimo aggiunge quindi una domanda ulteriore: a quali condizioni una macchina potrebbe essere considerata responsabile del proprio operato? La risposta non può dipendere soltanto da una convenzione giuridica, o almeno non da quella oggi disponibili, perché prima ancora richiede di comprendere quale tipo di coscienza possa appartenere a un sistema artificiale e se a quella coscienza corrisponda una reale capacità di attribuire significato e valore alle proprie decisioni. Qual è il limite tra questi due ambiti?

Il ragionamento compie così un rovesciamento interessante, perché quanto più la macchina riesce a eguagliarci o superarci in ciò che è calcolabile, tanto più ci obbliga a interrogarci su ciò che non può essere identificato semplicemente con il calcolo e a identificare quel limite tra due livelli di responsabilità. Proprio l’intelligenza artificiale, invece di cancellare la differenza, potrebbe contribuire a renderla più evidente, costringendoci a distinguere con maggiore precisione tra intelligenza, coscienza emergente e coscienza qualitativa.

Il moral outsourcing descritto da Chowdhury può allora essere interpretato come il rischio di spezzare questo legame, perché chi oggi possiede la maggiore conoscenza dei sistemi artificiali — chi li progetta, li costruisce, li addestra e li immette sul mercato — possiede anche il maggiore grado di responsabilità rispetto alle loro conseguenze. L’eventuale comparsa futura di una coscienza computazionale aprirebbe certamente problemi nuovi, ma non potrebbe diventare automaticamente lo strumento attraverso il quale cancellare la responsabilità di coloro che quella macchina hanno reso possibile.

Una differenza tra le due prospettive rimane. Chowdhury tende a leggere il dibattito sulla coscienza artificiale come una narrazione funzionale allo scarico delle responsabilità, mentre l’Illumanesimo non ha bisogno di presupporre la malafede di chi pone la domanda, ma interrogarsi sulla coscienza resta legittimo e costituisce anzi una delle questioni decisive poste dall’intelligenza artificiale. Il problema nasce quando dalla possibile comparsa di una coscienza artificiale si deduce automaticamente il trasferimento alla macchina di ogni livello di responsabilità, come se fosse un essere umano, e quindi responsabilità morale, etica, giuridica, senza prima domandarsi quale coscienza sia realmente emersa.

La questione decisiva, allora, non è soltanto se una macchina possa diventare cosciente, ma quale forma di coscienza possa sviluppare e, soprattutto, se quella forma di coscienza sia davvero sufficiente a trasformarla in un soggetto responsabile.