In modo particolare sono due gli ambiti rispetto ai quali l’attenzione del Papa si sofferma maggiormente. Tali ambiti hanno delle ricadute notevoli in tutti gli aspetti della nostra vita ma in modo particolare nel contesto della comunicazione e dell’informazione. Questi due aspetti, strettamente connessi alle caratteristiche e alle proprietà dell’intelligenza artificiale, vengono normalmente definiti il mito della neutralità algoritmica e la cultura algoritmica. Vediamo brevemente cosa essi sono per arrivare poi a porci domande etiche significative per il nostro tempo. I sistemi algoritmici e di intelligenza artificiale stanno trasformando il mondo nel quale l’uomo vive e stanno cambiando l’uomo stesso e il suo modo di relazionarsi con gli altri esseri umani e con l’ambiente circostante. Come prodotti storici e culturali, essi riflettono ciò che i programmatori pensano e riconoscono come significativo. Tuttavia queste considerazioni non sono pacificamente accolte da tutti e l’idea che gli algoritmi informatici siano soltanto meri strumenti nelle mani dell’uomo è ancora molto forte. Questo pensiero ha radici molto profonde.

Raimondo Lullo e l'arte combinatoria

Già nel quattordicesimo secolo Raimondo Lullo era convinto di poter risolvere qualunque problema attraverso la matematica, in quanto ogni proposizione può essere ridotta a termini complessi e i termini complessi in più termini semplici o principi. Combinando questi termini semplici in tutti i modi possibili si otterranno così tutte le proposizioni vere pensabili: questa è l’arte combinatoria che fonda le basi del calcolo computazionale.

Lo sviluppo dell'informatica

Con il veloce sviluppo dell’informatica e dei computer, alcuni iniziarono così ad affermare che il metodo scientifico era ormai obsoleto e che l’elaborazione dei dati e l’uso degli algoritmi e delle correlazioni avrebbe garantito una maggiore qualità delle decisioni e una neutralità che l’uomo non poteva garantire. Verso gli anni ’80 del secolo scorso, iniziò tuttavia ad aumentare l’interesse per la disciplina delle scienze tecnologiche e questo permise di rendersi conto che la tecnologia non è un semplice strumento nelle mani dell’uomo ma è il prodotto di fattori sociali, economici e politici, oltre che dello sviluppo della tecnica. In questo senso diventa allora possibile affermare che anche "gli algoritmi sono costruzioni sociali che riflettono interessi, discorsi di verità, assunti arbitrari sul mondo sociale".

Tre evidenze

Si sono potute così mostrare tre evidenze che i sostenitori della neutralità algoritmica negavano. La prima evidenza riguarda il fatto che in fase di progettazione, e anche in quella di addestramento per gli algoritmi più evoluti, l’algoritmo risente di alcune distorsioni che non permettono all’output di garantire una totale oggettività. Infatti, lo scienziato – data scientist – ipotizza che un dataset di apprendimento ed un’eventuale classificazione manuale costituiscano un input adeguato a rappresentare fedelmente il fenomeno analizzato. La presunta oggettività del calcolo è, perciò, finzionale. Il funzionamento dei sistemi algoritmici, anche nel caso del machine learning e dell’intelligenza artificiale, non è mai totalmente indipendente da scelte umane, errori, e distorsioni culturalmente indotte. La seconda evidenza è che non necessariamente l’automatizzazione di un processo lo rende neutro. Infatti, l’automatizzazione è sempre il prodotto di idee e scelte determinate dall’uomo. Ne deriva che non c’è niente di inerentemente neutro in un algoritmo. Al contrario, un algoritmo è ciò che implementa visioni, idee, credenze e che soddisfa bisogni e desideri. Infine la terza evidenza è che, per quanto possano essere accurati, i risultati degli algoritmi alterano la realtà attraverso dinamiche che sono socialmente, storicamente e politicamente note.

Come affrontare le sfide

Tutto ciò rende urgente un’educazione capace di affrontare queste sfide sfruttando anche le opportunità offerte e riconoscendo che i prodotti della tecnica non sono neutri, perché creano una trama che finisce per condizionare gli stili di vita e orientano le possibilità sociali nella direzione degli interessi di determinati gruppi di potere. Certe scelte che sembrano puramente strumentali, in realtà sono scelte attinenti al tipo di vita sociale che si intende sviluppare.

La neutralità dell'algoritmo non è facilmente sostenibile

Eticamente questo discorso è interessante perché dimostra che il discorso sulla neutralità e sulla semplice strumentalità dei dati e degli algoritmi non è facilmente sostenibile. Ogni dato e ogni algoritmo riflettono una cultura, un contesto sociale, una storia e generano una cultura, un contesto sociale e una storia: i dati e gli algoritmi non solo predicono qualcosa ma favoriscono un comportamento che l’uomo assumerà nella sua vita. Ed è qui che entriamo nel merito del secondo aspetto. Come più volte affermato, oggi non c’è praticamente nessun ambito della vita umana in cui gli algoritmi informatici non intervengano o che comunque non sia digitalmente mediato. Tutto ciò ha un grande impatto anche nella cultura tanto che alcuni studiosi hanno iniziato a parlare di “cultura algoritmica. Se gli algoritmi di Facebook o Google filtrano i risultati prodotti in base alle ricerche che ogni utente ha effettuato, questo significa che chiunque utilizzi uno di questi strumenti avrà un risultato che è sempre legato alle esperienze che ha già vissuto o alle esperienze simili che altri utenti hanno avuto. Tutto ciò influenza notevolmente il comportamento di ogni utente che vivrà un’esperienza sempre più orientata dall’algoritmo stesso. In questo senso gli algoritmi sono produttori di cultura, in quanto vanno a modificare il modo attraverso cui l’uomo comprende la realtà e a veicolare alcuni contenuti rispetto ad altri.

L'inconscio tecnologico

Questo fenomeno è talmente forte, e al tempo stesso invisibile, che si parla di “inconscio tecnologico” per dire che gli algoritmi non solo mediano ciò che sappiamo e comprendiamo, ma vanno a creare la realtà stessa riducendo il confine tra ciò che è reale e ciò che è virtuale, tra la vita online e quella offline: la cultura intesa in senso antropologico si trasforma sempre più in uno stimolo prodotto dall’elaborazione algoritmica di una serie di dati. Questa situazione se da una parte può destare preoccupazione, dall’altra rappresenta una nuova sfida per gli esseri umani che di fronte a tutta questa nuova forma di conoscenza devono possedere o sviluppare una maggiore capacità di interpretare, per poter filtrare le informazioni, per poterle analizzare criticamente. Alessandro Picchiarelli