Il papa matematico mette in guardia dall’algoritmo falsamente neutrale
Sergio Brasini
Papa Francesco aveva impiegato poco più di tre mesi per pubblicare la prima enciclica del suo pontificato. Leone XIV per consegnare al mondo la sua Magnifica Humanitas ha invece atteso oltre un anno. Una decisione non sorprendente per chi, prima ancora di diventare dottore in diritto canonico, si è dedicato allo studio della matematica. Nel suo primo periodo da papa, Prevost ha preferito osservare, analizzare, studiare. Adesso che il quadro è completo, è finalmente sceso in campo.
Per farlo, poi, ha scelto un tema di cui tutti parlano, ma sul quale lui può senza dubbio vantare, in quanto matematico, un punto di vista privilegiato: la custodia della persona umana nell’era dell’intelligenza artificiale. Non solo i pericoli per i singoli individui che, servendosene con poca consapevolezza, rischiano di smarrire il proprio senso critico e di veder inaridire la propria creatività, ma anche le incognite di un impiego generalizzato all’interno delle nostre società. In particolare la riflessione si concentra sul suo crescente utilizzo nei processi decisionali.
Leone non si limita a osservare quanto possa essere pericoloso, oltre che ingiusto, affidare a degli algoritmi scelte che si ripercuotono sul lavoro, i diritti e le opportunità delle persone, si interroga anche sulla presunta obiettività, in nome della quale tali decisioni vengono loro delegate. Se da una parte l’IA è non-umana, ovvero strutturalmente incapace di sensibilità ed empatia, dall’altra si rivela perfino troppo umana nel giudicare in base a criteri che rispecchiano la visione del mondo dei suoi programmatori.
Il Papa, che ha studiato la materia al college, comprende bene che il problema non è solo decidere affidandosi a un calcolo probabilistico, ma anche capire come questa probabilità venga calcolata a priori. Per come funzionano attualmente gli Llm, i modelli linguistici che utilizziamo tutti i giorni, questo è impossibile. Sappiamo che ciascuna risposta – o, peggio, ogni singola parola che riceviamo – è scelta per essere il più possibile adatta rispetto alle precedenti, ma quale sia l’idea di essere umano e di società di chi ha addestrato il modello a compiere quella scelta resta oscuro. Difficile, in ogni caso, immaginare che si tratti di una società giusta.
Come denuncia Leone, nel modo in cui accade per ogni rivoluzione tecnologica, l’IA tende ad avvantaggiare chi dispone già di potere e risorse economiche. La soluzione, però, non può essere rinunciarvi del tutto, ignorando i benefici che è pronta a offrirci in numerosi campi. È, secondo il pontefice, un atto di responsabilità politica. Quella che viene meno nel momento in cui si decide di abdicare a un algoritmo falsamente neutrale, così che lo scarto dei deboli viene ammantato di neutralità e oggettività, davanti alle quali è impossibile protestare. Se lasciamo che a scegliere sia un’entità probabilistica chi risponde di quella scelta?