Ha fatto voto di povertà e siede nelle stanze dove si scrivono le regole dell’intelligenza artificiale: consigliere di un Papa, di un governo e delle Nazioni Unite. Ha portato in Italia una parola che ogni azienda dovrebbe conoscere prima di automatizzare qualcosa: algoretica.
Come fa un frate francescano, con tanto di saio e voto di povertà, a diventare la voce più ascoltata d’Italia sull’intelligenza artificiale, quella che il governo chiama a presiedere le sue commissioni e che le Nazioni Unite vogliono nei loro tavoli?
La risposta dice molto non solo su di lui, ma su quanto siano profonde le domande che l’AI ci mette davanti. Perché quando una tecnologia smette di essere una questione tecnica e diventa una questione su cosa è giusto e cosa no, non servono più soltanto gli ingegneri. Servono le persone che di “giusto e sbagliato” si occupano da sempre.
Paolo Benanti è nato a Roma nel 1973. Prima di entrare tra i francescani del Terzo Ordine Regolare aveva cominciato studi da ingegnere, e quella doppia natura, il tecnico e il teologo, è rimasta la sua cifra. Oggi insegna etica delle tecnologie alla Pontificia Università Gregoriana, ha scritto libri che dialogano con l’ingegneria più che con la sacrestia, ed è stato chiamato ai tavoli più importanti: consigliere di Papa Francesco sull’AI, tra gli artefici della Rome Call for AI Ethics, e dal gennaio 2024 presidente della Commissione sull’intelligenza artificiale del Governo italiano, dove ha preso il posto di Giuliano Amato.
«la domanda non è cosa può fare una macchina, ma cosa è giusto che faccia»
È questo il ribaltamento con cui Benanti ha cambiato il livello della conversazione. Per anni, davanti a ogni nuova tecnologia, la domanda è stata una sola: funziona? E subito dopo: possiamo venderla? Benanti ne aggiunge una terza, che viene prima delle altre due nell’ordine dell’importanza anche se arriva dopo nel tempo: è giusto lasciarle decidere al posto nostro?
Non è una domanda da teologi. È la domanda che si pone, o si dovrebbe porre, chiunque stia per affidare a un algoritmo una decisione che tocca delle persone. Un’azienda che usa l’AI per selezionare i curricula non deve chiedersi soltanto se il sistema è veloce ed efficiente. Deve chiedersi se è giusto che una macchina scarti un candidato, su quali basi lo fa, e chi risponde di quella scelta. Benanti ci ricorda che l’efficienza non è mai una risposta etica: è solo una misura. Dice quanto in fretta facciamo una cosa, non se quella cosa vada fatta.
Algoretica: tradurre i valori in qualcosa che le macchine capiscono
La parola che Benanti ha portato nel dibattito italiano è algoretica, la fusione di algoritmo ed etica. L’intuizione è pratica, non astratta. I grandi principi, la dignità, la giustizia, la non discriminazione, restano lettera morta se non trovano un modo per entrare dentro i sistemi che ormai prendono decisioni al posto nostro. L’algoretica è il tentativo di tradurre quei valori in regole, limiti e controlli che una macchina possa effettivamente rispettare. È costruire quelli che Benanti chiama guardrail etici: come le barriere laterali di un’autostrada, non ti dicono dove andare, ma ti impediscono di finire nel burrone.
Il rischio da cui ci mette in guardia ha anch’esso un nome preciso, che dà il titolo a un suo libro: algocrazia. È lo scenario in cui, senza una scelta consapevole, deleghiamo così tante decisioni agli algoritmi da ritrovarci di fatto governati da loro. Non per un complotto, ma per pigrizia e comodità, una delega alla volta. Chi ottiene un prestito, chi riceve prima le cure, quali notizie vediamo: se queste scelte passano agli algoritmi senza controllo umano, abbiamo cambiato chi comanda senza nemmeno votare.
Human in the loop
Da qui la formula operativa che Benanti ripete e che è anche il titolo di un suo libro: human in the loop, l’uomo nel circuito. Non significa rifiutare l’automazione, sarebbe ingenuo e perdente. Significa progettare i sistemi in modo che, nei punti che contano, resti sempre un essere umano con la mano sul comando e la responsabilità sulle spalle. La macchina propone, istruisce, accelera. Ma la decisione che incide sulla vita di qualcuno deve poter essere vista, capita e, se serve, ribaltata da una persona.
Per chi guida un’azienda, è un principio concreto quanto un bilancio. Introdurre l’AI non vuol dire togliere gli esseri umani dal processo, ma decidere con cura dove tenerli dentro: non ovunque, che sarebbe inefficiente, e non da nessuna parte, che sarebbe pericoloso. Capire quali sono i “punti che contano”, quelli dove la posta è alta e l’errore costa caro, è forse la decisione strategica più importante che un’organizzazione prende quando adotta questi strumenti.
Homo sapiens, machina sapiens
Nel gennaio del 1983 il settimanale Time, che ogni anno elegge la persona più influente dei dodici mesi trascorsi, fece una cosa mai vista: al posto di un uomo, in copertina, mise un computer. “Machine of the year”. Un oggetto giovane, affidabile, silenzioso, intelligente, bravo con i numeri. Era il segno pubblico di un sentimento nuovo, che Benanti, in Human in the Loop, coglie con precisione: per la prima volta ci siamo sentiti “non solo soli ma quasi sconfitti dalle performance delle nostre creazioni”.
È qui che Benanti introduce una formula illuminante. L’artefatto tecnologico, scrive, non è più un semplice utensile che obbedisce alla nostra mano, e nemmeno una macchina industriale che accendiamo e spegniamo con una leva. Oggi “si fa machina sapiens, cioè dispositivo che imita parti di quelle capacità uniche che ci fanno umani”. Lo smartphone e il computer non ci aiutano soltanto a fare: imitano il nostro pensare, il nostro conoscere, il nostro linguaggio.
Ed è esattamente questo a interrogarci nel profondo. Perché la parola sapiens, in latino, non indica solo chi sa, ma chi sa discernere e dare valore, la sapienza prima della conoscenza. La machina sapiens imita le nostre capacità, ma si ferma sulla soglia: può sapere senza mai comprendere, rispondere senza mai dare senso. La sfida che Benanti ci consegna non è gareggiare con lei sul terreno delle performance, dove ci siamo già sentiti sconfitti, ma riconoscere e coltivare ciò che resta soltanto nostro. La macchina è diventata sapiens.
A noi tocca restare, fino in fondo, umani.
La rubrica ANTE DIGITAM
La serie continua → Paolo Benanti
