Torino - In occasione del convegno "Ricordando Corrado Böhm a cento anni dalla nascita" organizzato il 24 maggio 2023 dalla Accademia delle Scienze di Torino, ARTE.it pubblica l'intervento del figlio Michele Böhm che affronta i temi dell'intelligenza artificiale e del machine learning.

Non credo ci sia alcun bisogno di riaffermare che Corrado Böhm sia stato un genio, un innovatore, una intelligenza profonda ed abrasiva, uno straordinario professore di grande umanità e imparzialità e simpatia.
Come primogenito di Corrado, figlio di uno dei padri dell'informatica, sento il bisogno di ricordarlo con lo sguardo rivolto a un ipotetico futuro, immaginando una questione, una tesi, che gli avrei sicuramente sottoposto e che forse avrebbe stimolato la sua pungentissima fantasia.
Una premessa: nell'epoca del Machine Learning non è più inconcepibile risolvere un problema senza averne una descrizione formale, riconoscere senza conoscere, classificare senza sapere nulla dei principi, dei metodi e addirittura degli oggetti in questione. Carissimo Corrado, amato padre, mentre tutti stanno discutendo sull'intelligenza artificiale, su ChatGpt o sul test di Turing o addirittura vaneggiano su di un futuro in cui le macchine domineranno l'umanità, mi sembra importante riflettere su di un lato meno conosciuto, questo sì ricco di pericoli, dell'Intelligenza artificiale o più propriamente Machine Learning (ML).

Anticipando le conclusioni delle mie osservazioni, direi che Corrado avrebbe sicuramente posto sul tavolo una potente questione: "E' in grado il machine learning di analizzare e capire se stesso rendendosi intellegibile e facilmente modificabile?”

Ma andiamo con ordine.
Il ML è composto da tensori che sostanzialmente si scrivono da soli, risultato della valutazione ottimizzata e reiterata degli elementi di un immenso database, non ha importanza se di testo o d'immagini o di suoni o di qualsiasi altro oggetto digitalizzabile.

Il problema è che le sterminate matrici che compongono questi cervelli artificiali non hanno un significato comprensibile, e del resto come potremmo noi capire un processo con miliardi di parametri?

I computer istanziano una sorta di "sapere oscuro" spesso molto superiore alle capacità umane e quindi stiamo marciando verso una "civiltà oracolare" in cui si fanno delle domande e si ottengono delle risposte senza alcuna indicazione sul metodo seguito per formularle, senza accumulazione di una conoscenza utilizzabile da noi umani.

Alle leggi della robotica formulate da Asimov andrebbe sicuramente aggiunta questa: "Tu non creerai per nessuna ragione codice oscuro, non comprensibile e non modificabile”. Mentre i tensori del ML si "tendono", sarebbe indispensabile e obbligatorio costruire contemporaneamente un programma equivalente, espresso dentro i famosi canoni del teorema di Böhm-Jacopini, della programmazione a oggetti e del lambda codice funzionale.

Sento una parentela forte fra il compilatore che compila se stesso e una intelligenza artificiale che comprende se stessa. Così in questa prospettiva l'eredità del lavoro di Corrado Böhm risulterebbe essere il fantastico chiavistello che ci permetterebbe di "chiarificare" il machine learning, di seguirlo nei suoi meandri, di “debacarlo”.

A chi obbietta sulla enorme difficoltà di questa operazione vorrei ricordare inoltre che i metodi che hanno permesso di sconfiggere il campione mondiale del gioco del Go, il "reinforcement learning" combinati con la potenza dei GANs (Generative Adversarial Networks) dovrebbero garantirci risultati assai significativi.

Si tratta di scovare dei pattern ricorrenti non nei dati (come fa il ML), ma nella configurazione neuronale che dipenda da essi, osservando con molta attenzione proprio quelli aspetti che vengono progressivamente “rinforzati”.
E se tutto questo non dovesse avvenire ci ritroveremmo avvolti nelle tenebre di una civiltà Oracolare, fatta di risposte senza spiegazione, una civiltà in cui solo le macchine e non il genere umano accumulano conoscenza.

Questo è il vero pericolo cui andiamo incontro, altro che le banali chiacchiere sulle intelligenze artificiali che si preparano a sterminare il genere umano scatenando una apocalisse atomica.

Corrado Böhm è stato un sincero libertario e mi esalta sottolineare come il suo lavoro contenga le basi per una resistenza a una civiltà delle macchine nella sua possibile variante oscura, liberticida e retrograda.

E' passato un secolo dalla sua nascita ma l'eco del suo lavoro durerà per millenni, grazie “Corrodi” !!!