Che cosa può fare, davvero, un calcolatore? E soprattutto: che cosa non potrà fare mai, per quanto potente diventi? La risposta non è un'opinione da dibattito televisivo: è un teorema, dimostrato nel 1936 da un matematico ventiquattrenne che le macchine le stava inventando in quel momento. Nel capitolo «La Macchina e il Limite» di Oltre Turing - Il Resto Incalcolabile, Antonio Fabbrizio ricostruisce la fondazione matematica dell'intero edificio informatico - e del suo confine - con un rigore che parla direttamente a chi l'ingegneria la pratica.
Il punto di partenza è il problema della decisione di Hilbert, l'Entscheidungsproblem: esiste un procedimento meccanico capace di stabilire, per qualunque enunciato matematico, se sia dimostrabile? Per rispondere, Alan Turing dovette prima definire che cosa significhi calcolare: nacque così la macchina che porta il suo nome - un nastro, una testina, un insieme finito di stati e regole - e con essa la macchina universale, capace di simulare qualunque altra. Quella macchina universale oggi la portiamo in tasca: smartphone, server ospedalieri, sistemi informativi aziendali, piattaforme che addestrano i grandi modelli linguistici sono, nella loro essenza matematica, la stessa macchina del 1936 resa più veloce.
Il problema dell'arresto e il teorema di Rice
Ma una definizione esatta ha confini esatti. Turing dimostrò che esistono problemi perfettamente definiti che nessuna macchina potrà mai risolvere: il più celebre è il problema dell'arresto - non esiste un algoritmo che stabilisca in anticipo, per qualunque programma e input, se il programma terminerà. Non «non è ancora stato trovato»: non può esistere, con la stessa necessità con cui non esiste il più grande dei numeri primi. Il teorema di Rice (1953) generalizza il colpo: ogni proprietà non banale del comportamento dei programmi è indecidibile. E il conteggio di Cantor consegna l'immagine più vertiginosa del capitolo: i programmi possibili sono un'infinità numerabile, i problemi possibili no.
«Le funzioni calcolabili sono un'isola numerabile in un oceano non numerabile.»- Oltre Turing, cap. 2, La Macchina e il Limite
Per chi progetta e certifica sistemi, la conseguenza pratica è enorme e attualissima: un algoritmo che certifichi in generale la correttezza di un altro programma non esiste e non esisterà. La supervisione umana sui sistemi automatici - quella che l'articolo 14 dell'AI Act prescrive - non è solo una prudenza giuridica: è ciò che resta necessario quando la matematica stessa dimostra che il controllo totale automatico è impossibile. Un obbligo normativo del 2024 con un fondamento che viene dal 1936.
Gödel, il test di Turing e i modelli linguistici
Il capitolo affianca a Turing l'altro gigante del confine: Kurt Gödel, che nel 1931 dimostrò che ogni sistema formale coerente abbastanza ricco contiene verità che non può dimostrare. Verità che eccede la dimostrazione, decisione che eccede la macchina: due facce dello stesso confine. E sulla domanda che tutti si fanno oggi - i grandi modelli linguistici che superano il test di Turing - la risposta del capitolo è di una pulizia concettuale rara: il test misura l'indistinguibilità del comportamento, non l'esistenza di qualcuno dietro il comportamento. Che la conversazione sia in larga misura calcolabile è dimostrato; che dietro la superficie sia comparso qualcuno, no. L'errore - già osservato da Weizenbaum con ELIZA nel 1966 - non sta nella macchina, che fa ciò che è: sta nell'inferenza dell'osservatore, che dal funzionare deduce l'essere.
Perché «oltre» Turing
Il titolo del libro trova in questo capitolo la sua spiegazione: «Oltre Turing» non è contro Turing - è, alla lettera, ciò che sta al di là del confine che Turing stesso ha tracciato. Il padre della macchina universale è anche il padre della sua prima impossibilità, e nessuno aveva più titolo di lui per tracciare quel confine. Prima che nascesse il primo calcolatore, l'umanità sapeva già, con certezza matematica, che cosa nessun calcolatore avrebbe mai potuto fare. Per l'ingegnere che costruisce meraviglie sull'isola del calcolabile, è la lezione di metodo più solida che esista: conoscere il confine non sminuisce il mestiere - lo fonda.
