Si chiama Max, come il vicino di casa. In realtà è una cosa un tantino diversa, particolarmente se al nome si antepone una sigla tipo B737. “B” sta per Boeing: ora si comincia a capire. Si inizia a paragonarlo all’altro suo simile, quell’Hal-9000 ideato tanti anni fa al fine di renderlo centrale in un film capolavoro: “2001, Odissea nello spazio”. Ma si, ricorderete, si trattava di un computer capriccioso che finiva per fare di testa sua mettendo in serio pericolo il personale umano di un’astronave che, in fine, doveva attivarsi, spegnerlo e riprendere la situazione sotto controllo. Il grande Stanley aveva visto giusto e non pochi anni fa. Il paragone non deve stupire: su queste macchine volanti le linee tracciate da un programma di dimensioni inimmaginabili si stanno sostituendo all’uomo nel tracciato decisionale.

Prendiamo ad esempio i tanto contestati F35, i super-caccia in dotazione Nato, quelli che costano talmente tanto da suggerire la convenienza di difendersi un po’ meno: un programmino composto da oltre 24 milioni di linee ha richiesto molto più tempo e personale altamente specializzato (ingegneri elettronici programmatori) che non costruire la parte meccanica vera e propria. Al momento in cui si scrive, il programma definitivo non è ancora completamente installato sui velivoli che stanno volando in attesa di scaricare il software finale, allo stesso modo in cui voi scaricate una “app” sul vostro amatissimo; il tutto viene testato da macchine su altre macchine in simulazione. Siamo arrivati al punto in cui le macchine costruiscono altre macchine.

Sul nostro Max, un sensore di criticità ha segnalato al sistema una zona pericolo e una delle centinaia di migliaia di righe del programma ha innestato una manovra correttiva: la sensazione (per la macchina) era che la velocità dell’aereo fosse vicino allo stallo, per cui ha manovrato in modo da puntare la prua dell’aereo verso il basso. Ma che c… sta succedendo ha urlato l’equipaggio alla guida e è intervenuto nella correzione. La macchina, testarda come tutte le macchine, ha insistito nella sua linea programmatica: non aveva altra scelta. Sembra che la disputa si sia ripetuta la bellezza di 26 volte: una lotta tra uomo e macchina, fino allo schianto al suolo e 189 persone morte. Ovviamente esiste un manuale che avrebbe dovuto essere stato visionato e studiato dal personale di volo, una sciocchezza per specialisti di quel livello: poche righe per comprendere come disattivare l’intervento della macchina. Attenzione: disattivarlo, non far si che non si ripresentasse: tu azioni l’interruttore corretto e la macchina ripete la manovra, tu ri-azioni l’interruttore e “Lei”, incapace di fare altro in quanto macchina, ripete.

Ora, all’interno di un programma costruttivo di oltre 500 miliardi di dollari sorge il problema. Se si trattasse di un tubicino difettoso da sostituire il gioco sarebbe semplice, se il problema risiedesse in un giunto meccanico artritico si tratterebbe quasi di un gioco, diverso dal gioco precedente, ma pur sempre di un gioco, ma qui si tratta di mettere mano a un “programmino” di alcune decine di milioni di righe di linguaggio macchina, tutte connesse tra di loro, intrinsecantesi, co-reattive, interattive, dipendenti le une dalle altre come gli anelli di una catena: non puoi tagliarne una e sperare che le altre supportino il tutto. Un lavoro ingegneristico che potrebbe richiedere non poco tempo, mesi, forse anni. E il progetto da 500 miliardi di dollari? Fermiamo tutto? Quanto vale la vita di noi che ci affidiamo a queste macchine volanti per i nostri affari o per i nostri sogni? Alcuni di noi hanno deciso che valgono più le vite, il Donald sembra pensarla diversamente e ha sollevato la cornetta del telefono per chiamare il ceo della Boeing e chiesto spiegazioni: sembra non abbia ancora compreso la differenza non di poco conto esistente tra un giunto difettoso e un gap di programma.

La settimana scorsa ho fatto visita ad un amico in quel di Trieste: ci accomunano splendidi viaggi effettuati insieme, sensazioni profonde condivise, profumi sconosciuti assaporati all’unisono. Mi ha fatto salire sulla sua auto nuova, una di quelle che “profumano l’aria” come diceva Dalla, una di quelle tutta spie luminose e niente comandi: sembra che se apri lo sportellino, infili la chiccherilla (prettamente napoletana) e ti serve pure il caffè. Mi ha dimostrato come, se rischi il tamponamento, “Lei” intervenga prontamente azionando, in prevista autonomia, l’opportuna frenata risolutiva: ci fidiamo?

(Mauro Magnani)