Tutto sotto controllo?

Il "pensiero lungo" di Pier Luigi Fagan sulle intelligenze artificiali e le loro evoluzioni, a partire dall'articolo di Marco Dotti pubblicato ieri.

Pier Luigi Fagan | Tutto sotto controllo?

Pier Luigi Fagan | Tutto sotto controllo?

Redazione 13 ottobre 2018megachip.info

di Pierluigi Fagan


 


L’articolo di Marco Dotti pubblicato ieri affronta il problema dell’etica dell’Artificial Intelligence. Propone un decalogo, se ne potrebbero fare diversi, più corti, più lunghi, è solo un esempio dei possibili. Il giuramento dovrebbe esser fatto da ogni laureato in materie connesse col fenomeno che andiamo a descrivere. Da vedere poi il capitolo “controllo e sanzioni” per coloro che lo dovessero trasgredire, lì si torna al “chi decide?”. Il fenomeno è il vorticoso ampliamento della nuova ricerca, creatività e tecnica applicativa sulle intelligenze artificiali (accettiamo per il momento la definizione di “intelligenza” come “capacità di risolvere problemi”), che mostra possibili evoluzioni che potrebbero, forse dovrebbero, preoccuparci ed è giusto quindi riflettere. Cosa sembra venirci incontro?


Breve premessa storica. Il campo dell’AI nasce, come spesso è avvenuto, al seguito degli sforzi umani fatti per prevalere nel conflitto armato (IIWW), basato sulla nuova Teoria dell’informazione nata nel gruppo di ricerca della Bell incrociata alla nuova disciplina cibernetica. Cibernetica sta per “tecnica del controllo”, il termine deriva dal greco equivalente di “timoniere”. La metafora allude ad un tecnico (il timoniere ha un compito ben preciso e limitato) che deve governare un processo (la navigazione) che ha un fine (arrivare in porto) ma il cui compito è impreciso in quanto chi ha mai governato una barca sa della non linearità che c’è tra spostare il timone a destra di un tot ed aspettare per verificare quel tot del timone a quanto tot della direzione della barca effettivamente corrisponderà. Resistenza dell’acqua, correnti, idrodinamica, vento, velocità, attrito, peso ed altro si mettono in mezzo tra uomo-timone, barca-mare e direzione, scombinando un po’ la faccenda. La disciplina che nasce interdisciplinare e che costituirà assieme alla Teoria dei sistemi la doppia fondazione della cultura della complessità di cui qui spesso parliamo, ha il suo fondatore in un matematico inviato a suo tempo dagli USA in UK per aiutare i britannici a registrare i processi di rilevamento dei V2 (coi radar) e di conseguenza muovere le piattaforme di lancio dei missili intercettori ed in base al risultato, ritarare l’intero anello di processo fino a che il tutto potesse conseguire il fine preposto: abbattere i missili. L’anello del processo in questione assomigliava molto all’anello del timoniere, da cui la metafora. Lo scienziato, Wiener, passerà posi il resto della sua vita a scrivere ed a battersi per un uso pacifico ed etico della sua spaventosa invenzione, ma ormai il Vaso di Pandora era aperto. Dall’incrocio tra la tecnica del controllo e la Teoria dell’informazione, nasceranno gli sviluppi dell’AI che vorrebbe mimare la capacità umana di “fare cose intelligenti” ovvero compiere azioni che risolvono problemi.


Vediamo velocemente cosa appare all’orizzonte degli sviluppi di questa (trans)tecno-disciplina. Farò un elenco brutale. Le macchine elettroniche stanno evolvendo da sole auto-apprendendo dalla propria esperienza di processo e di informazione (data). Sappiamo che lo fanno (glielo facciamo fare noi) ma non sappiamo bene come (processo di black box). Enormi depositi di dati vengono continuamente formati e riempiti e costituiscono una ricchezza informativa centralizzata a cui tutte le macchine potrebbero accedere. La capacità di calcolo raddoppia approssimativamente ogni 18 mesi e potrebbe fare un salto ulteriore con lo sviluppo della computazione quantistica. Siamo ormai oltre l’imputazione algoritmica (fai questo con quello), le macchine traggono imput da se stesse. Che questi meccanismi possano raggiungere addirittura uno stato di auto-coscienza (singolarità) è da taluni auspicato, da altri temuto, non si sa neanche se la cosa ha basi concrete per avvenire. Se non fenomenica, almeno una coscienza funzionale sembra possibile.


Poi c’è l’allaccio di tutto ciò ad Internet, al cloud computing, all’IoT (Internet of-delle Things-cose) la interconnessione in rete di vari tipi di elettro-aggeggi dal frigo all’automobile ad auto-guida. Intere città (smart city) delle tante sopra i 30 milioni di abitanti che si vanno formando. Esoscheletri, protesi robotiche, arti bionici. Si parla di una nuova Internet (IPv6) sicura e protetta dal cybercrime a cui però potrete accedere solo rilasciando i dati di identità (identità digitale) che ovviamente permetteranno di stoccare i vostri dati in mano a chissà chi. Internet del resto sarà progressivamente infestato a tal punto di virus, fake news, impazzimenti logici, pirati, sòle organizzate, furto di dati e soldi, che prima o poi tutti noi vorremmo fuggire dalla piattaforma “libera” (l’attuale IPv4) per auto-recluderci nel paradiso protetto. Ma gestito da chi?


Del resto, sapete come vanno queste cose, no? Quando la massa critica di tutti gli apparati della vostra esistenza saranno dipendenti dal sistema, trasmigrerete volenti o nolenti. Per un po’ verranno tollerati i ritardatari poi vi diranno che i cancelli si stanno chiudendo, poi vi chiuderanno fuori. Ogni sistema umano di vista associata si basa sulla minaccia di ostracismo. In più “dentro” la realtà è aumentata, si gode alla grandissima, è fico, è necessario ed è pure ecologico (non lo è affatto).


Di ciò, non sappiamo l’impatto che tutto ciò creerà sul lavoro e sulla sicurezza, sappiamo che ci sarà e non sarà lieve e sappiamo che tutto avverrà (già avviene) ad un velocità ben maggiore delle nostre capacità adattative. Come nel caso climatico discusso l’altro giorno, c’è un vasto fronte di negazionisti e quelli del principio di precauzione, tra cui gente come Bill Gates ed Elon Musk nonché Stephen Hawkings e nutrita pattuglia di ricercatori e scienziati (del campo) che lanciano disperati appelli, non se li fila nessuno (e notate che non ho citato “luddisti”). Meno di quelli del clima e molto ma molto meno di Burioni che almeno aiuta a vender farmaci.


Le applicazioni militari e poliziesche dei marchingegni preoccupano, soprattutto per la possibile decisione autonoma di quando e quanta violenza somministrare. Quel drone visto all’opera di recente a Gaza che sparava all’impazzata proiettili urticanti e gas venefici dal cielo è roba sud africana prodotta in Oman (non a caso, l’Oman è l’unico paese né sciita, né sunnita, né ebraico, né cristiano). Ci sono poi enormi questioni di privacy e controllo dei controllori, aspetti etici nella realizzazione di babysitter o caregiver (prestatori di cure ed assistenza ad esempio a gli anziani o ai ricoverati in ospedale) elettronici già in uso in Giappone. Poi ci sarà il capitolo "amore" nella doppia accezione sessuale e romantica. C’è poi l’applicazione gene-data-elettrobio in quel trans umanesimo che vorrebbe costruire umani più “longevi”,“felici”, “virtuosi” ed “intelligenti”. Non possiamo qui effonderci in particolari, dico solo che la semplice lettura dei testi dei tecno-entusiasti potrebbe assomigliare all’esperienza di chi si prese la briga di leggere Mein Kampf nel 1925 sorridendo di tanta idiozia. Poi però il sorriso svanì.


Infine, tutto ciò è raccontato dai pur volenterosi che ci vogliano informare di opportunità ma anche rischi e pericoli, come se avvenisse nello spazio assoluto, ma non è assoluto affatto. Questo spazio vede attivo un gruppetto geopolitico di minoranza (D5 = Estonia, Israele, Nuova Zelanda, Corea del Sud e gli immancabili UK che si scambiano qualche info), due agenti vigili-sospettosi (Cina e Russia) già auto-reclusi nel proprio spazio virtuale da cui tentano sortite pirata ed il dominio incontrastato ed assoluto del complesso militar-commercial-industriale (v.2.0) statunitense. Ai “sovranisti” ed ai credenti dello Stato “piccolo è bello”, manco gli passa per l’anticamera del cervello porsi il problema di quale sovranità si potrà avere in questo scenario, quando c'è la valuta c'è tutto! Ovviamente all’UE, più che fare leggine che ti avvertono su i cookie, non si va. Di investimenti comuni, brevetti comuni, imprese comuni, reti comuni neanche l’ombra. Frontiere aperte per migranti ma chiusissime per avere un comune cyber spazio con intelligenza strategica comune e non è cattiva volontà, è proprio la mal compresa essenza dell’UE, in comune c’è solo il mercato, tutto il resto rimane nazionale e privato.


Se i “sovranisti” sono ciechi, gli “europeisti” sono idioti e per chiudere con la saggezza inglese (Shakespeare): che epoca terribile quella in cui degli idioti governano dei ciechi. Riflettere è il consiglio del week end...


 


P.S.


Naturalmente i custodi del "pensiero critico" di tradizione occidentale, i marxisti, stanno a "carissimo amico". Da una parte ci sono quelli del “frammento delle macchine” che sognano l’insurrezione nei nerd autocoscienti, dall’altra la maggioranza che sta ancora al possesso di mezzi di produzione ed il soggetto rivoluzionario. Poi ci sono quelli del “pretendiamo più lavoro” perché si sa: il lavoro rende liberi. Vabbe’ che ne parliamo a fa’...?