{"id":9493,"date":"2022-07-13T20:55:00","date_gmt":"2022-07-13T18:55:00","guid":{"rendered":"https:\/\/monodes.com\/predaelli\/?p=9493"},"modified":"2022-07-13T08:55:36","modified_gmt":"2022-07-13T06:55:36","slug":"intelligenza-artificiale-e-rischi-connessi","status":"publish","type":"post","link":"https:\/\/monodes.com\/predaelli\/2022\/07\/13\/intelligenza-artificiale-e-rischi-connessi\/","title":{"rendered":"Intelligenza artificiale e rischi connessi"},"content":{"rendered":"

Molto interessante e condivisibile “Intelligenza artificiale e rischi connessi<\/a>”<\/p>\n

Oggi l\u2019IA (AI in inglese) \u00e8 una tecnologia parecchio usata ma, come spesso accade i rischi connessi, che potrebbero portare alle situazioni descritte da Huxley in “A brave new world”, non sono ancora correttamente percepiti.<\/p><\/blockquote>\n

<\/p>\n

Suona quasi strano leggere riflessioni del genere su un sito dedicato agli aspetti dell’ingegneria civile ed edile. Mi sembra un’ottima notizia perch\u00e9 significa che la riflessione sull’argomento travalica i limiti degli ambiti specialisti.<\/p>\n

<\/p>\n

\n
\n
\n
\n

Intelligenza artificiale e rischi connessi<\/h1>\n
<\/i> Mariani Enrico – Ingegnere<\/a> <\/i> 12\/07\/2022 <\/i> 1860<\/div>\n

Oggi l\u2019IA (AI in inglese) \u00e8 una tecnologia parecchio usata ma, come spesso accade i rischi connessi, che potrebbero portare alle situazioni descritte da Huxley in “A brave new world”, non sono ancora correttamente percepiti. <\/em><\/p>\n

\n

Da \u201c2001 Odissea nello spazio\u201d a \u201cA Brave new world\u201d e \u201c1984\u201d<\/h2>\n

Gi\u00e0 agli inizi degli anni \u201870, quando un minicomputer con una memoria di 32 kilobytes costava quanto una Rolls Royce e i cicli macchina si misuravano in millisecondi, si lavorava all\u2019intelligenza artificiale, ma con progressi modesti rispetto agli altri settori. Nell\u2019ottobre 2015 un evento eccezionale, forse non noto quanto merita, attest\u00f2 il grande salto di qualit\u00e0 di questa disciplina.<\/p>\n

Il programma AlphaGo<\/em>(1)<\/sup> riusc\u00ec a battere uno dei pi\u00f9 forti giocatori professionisti di Go. Per decenni programmatori di tutto il mondo si erano impegnati in tentativi vani di vincere il premio milionario collegato a questa sfida, faticando a raggiungere il livello di un buon dilettante. E questo quando gi\u00e0 esistevano gi\u00e0 da anni programmi in grado di battere inesorabilmente il campione mondiale di scacchi.<\/p>\n

 <\/p>\n

\"Intelligenza<\/p>\n

 <\/p>\n

Il buono<\/em> e il cattivo<\/em> delle tecnologie<\/h2>\n

Oggi l\u2019IA<\/strong> (AI in inglese) nelle sue varie accezioni \u00e8 diventato un argomento comune, ma anche una tecnologia parecchio usata ed incentivata dai governi. Inoltre, grazie alle possibilit\u00e0 offerte dal cloud computing<\/strong>, molte sue funzioni sono rese accessibili a prezzi abbordabili.<\/p>\n

L\u2019attualit\u00e0 dell\u2019argomento ha aperto il dibattito tra chi la considera una tecnologia \u201cbuona\u201d ne vede solo vantaggi, come quello di viaggiare senza la fatica di tenere il volante e chi invece la considera \u201ccattiva\u201d magari influenzato dal ricordi di HAL, il computer impazzito di \u201c2001 Odissea nello spazio\u201d.<\/p>\n

In realt\u00e0 le tecnologie in s\u00e9 non sono n\u00e9 buone n\u00e9 cattive, mentre lo pu\u00f2 essere l\u2019uso che se ne fa.<\/strong><\/p>\n

Per esempio l\u2019auto elettrica<\/strong> \u00e8 considerata \u201cbuona\u201d dalla massa perch\u00e9 non inquina. In realt\u00e0, considerando il ciclo completo di vita, dalla produzione allo smaltimento, comprendendo l\u2019estrazione delle terre rare per le batterie, inquina pi\u00f9 delle auto a benzina; se poi pensiamo a come viene prodotta l\u2019elettricit\u00e0, in paesi come la Germania possiamo affermare che le auto elettriche vanno prevalentemente a carbone.<\/p>\n

 <\/p>\n

I rischi connessi all’IA<\/h2>\n

L\u2019importante \u00e8 utilizzare le tecnologie quando danno veri vantaggi e non secondo la moda del momento od il grado di innovazione. Inoltre \u00e8 necessario valutare attentamente i rischi connessi, sia in sede di progettazione che di esercizio<\/strong>.<\/p>\n

Per esempio, alla luce del progresso attuale il rischio del computer impazzito sembra abbastanza lontano, non mancano per\u00f2 rischi di altro tipo, non meno gravi se sottovalutati.<\/p>\n

Un articolo di IEEE<\/em> del 3 gennaio elenca 6 punti da prendere in considerazione.<\/p>\n

1.<\/strong> La facilit\u00e0 di produrre tramite IA documenti, foto, video e conversazioni praticamente indistinguibili da quelli reali, al punto che talvolta non circolano solo su internet.<\/em><\/p>\n

Questo pu\u00f2 portare da una parte a prendere decisioni basate su dati falsi<\/strong>, dall\u2019altra a perdere ogni fiducia nell\u2019informazione<\/strong>, anche in quella vera.<\/p>\n

2.<\/strong> La corsa per arrivare primi, specialmente nel settore della sicurezza nazionale.<\/em><\/p>\n

Vincent Boulanin(2)<\/sup> avverte: possono verificarsi eventi catastrofici \u201cquando le grandi potenze prendono scorciatoie per avere il vantaggio di arrivare per prime. Se un paese privilegia la velocit\u00e0 rispetto alla sicurezza, ai collaudi e al controllo umano, questa sar\u00e0 una pericolosa corsa verso il fondo.\u201d<\/p>\n

I rischi<\/strong> sono di due tipi: quello che la fretta porti a lasciare inavvertitamente punti attaccabili da hackers<\/strong>, il secondo, anche peggiore, delegare delicate decisioni di comando a sistemi di IA per avere risposte rapide ed automatiche ad eventi critici<\/strong>. Abbiamo gi\u00e0 visto Flash Crash(3)<\/sup> da mille miliardi di dollari avvenuto il 6 maggio 2010 della borsa di New York, ma in fondo si trattava solo di soldi.<\/p>\n

Molto peggio sarebbe potuto accadere il 26 settembre del 1983 quando il mondo rischi\u00f2 la terza guerra in seguito ad un allarme missilistico che poi si rivel\u00f2 completamente errato. Ad evitare la catastrofe fu il tenente colonnello Petr\u00f3v che decise di ignorare l\u2019allarme contravvenendo al protocollo.<\/p>\n

Il fatto fu tenuto nascosto per anni ed il colonnello Petr\u00f3v prima fu punito, poi premiato, ma non con l\u2019enfasi che meritava.<\/p>\n

Se la responsabilit\u00e0 fosse stata affidata ad un algoritmo anzich\u00e9 ad un uomo intelligente e coraggioso cosa sarebbe successo? O meglio cosa potr\u00e0 succedere in futuro?<\/p>\n

3.<\/strong> La fine della privacy e del libero arbitrio.<\/strong><\/p>\n

Il nostro comportamento digitale, che sta divenendo la parte preponderante della nostra vita, viene tracciato ed archiviato. A questa mole di dati non solo hanno accesso i governi, ma soprattutto aziende private. Se aggiungiamo a questo le telecamere con il riconoscimento facciale, il tracciamento dei nostri spostamenti, la biometria, e l\u2019analisi predittiva dell\u2019intelligenza artificiale possiamo dire di essere esposti ad un\u2019intrusione nelle nostre vite senza precedenti e potenzialmente pericolosa.<\/p>\n

Ormai si sta realizzando non solo una sorveglianza pi\u00f9 capillare di quella del \u201cGrande Fratello<\/em>\u201d, protagonista invisibile di \u201c1984<\/em>\u201d di George Orwell, ma addirittura il controllo delle nostre vite accettato con gioia, come aveva predetto Aldous Huxley in \u201cBrave New World<\/em>\u201d nel 1931.<\/p>\n

Inoltre le fonti principali di informazione oggi non sono pi\u00f9 i giornali o la televisione, ma la rete.<\/strong><\/p>\n

Su questa \u00e8 gi\u00e0 in atto una censura (in gergo politically correct debunking o fact checking<\/em>), operata da governi dispotici, ma ancora di pi\u00f9 da pochi operatori monopolistici. Vediamo i motori di ricerca fare sparire o togliere risalto a pagine non gradite, o magari contenenti una parola considerata non corretta. Fortunatamente su internet \u00e8 difficile eliminare tutte le tracce, ma sicuramente ci stanno lavorando.<\/p>\n

 <\/p>\n

4.<\/strong> Il rischio di rinchiuderci in una \u201cSkinner Box\u201d virtuale.<\/strong><\/p>\n

La Skinner Box,<\/em> che prende il nome del suo inventore, lo psicologo Burrhus Frederic Skinner, \u00e8 uno strumento per studiare il “condizionamento operante”<\/em>. In uno di questi esperimenti fatto su un topo la gabbia disponeva di una leva che dava una piccola scossa elettrica, e un’altra che dava come compenso una piccola quantit\u00e0 di cibo. Dopo un certo numero di tentativi il topo capiva quale leva toccare e quale evitare.<\/p>\n

Gli utenti dei social media rischiano di diventare cavie chiuse nella \u201cSkinner Box<\/em>\u201d virtuale che si chiama smartphone<\/em>. Il compenso per i click sono i like, i commenti, i follower ecc.<\/p>\n

Dato che i social media vivono sulla pubblicit\u00e0 \u00e8 buona norma di marketing che gli algoritmi siano ottimizzati per tenere gli utenti incollati alla piattaforma. Questo porta a vivere sempre di pi\u00f9 in mondo virtuale, che oltretutto crea meno problemi immediati di quello reale, che per\u00f2 prima o poi procurer\u00e0 un brusco risveglio.<\/p>\n

5.<\/strong> L\u2019assoggettamento agli strumenti di Intelligenza artificiale<\/strong><\/p>\n

Siamo sempre pi\u00f9 dipendenti da oggetti, programmi e procedure informatiche che utilizzano strumenti di intelligenza artificiale, intesi a semplificarci la vita, indicandoci la strada migliore, guidando la nostra auto, scegliendo il volo pi\u00f9 economico o la musica da ascoltare.<\/p>\n

Tutto questo grazie a dei modelli matematici ai quali sono dati in pasto grandi quantit\u00e0 di dati da analizzare e correlare. Ma la preparazione dei modelli e la scelta dei dati dipende dai progettisti del software che umanamente hanno esperienze ed interessi limitati e che, inconsciamente o forse pi\u00f9 spesso scientemente, sono guidati dagli interessi di chi finanzia il progetto o dalle preferenze personali.<\/p>\n

Questo non solo lede la nostra libert\u00e0, ma tende a marginalizzare le persone<\/strong> che non sono nella norma individuata dalle analisi.<\/p>\n

 <\/p>\n

6.<\/strong> La paura dell\u2019intelligenza artificiale potrebbe impedire all\u2019umanit\u00e0 di godere dei vantaggi che essa pu\u00f2 procurare.<\/p>\n

La necessit\u00e0 di prevenire i rischi pi\u00f9 gravi potrebbe portare a norme o codici etici non equilibrati che potrebbero essere di ostacolo a sviluppi utili di questa tecnologia magari lasciando spazio comunque ad applicazioni pericolose.<\/p>\n

 <\/p>\n

Qualche considerazione conclusiva<\/h2>\n

L\u2019intelligenza artificiale \u00e8 un elemento essenziale del progresso dell\u2019umanit\u00e0, come tutte le tecnologie comporta dei rischi che dobbiamo mitigare e dei benefici.<\/p>\n

Fare s\u00ec che la tecnologia sia sempre al servizio dell\u2019uomo, e non viceversa<\/strong>, dipende da noi che la costruiamo. Forse gi\u00e0 oggi, sicuramente tra qualche anno potremmo progettare HAL immaginato da Arthur C. Clark, sta a noi non farlo.<\/p>\n

Per questo sono necessari una progettazione ed un collaudo pi\u00f9 accurato del software rispetto a quanto avviene oggi,<\/strong> lasciare il test agli utenti con le versioni alfa e beta su programmi cos\u00ec delicati \u00e8 rischioso.<\/p>\n

Sarebbe utile anche che i programmi di IA fossero tutti open source<\/strong>, in modo da avere un controllo capillare.<\/p>\n

I programmi di intelligenza artificiale dovrebbero facilitare e rendere rapida la decisione finale, che dovrebbe per\u00f2 essere sempre di un essere umano pensante, come avviene con la diagnostica medica, dove l\u2019IA \u00e8 un aiuto impagabile, ma la responsabilit\u00e0 finale \u00e8 del medico fedele al giuramento di Ippocrate.<\/p>\n

Infine dovrebbe esserci una cultura pi\u00f9 diffusa sull\u2019argomento<\/strong> per evitare preoccupazioni inutili e rischi concreti.<\/p>\n

\n

Note<\/em><\/p>\n

(1)  Il Go \u00e8 un gioco da tavolo popolare in Oriente quanto gli scacchi da noi, pi\u00f9 semplice come regole, ma non risolvibile con le tecniche utilizzate in precedenza dai computer per altri giochi, quali la dama e gli scacchi, a causa delle dimensioni (19×19) del GoBan. AlphaGO \u00e8 il software che, combinando queste tecniche con l\u2019utilizzo delle reti neurali, ha sconfitto i pi\u00f9 grandi campioni di GO.<\/p>\n

(2) Vincent Boulanin<\/a>, senior researcher at the Stockholm International Peace Research Institute (SIPRI), in Sweden<\/p>\n

(3) Alle 14.32 L\u2019indice Dow Jones perse quasi 1000 punti (il 9%) in pochi minuti, per poi rimbalzare e recuperare quasi tutto entro le 15.08. Il caos improvviso \u00e8 nato in seguito alla reazione dei sistemi automatizzati di trading ad una transazione di dimensioni anomale, pare sia dipesa da un banale errore di digitazione; qualunque sia stata l\u2019origine scatenante, i sistemi automatizzati cominciarono a reagire immediatamente a questo stimolo errato, influenzandosi reciprocamente ed ingigantendo l\u2019errore iniziale.<\/p>\n

 <\/p>\n

Biblio<\/em>grafia<\/em><\/p>\n