La fine dell’uomo: il vero pericolo non è l’intelligenza artificiale ma degli uomini che l’hanno trasformata in un arma letale
«Tutto va in pezzi; il centro non regge più.»
W.B. Yeats,
Siamo tra i più ricercati portali al mondo nel settore del giornalismo investigativo, capillare ed affidabile, ognuno di voi può verificare in prima persona ogni suo contenuto consultando i molti allegati (E tanto altro!) Abbiamo oltre 200 paesi da tutto il mondo che ci seguono, le nostre sedi sono in Italia ed Argentina, fate in modo che possiamo lavorare con tranquillità attraverso un supporto economico che ci dia la possibilità di poter proseguire in quello che è un progetto il quale mira ad un mondo migliore!
La fine dell’uomo
Stiamo subendo una vera e propria valanga di guasti tecnologici.
In primo luogo si è verificata una grave interruzione dei servizi Microsoft che ha causato disservizi a Outlook e ad altri servizi online in tutto il mondo.

Poi è stato disposto un blocco dei voli a livello nazionale che ha paralizzato il traffico aereo in tutta l’America, causando l’annullamento di migliaia di voli e lasciando i viaggiatori bloccati.
Successivamente le principali banche hanno riscontrato dei problemi con i propri sistemi online.
A quel punto United Airlines ha sospeso i voli in partenza a seguito dell’ennesimo guasto informatico.
Si è poi appreso che la rete altamente riservata utilizzata dall’Agenzia per la Sicurezza Nazionale (NSA) per le proprie comunicazioni interne era andata in tilt.
Apple si è quindi aggiunta alla lista sempre più lunga dei giganti della tecnologia che stanno subendo interruzioni su vasta scala, con gli utenti che hanno segnalato problemi nell’accesso a iCloud, all’App Store, ad Apple Music e ad altri servizi.
Un guasto dopo l’altro. Le comunicazioni interrotte. I trasporti paralizzati. I servizi finanziari sospesi. Informazioni sensibili potenzialmente a rischio. Milioni di americani si sono resi conto di quanto la loro vita quotidiana sia ormai dipendente da tecnologie che non comprendono né controllano.
Ecco cosa succede quando la tecnologia va in tilt.
O forse no?
Le speculazioni hanno subito puntato il dito contro l’intelligenza artificiale, soprattutto sulla scia della sospensione delle operazioni aeree a livello nazionale.
D’altronde, l’amministrazione Trump aveva da poco esteso il nuovo sistema di intelligenza artificiale SMART della FAA ai centri di controllo del traffico aereo di tutto il Paese.
L’amministrazione sta inoltre promuovendo con grande determinazione l’intelligenza artificiale (o SI, ovvero Super Intelligence, come Trump insiste nel definirla) come soluzione a ogni problema, dall’inefficienza della pubblica amministrazione alla sicurezza nazionale, mentre si adopera per ridurre gli ostacoli normativi e ampliare l’uso dei sistemi automatizzati.
Eppure l’amministrazione Trump insiste nel sostenere che l’intelligenza artificiale non abbia avuto nulla a che fare con la chiusura della compagnia aerea.
I funzionari federali hanno invece attribuito il disservizio a un malfunzionamento legato all’infrastruttura di controllo del traffico aereo ormai obsoleta, con problemi sorti durante la sostituzione delle apparecchiature e l’aggiornamento dei sistemi di comunicazione.
Forse è così.
Nel frattempo, l’FBI ha pubblicato un rapporto su un altro pericolo tecnologico: strumenti di hacking basati sull’intelligenza artificiale (IA) autonomi, come Artex AI, che vengono utilizzati per sferrare attacchi informatici negli Stati Uniti e in tutto il mondo e violare le reti in meno di tre ore.
Ma che il responsabile sia l’intelligenza artificiale, gli autori di attacchi informatici, attrezzature obsolete, una pianificazione carente, una manutenzione inadeguata, un errore umano o una combinazione di questi fattori, il problema di fondo rimane.
Chi è responsabile quando i sistemi tecnologici da cui dipende la società iniziano a fallire?
Chi è responsabile quando i funzionari governativi e i dirigenti aziendali si affrettano ad adottare nuove tecnologie senza assicurarsi che siano in atto le misure di sicurezza, le infrastrutture e il controllo umano necessari per gestirle?
E cosa succede quando diventiamo così dipendenti dalla tecnologia e così disposti a rinunciare alla responsabilità di gestirla da non riuscire più a distinguere tra il malfunzionamento di una macchina e l’errore degli esseri umani a cui è affidato il suo funzionamento?
Ci siamo posti la domanda sbagliata riguardo all’intelligenza artificiale.
Forse il vero pericolo non è che le macchine possano diventare più intelligenti degli esseri umani. Forse è la sete di potere propria dell’essere umano e la nostra disponibilità a cedere il controllo a chi lo detiene. Hollywood ci mette in guardia da decenni dalle macchine che un giorno potrebbero diventare così intelligenti, così autonome e così potenti da non aver più bisogno degli esseri umani.
Nel film di Stanley Kubrick 2001: Odissea nello spazio, il computer HAL 9000, apparentemente infallibile, si rivolta contro gli astronauti che hanno affidato la propria vita al suo controllo. La macchina, progettata per servire l’umanità, diventa una minaccia proprio per quelle persone che era stata creata per aiutare. Eppure, la visione più inquietante potrebbe provenire da una fonte inaspettata: il film d’animazione per bambini della Pixar WALL-E. In WALL-E, l’umanità ha abbandonato una Terra ormai inabitabile e si è rifugiata su un’enorme astronave dove quasi ogni esigenza umana viene anticipata e soddisfatta dalle macchine.

Le persone non camminano più. Non lavorano più. Si accorgono a malapena del mondo che le circonda. Vengono intrattenute, nutrite, trasportate e distratte da sistemi che prendono praticamente ogni decisione al posto loro. Sono diventate consumatrici passive della propria esistenza. Le macchine non hanno avuto bisogno di dichiarare guerra all’umanità. Gli esseri umani hanno in gran parte rinunciato volontariamente alla propria indipendenza, barattando la responsabilità con la comodità e la libertà con il benessere. Persino il capitano della nave deve lottare per riappropriarsi della propria autorità da un sistema automatizzato programmato per mantenere lo status quo.
La distinzione è significativa.
Nel 2001, l’incubo è una macchina che si rifiuta di cedere il controllo. In WALL-E, l’incubo è un’umanità che ha dimenticato come esercitarlo. Entrambi i film giungono a una verità inquietante: la tecnologia diventa pericolosa quando gli esseri umani smettono di esercitare un controllo significativo su di essa.
Ed è proprio qui che sta il problema: abbiamo confuso il progresso tecnologico con il progresso umano.
Siamo diventati straordinariamente abili nell’inventare macchine in grado di svolgere compiti che le generazioni precedenti non avrebbero potuto nemmeno immaginare. Siamo in grado di scindere gli atomi, lanciare razzi nello spazio, comunicare istantaneamente da un continente all’altro, mappare il genoma umano, monitorare le popolazioni tramite i satelliti e costruire computer in grado di elaborare quantità impressionanti di informazioni. Eppure nessuna di queste conquiste tecnologiche ci ha necessariamente resi più saggi, più compassionevoli, più etici o più capaci di dar prova di moderazione.
La storia dimostra con quanta facilità gli esseri umani trasformino le loro più grandi invenzioni in strumenti di distruzione, sfruttamento e controllo.
Pensiamo alla bomba atomica.
La scoperta della fissione nucleare ha aperto la strada a straordinari progressi scientifici. Ha inoltre reso possibile la creazione di armi in grado di radere al suolo intere città. Nell’agosto del 1945, gli Stati Uniti sganciarono bombe atomiche su Hiroshima e Nagasaki, causando la morte immediata di decine di migliaia di persone e di molte altre in seguito.
Non sono state le bombe a decidere di distruggere quelle città. Sono stati gli esseri umani.
La stessa tecnologia che ha reso possibile il lancio di razzi nello spazio ha reso possibile anche la realizzazione di missili in grado di trasportare testate nucleari da un continente all’altro. Gli stessi computer che hanno rivoluzionato la medicina, la scienza, l’istruzione e la comunicazione hanno contribuito alla nascita di uno Stato di sorveglianza in grado di monitorare e tracciare intere popolazioni. Internet, un tempo acclamato come strumento di libera espressione e di democratizzazione della conoscenza, è diventato anche uno strumento per la raccolta di dati personali, la manipolazione dei comportamenti e il monitoraggio del dissenso.

Le telecamere diventano strumenti di sorveglianza. Le banche dati diventano strumenti per la profilazione e l’individuazione mirata delle persone. I droni diventano armi di guerra a distanza. E ora l’intelligenza artificiale rischia di amplificare tutte queste capacità, consentendo a governi, aziende e criminali di monitorare, manipolare e controllare il comportamento umano su una scala senza precedenti. La tecnologia sarà anche nuova, ma gli impulsi umani che ne determinano l’uso improprio sono antichi quanto la civiltà stessa.
Si consideri l’ultimo avviso dell’FBI su ARTEX, uno strumento di intelligenza artificiale originariamente sviluppato per aiutare i professionisti della sicurezza informatica a individuare i punti deboli delle reti informatiche.
Nelle mani dei criminali informatici, quella stessa tecnologia è diventata un’arma.
Secondo l’FBI, gli hacker hanno utilizzato ARTEX per automatizzare gli attacchi informatici contro istituzioni finanziarie, agenzie governative e aziende private; in alcuni casi, gli attacchi sono passati dalla fase iniziale di individuazione dell’obiettivo all’ottenimento di un accesso privilegiato in meno di tre ore. Nel frattempo, il Threat Intelligence Group di Google avverte che gli autori di attacchi malevoli stanno ricorrendo sempre più spesso a sistemi di intelligenza artificiale autonomi, in grado di individuare le vulnerabilità e sferrare attacchi alla velocità delle macchine, con un intervento umano drasticamente ridotto.
Pensaci un attimo.
La tecnologia pensata per individuare le vulnerabilità di sicurezza e proteggere le reti informatiche viene trasformata in un’arma per sfruttare proprio tali vulnerabilità. Le macchine non hanno sviluppato all’improvviso intenzioni criminali. Sono stati gli esseri umani a creare gli strumenti, a individuare gli obiettivi e a mettere in funzione i sistemi. L’intelligenza artificiale non ha eliminato l’avidità, l’arroganza o la brama di potere dell’uomo. Ha invece conferito a tali impulsi una portata più ampia, una maggiore rapidità e un potere più grande.
Non possiamo permetterci di ignorare gli esseri umani che stanno dietro alle macchine: le persone che creano i sistemi, li finanziano, li implementano, ne traggono profitto e chiudono un occhio quando tali sistemi vengono utilizzati per violare i diritti umani.
E soprattutto non possiamo permetterci di ignorare coloro che utilizzano queste tecnologie per conto delle autorità pubbliche.
Sempre più spesso ci troviamo a muoverci in un mondo in cui le agenzie governative ricorrono ai computer come intermediari nel rapporto tra il governo e la popolazione. Ci viene detto di accettare decisioni prese dal computer perché sembrano oggettive. Veniamo esortati a cedere le nostre informazioni personali perché la comodità sembra avere la precedenza sulla privacy. Veniamo convinti a permettere che sistemi automatizzati prendano decisioni cruciali sulle vite umane perché mettere in discussione tali sistemi richiede impegno, competenza e vigilanza.
E siamo costretti a fare i conti con le conseguenze di un governo che considera qualsiasi dato generato da un computer come una prova che deve necessariamente essere corretta.
Ma i computer possono sbagliare. Gli algoritmi possono essere distorti. I database possono contenere errori. I sistemi automatizzati possono perpetuare e amplificare gli errori, i pregiudizi e le agende politiche di chi li progetta e li gestisce.
L’avidità trasforma i progressi tecnologici in occasioni di sfruttamento.
I dati personali diventano una merce. Il comportamento umano diventa qualcosa da prevedere, manipolare e monetizzare. La promessa di una maggiore efficienza diventa una giustificazione per tagliare i costi, eliminare le garanzie umane e concentrare ancora più potere nelle mani di pochi. E quando qualcosa va storto, le conseguenze non ricadono necessariamente su chi ha tratto profitto da quella tecnologia, ma sulla gente comune la cui vita dipende da essa. L’arroganza e la brama di potere convincono chi detiene il potere che le capacità tecnologiche costituiscano un via libera per procedere.

Poiché il governo può monitorare le comunicazioni, ritiene di doverlo fare. Poiché può tracciare gli spostamenti delle persone, lo fa. Poiché può impiegare droni, algoritmi predittivi, sistemi di riconoscimento facciale e armi sempre più autonome, lo fa.
Ma la capacità di fare qualcosa non è mai stata sinonimo del diritto di farlo.
Il governo non gode di un’esenzione costituzionale solo perché i suoi abusi vengono commessi da un computer anziché da un essere umano. Anzi, più potente è la tecnologia, maggiore è la necessità di imporre limiti significativi a chi la controlla.
Cinquant’anni fa, la Commissione Church del Senato ha portato alla luce gravi abusi commessi dalle agenzie di intelligence americane, tra cui operazioni di sorveglianza rivolte contro cittadini che esercitavano i propri diritti costituzionali. L’avvertimento era inequivocabile: il potere dello Stato, soprattutto se esercitato in segreto e senza un controllo efficace, può diventare una minaccia diretta alle libertà che dovrebbe proteggere.
Era il 1976.
Oggi, le capacità di sorveglianza di cui dispongono le agenzie governative sarebbero state quasi inimmaginabili per i funzionari oggetto di indagine mezzo secolo fa.
Eppure le questioni costituzionali rimangono le stesse.
Chi controlla i controllori? Che ne è del Quarto Emendamento e del giusto processo quando la sorveglianza e le decisioni che incidono sulla libertà vengono affidate a sistemi tecnologici poco trasparenti? Chi chiama il governo a rispondere delle proprie azioni quando questo ricorre alla tecnologia per aggirare i limiti costituzionali volti a tenere sotto controllo il suo potere? Non si tratta semplicemente di questioni tecnologiche. Sono questioni che riguardano il potere, la libertà e la responsabilità umana.
Quarant’anni fa, nel 1986, ho approfondito molte di queste tematiche nel mio libro The End of Man.
In un’epoca in cui l’intelligenza artificiale sembrava per lo più confinata ai laboratori e alla fantascienza, ho dedicato un capitolo alle implicazioni derivanti dalla creazione di macchine che potrebbero influenzare sempre più e potenzialmente ridurre la nostra comprensione di cosa significhi essere umani. La preoccupazione non era semplicemente che un giorno i computer potessero diventare abbastanza potenti da dominare la società. Era piuttosto che gli esseri umani stessi venissero sempre più ridotti a sistemi di informazione, oggetti da classificare, studiare, gestire e manipolare.
Come avevo avvertito allora, «L’uomo non è una macchina».
Gli esseri umani sono ben più che semplici elaboratori di informazioni, punti dati o insiemi di comportamenti prevedibili. La nostra umanità è strettamente legata alla nostra capacità di provare compassione, alla nostra coscienza, al nostro giudizio autonomo e alla nostra responsabilità morale.
La fine dell’uomo (In Inglese)
Eppure, già quarant’anni fa, cominciavamo a considerarci poco più che delle macchine. La domanda che avevo posto allora rimane altrettanto urgente oggi: «Come ci vedremo domani?»
Quattro decenni dopo, quel domani è arrivato.
Siamo diventati sempre più disposti a permettere alle macchine di prendere decisioni che dovremmo mettere in discussione, alle aziende di manipolare le informazioni e ai governi di acquisire poteri di sorveglianza che avrebbero sconvolto le generazioni precedenti.
E quando quei sistemi falliscono o vengono deliberatamente utilizzati per violare i nostri diritti permettiamo ai responsabili di nascondersi dietro la tecnologia stessa. “È stato il computer a commettere l’errore”, “l’algoritmo ha segnalato la persona sbagliata”, “il database conteneva un errore”, “è stata l’intelligenza artificiale a prendere la decisione” — come se la macchina fosse un attore morale indipendente, anziché un sistema progettato, implementato e controllato dagli esseri umani. C’è una differenza fondamentale tra una macchina che si guasta e un essere umano che si rifiuta di assumersi la responsabilità del proprio fallimento.
È proprio per questo che la Costituzione è importante.
La Carta dei Diritti non è stata redatta per un mondo caratterizzato dall’intelligenza artificiale, dal riconoscimento facciale, dalla raccolta massiccia di dati o dalla guerra automatizzata. È stata redatta per un mondo in cui gli esseri umani, ai quali era stato affidato il potere, non potevano sempre essere considerati affidabili nell’esercizio responsabile di tale potere. L’avidità rimane avidità. L’arroganza rimane arroganza. E la tirannia non diventa meno pericolosa solo perché è gestita da un algoritmo.
Né possiamo aspettarci che la tecnologia ci salvi dai fallimenti morali di chi la utilizza.
Un computer più intelligente non può sostituire una coscienza che funzioni correttamente. Un governo più efficiente non può compensare la perdita dei freni costituzionali. Una società tecnologicamente più avanzata non è necessariamente una società più libera, più saggia o più umana. In La fine di Man ho anche immaginato un futuro in cui le creazioni tecnologiche dell’umanità potrebbero diventare così potenti da osare sostituirsi a Dio. Ho scritto:In *La fine di Man* ho anche immaginato un futuro in cui le creazioni tecnologiche dell’umanità potrebbero diventare così potenti da osare sostituirsi a Dio. Ho scritto:
Se tutto andrà secondo i piani degli esperti di intelligenza artificiale, si può immaginare e prevedere un futuro “metallico”. Potrebbe svolgersi più o meno così: in un avamposto solitario in un futuro lontano, dove tutti i computer dell’universo sono collegati tra loro, un servitore umano pieno di apprensione chiede: «C’è un Dio?». Colpendo a morte l’interlocutore per la sua sfrontatezza, i computer rispondono: «Ora c’è». Facciamo un salto in avanti al 2021, quando Mo Gawdat, ex dirigente di Google, ha messo in guardia dallo straordinario potere dell’intelligenza artificiale: “La realtà è che stiamo creando Dio.”
Pensaci un attimo.
Siamo diventati così affascinati dalle nostre stesse invenzioni, così convinti della nostra genialità tecnologica, che stiamo pensando di creare macchine il cui potere potrebbe eguagliare e alla fine superare la nostra capacità di controllarle.
Eppure, forse il pericolo maggiore non è che le macchine diventino dei.
È che gli esseri umani, nella loro arroganza e nella loro brama di potere, cominceranno a comportarsi come se fossero essi stessi degli dei. Abbiamo confuso il progresso tecnologico con il progresso umano. Abbiamo scambiato l’intelligenza per saggezza, il potere per virtù e la capacità di fare qualcosa per il diritto di farlo. E, proprio come in WALL-E, rischiamo di abituarci talmente tanto a essere gestiti, intrattenuti e protetti da sistemi che sfuggono al nostro controllo, da dimenticare cosa significhi governare noi stessi.
A quarant’anni dalla pubblicazione di The End of Man, la domanda che si pone l’umanità non è semplicemente quanto diventeranno intelligenti le nostre macchine, bensì quanta parte della nostra stessa umanità siamo disposti a rinunciare nella ricerca del progresso tecnologico. Il pericolo maggiore potrebbe non provenire da una macchina che impara a pensare come un essere umano. Potrebbe derivare da esseri umani che smettono di pensare, smettono di porsi domande, smettono di opporre resistenza e smettono di assumersi la responsabilità del mondo che stanno creando.
Alla fine, forse non saranno le macchine a determinare la fine dell’umanità.
Potremmo riuscirci da soli.
John & Nisha Whitehead
Fonte: rutherford.org & DeepWeb
SOSTIENICI TRAMITE BONIFICO:
IBAN: IT19B0306967684510332613282
INTESTATO A: Marco Stella (Toba60)
SWIFT: BCITITMM
CAUSALE: DONAZIONE




