Perchè il futuro non ha bisogno di noi

(Bill Joy, cofondatore e caposcienziato di Sun Microsystems, e’ stato dirigente della commissione presidenziale sul futuro della ricerca IT, ed è coautore delle specifiche del liguaggio Java. Si può leggere anche del suo lavoro su: “Jini pervasive computing technology” in Wired 6.08. )

Dal momento che sono stato coinvolto nella creazione di nuove tecnologie, la loro dimensione etica mi ha preoccupato, ma è stato solamente nell’autunno del 1998 che sono diventato ansiosamente consapevole di quanto grandi siano i pericoli che ci si propongono nel 21′ secolo. Posso dar inizio del mio sconforto al giorno in cui ho incontrato Ray Kurtzweil, il meritatamente famoso inventore della prima macchina per leggere, per ciechi, ed altre cose stupefacenti.?Ray ed io eravamo entrambi oratori alla conferenza George Gilder’s Telecosm, e lo incontrai per caso nel bar dell’hotel dopo che le nostre sessioni erano finite. Ero seduto con John Searle, un filosofo dell’Università di Berkley che studia la percezione. Mentre parlavamo, Ray si avvicino e incomincio la conversazione, il soggetto , quello che a tutt’oggi mi perseguita.
Mentre avevo sentito già tali discorsi, avevo sempre pensato che i robot senzienti appartenessero al dominio della fantascienza. Ma ora, da qualcuno che rispettavo, stavo ascoltando la forte argomentazione che erano una possibilità a breve termine. Ero sconcertato, specialmente conoscendo la provata abilità di Ray di immaginare e creare il futuro. Sapevo già che le nuove tecnologie come l’ingeneria genetica e la nanotecnologia ci stavano dando il potere di rifare il mondo, ma un realistico ed imminente scenario di robot intelligenti mi ha stupito.
E’ facile rimanere spossati da tali innovazioni. Sentiamo dalle notizie quasi tutti i giorni di qualche progresso tecnologico o scientifico. Tuttavia questa non era una predizione consueta. Nel bar del hotel, Ray mi diede una prestampa del suo prossimo libro “The Age of Spiritual Machines”, che delineava l’utopia che prevedeva – una era in cui gli umani, diventando un tuttuno con la tecnologia robotica, si avvicinavano all’immortalità. Leggendolo, il mio senso di sconforto si intensificò; ero sicuro che stava capendo i pericoli, capendo la probabilità di un esito negativo lungo questo cammino.?Mi son trovato molto turbato da un passaggio che delinea uno scenario distopico.

La nuova sfida luddista
Per prima cosa, lasciateci postulare che gli scienziati informatici riescano a sviluppare macchine intelligenti che possano fare tutto meglio degli esseri umani. In quel caso, presumibilmente, tutto il lavoro sarà fatto da vasti ed organizzati sistemi di macchine e nessuno sforzo umano sarà necessario.Entrambi i casi possono accadere. Alle macchine potrebbe essere permesso di prendere tutte le proprie decisioni senza la supervisione umana, o altrimenti il controllo sulle macchine potrebbe essere contenuto.
Se alle macchine è permesso di prendere le proprie decisioni, non possiamo fare alcuna congettura sul risultato, perchè sarà impossibile indovinare come tali macchine potranno comportarsi. Noi indichiamo soltanto come il destino della razza umana sarà alla mercè delle macchine. Si potrebbe obiettare affermando che la razza umana non sarebbe mai così stolta da consegnare tutto il potere alle macchine. Ma non stiamo altresì suggerendo che gli umani volontariamente consegnerebbero il potere alle macchine o che le macchine di proposito si impossesserebbero del potere. Quello che suggeriamo, è che la razza umana possa facilmente lasciarsi scivolare verso una posizione di totale dipendenza dalle macchine per cui non possa avere alternativa che accettare tutte le decisioni prese dalle macchine. Visto che la società ed i suoi problemi diventano sempre più complicati, e le macchine sempre più intelligenti, le persone lasceranno che le macchine prendano sempre più le decisioni per loro, semplicemente perchè decisioni fatte dalle macchine porteranno migliori risultati che quelle fatte dagli esseri umani. Si arriverà prima o poi ad uno stadio in cui le decisioni da prendere per mantenere il sistema saranno così complicate che gli esseri umani non saranno in grado di farle in modo intelligente. A quel punto le macchine avranno effettivamente il controllo. Le persone non saranno semplicemente in grado di spegnere le macchine, perchè ne saranno così dipendenti da far risultare lo spegnimento un suicidio.
D’altra parte è possibile che il controllo umano sulle macchine possa essere conservato. In questo caso l’uomo medio potrà avere controllo su alcune sue macchine private, come la sua macchina o il suo pc, ma il controllo dei grandi sistemi sarà nelle mani di una piccola élite – così com’è oggi, ma con due differenze. Per il miglioramento della tecniche, l’élite avrà un controllo maggiore sulle masse; e visto che il lavoro umano non sarà più necessario, le masse saranno superflue, un inutile fardello per il sistema. Se l’élite fosse spietata, allora potrebbero semplicemnte decidere di sterminare la massa dell’umanità. Se fosse compassionevole allora potrebbero utilizzare la propaganda, o altre tecniche psicologiche o biologiche per diminuire il tasso di nascita fino a che la massa si estingua, lascinado il mondo all’élite. Oppure, se l’élite consiste di liberali dal cuore tenero, potrebbero decidere di interpretare la parte del buon pastore nei confronti del resto del mondo. Saranno accorti che le necessità fisiche di ognuno siano soddisfatte, provvederanno a che tutti i bambini crescano in un ambiente fisicamente e psicologicamente igienico, che ognuno abbia un qualsiasi hobby per intrattenerlo, e che chiunque possa sentirsi insoddisfatto possa intrapprendere una “terapia” per curare il suo “problema”. Certamente la vita sarà così priva di scopo che le persone dovranno essere psicologicamente o biologicamente progettate per rimuovere il proprio bisogno per il processo di potere o di subliminare la loro ricerca di potere in qualche innocuo hobby. Questi esseri umani progettati potrebbero essere felici in tale società, ma non saranno certamente liberi. Saranno stati ridotti allo stato di animali domestici.
Nel libro, non scopri fino a che non giri pagina che l’autore di questo passaggio è Theodore Kaczynski – l’Unabomber. Non sono un difensore di Kaczynski. Le sue bombe hanno ucciso tre persone durante la sua campagna diciasettennale di terrore ed ha ferito molti altri. Una delle sue bombe ha ferito gravemente il mio amico David Gelernter, uno dei più brillanti e visionari scienziati informatici del nostro tempo. Come molti dei miei colleghi, ho sentito di poter essere il prossimo bersaglio dell’Unabomber.?Le gesta di Kaczynski erano a mio avviso omicide e criminalmente folli. Lui è chiaramente un luddista, ma la semplice affermazione di questo non rigetta il suo discorso; benché mi sia difficile da accettare, ho visto dei meriti sui ragionamenti di questo singolo passaggio. Mi sono sentito costretto a confrontarmici.
La visione distopica di Kaczynski descrive consequenze involontarie, un problema ben noto con la progettazione ed uso della tecnologia, ed uno che è chiaramente relazionato alla legge di Murphy – “Se c’é qualcosa che può andare (…continua a leggere)

Gaia e l’indifferenza degli uomini

C’era una volta GAIA: un piccolo pianeta, il terzo distante da una stella chiamata Sole. La sua straordinarietà era quella di essere l’unico pianeta del sistema solare ad ospitare la Vita e tra le molteplici che lo abitavano ce n’era una chiamata uomo. Gli uomini erano, apparentemente, le forme di vita più intelligenti che GAIA ospitava. All’inizio il rapporto era di reciproco rispetto, l’uomo pur moltiplicandosi in maniera esponenziale di anno in anno, non consumava più di quanto avesse bisogno. Ma un giorno, che GAIA ricorda “del ferro”, tutto cominciò a cambiare: lentamente ed inesorabilmente. L’uomo era diventato sempre più avido e per fini diversi da quelli del mantenimento della propria esistenza aveva cominciato ad utilizzare le risorse del Pianeta in modo sempre più sproporzionato. Egli non si curava di quanto GAIA soffrisse: abbatteva milioni di alberi, uccideva i propri mari, inquinava l’aria con fumi venefici.

GAIA non capiva: com’era possibile che l’uomo stesse uccidendo il proprio habitat senza che se ne rendesse conto? Come potevano quei piccoli bipedi non rendersi conto che stavano minacciando la loro stessa esistenza ? Niente. Ogni giorno uomini sempre più malvagi ed avidi infierivano su GAIA nell’indifferenza di altri uomini. Gli altri abitanti del Pianeta si rendevano conto di quanto stesse accadendo, ma non potevano intervenire, non riuscivano a fermare lo sterminio. Avevano provato, ma invano.

Così un giorno, all’improvviso, tra lo sconcerto degli uomini e la rassegnazione degli altri, GAIA emise un ultimo lungo lamento e morì.

 

Disastri chimici, petrolchimici

Alcuni di questi fatti sono in parte descritti in coda alla voce relativa all’industria chimica

Pin It on Pinterest

Questo sito o gli strumenti terzi da questo utilizzati si avvalgono di cookie necessari al funzionamento ed utili alle finalità illustrate nella cookie policy. Se vuoi saperne di più, consulta la nostra cookie policy. Chiudendo questo banner, scorrendo questa pagina, cliccando su un link o proseguendo la navigazione in altra maniera, acconsenti all’uso dei cookie. Informazioni

Questo sito utilizza i cookie per fornire la migliore esperienza di navigazione possibile. Continuando a utilizzare questo sito senza modificare le impostazioni dei cookie o cliccando su "Accetta" permetti il loro utilizzo.

Chiudi