Resistere alla riduzione: un manifesto

di Joichi Ito – Traduzione in italiano di Francesco Monico | Pubblicato su “CheFare.com”


Il manifesto di Joi Ito nasce da un precedente progetto di manifesto che l’imprenditore, attivista, ‘venture capitalist’ e direttore del MediaLab del MIT voleva utilizzare per innescare un dibattito pubblico sul concetto di singolarità tecnologica. Ma quando il famoso editor dei ‘diggerati’ John Brockman invita lo stesso Ito a leggere e discutere Introduzione alla cibernetica – L’uso umano degli esseri umani, di Norbert Wiener per partecipare con il suo illustre gruppo di pensatori a un libro collaborativo, Ito si focalizza su un progetto di condivisibilità dello spazio vitale e della noosfera tra essere umano e macchine.

Ne nasce un primo progetto collaborativo e disseminato in partnership con la MIT Press. Nella imminente fase 2, una nuova versione arricchita dai contributi della comunità scientifica globale sarà pubblicata online in un nuovo numero del Journal of Design and Science della MIT Press, insieme a contributi di lunghezza variabile di altri pensatori e autori. Nella fase 3, una selezione riveduta e modificata di questi contributi sarà pubblicata come un libro stampato dal suddetto prestigioso editore.

Versione 1.0, 34° revisione pubblicata il Nov 14, 2017 | Review, research and editing team: Catherine Ahearn, Chia Evers, Natalie Saltiel, Andre Uhl.


Joichi Ito

L’ecosistema della natura ci fornisce un esempio elegante (NDT, l’eleganza teorica permette la viabilità narrativa) di un complesso sistema adattivo in cui una miriade di “valute biologiche1” (NDT, ho inserito il termine ‘biologiche’ per cogliere il significato maggiore che il termine currencies ha in inglese, esso infatto accoglie un concetto di ‘diffusione’ che lo connota di nessi più ampi utilizzabili in campo ecologico e biologico) interagiscono e rispondono a sistemi di feedback che ne consentono sia il fiorire che la regolamentazione. Questo modello collaborativo dovrebbe fornire il paradigma del nostro approccio all’intelligenza artificiale, piuttosto che un modello di crescita finanziaria esponenziale o una Singolarità, che promette attraverso i progressi della tecnologia il superamento della nostra attuale condizione umana. Più di 60 anni fa, il matematico e filosofo del MIT Norbert Wiener ci ha avvertito che “quando gli atomi umani sono interlacciati in un’organizzazione in cui vengono utilizzati non pienamente come esseri umani responsabili, ma come ingranaggi, leve e aste, conta poco che siano fatti di carne e sangue.” Dovremmo prestare attenzione all’avvertimento di Wiener.

Introduzione: il cancro della valuta

Così il sole picchia sulla Terra, la fotosintesi converte l’acqua, il biossido di carbonio e l’energia del sole in ossigeno e glucosio. La fotosintesi è uno dei tanti processi chimici e biologici che trasforma una forma di materia ed energia in un’altra. Queste molecole vengono quindi metabolizzate da altri processi biologici e chimici in altre molecole. Gli scienziati spesso chiamano queste molecole “valute” perché rappresentano una forma di potere che viene trasferito tra le cellule o i processi a beneficio reciproco, a tutti gli effetti “scambiato”. La più grande differenza tra queste ‘valute molecolari’ e le valute finanziarie è che non operano in riferimento a una “valuta principale” o “cambio di valuta”. Piuttosto, ogni singola valuta può essere utilizzata solo da certi processi e il “mercato” di queste valute guida le dinamiche che sono chiamate “vita”.

Quando alcune ‘valute’ diventano abbondanti come risultato del successo di un processo o di un organismo, altri organismi si evolvono per assimilare l’output e convertirlo in qualcos’altro. Nel corso di miliardi di anni, questo è il modo in cui l’ecosistema terrestre si è evoluto, creando vasti sistemi metabolici interconnessi e formando altrettanti sistemi di autoregolazione altamente complessi che, ad esempio, stabilizzano le temperature corporee o la temperatura della Terra, nonostante le continue fluttuazioni e cambiamenti di ogni scala, dalla micro alla macro, tra i singoli elementi. L’output di un processo diventa l’input di un altro. In definitiva, tutto si interconnette.

Viviamo in una civiltà in cui le principali valute sono il denaro e il potere – dove quasi sempre, l’obiettivo è accumularle entrambe a scapito della società in generale. È questo un sistema semplice e molto fragile rispetto agli ecosistemi della Terra, dove vengono scambiate miriadi di “valute” tra processi per creare sistemi estremamente complessi di input e output con sistemi di feedback che ne adattano e ne regolano le azioni, i flussi e le connessioni.

Sfortunatamente, la nostra attuale civiltà umana non ha una capacità di recupero integrata al contrario della terra, e i modelli che visualizzano i nostri obiettivi e ne indirizzano la direzione evolutiva ci hanno messo su un percorso pericoloso su cui il matematico Norbert Wiener ci aveva avvertito decenni fa. Il paradigma della moneta unica ha spinto molte società e istituzioni a perdere di vista i loro obiettivi originali. I valori e la complessità si concentrano sempre più sulla priorità di una crescita finanziaria esponenziale, guidata da entità aziendali edificate sul profitto che hanno acquisito autonomia, diritti, potere e un’influenza della società praticamente non regolamentata. Il comportamento di queste entità è simile al cancro. Le cellule sane regolano la loro crescita e rispondono all’ambiente circostante, autoeliminandosi persino se si ritrovano in un organo in cui non sono implicate. Le cellule cancerose, al contrario, sono ottimizzate per una crescita non vincolata e si diffondono ignorando la loro funzione o le loro implicazioni nel contesto.

La frusta che ci guida

L’idea che esistiamo per il progresso, e che il progresso richiede una crescita non vincolata ed esponenziale, è la frusta che ci guida. Le aziende moderne sono il risultato naturale di questo paradigma in un sistema capitalista di libero mercato. Norbert Wiener definì le corporazioni “macchine di carne e sangue” e l’automazione “macchine di metallo”. Le nuove specie di megacompagnie della Silicon Valley – le megamacchine (NDT, utilizzo qui il mot-valise megamacchina e megacompagnia nel senso di Lewis Mumford) del bit – sono gestite e sviluppate in gran parte da persone che credono in una nuova religione, la Singolarità. Questa nuova religione non rappresenta un cambiamento di paradigma, ma piuttosto la naturale evoluzione del culto della crescita esponenziale applicata alla scienza e al calcolo moderni. L’asintoto della crescita esponenziale del potere computazionale è l’intelligenza artificiale. (NDT, Qui si intende, dal gr. ἀσύμπτωτος «che non s’incontra», ovvero il punto di arrivo a cui si tende senza mai arrivarci. Matematicamente è il limite a cui tende la funzione, il suo limite all’infinito.)

La nozione di Singolarità – ovvero che l’Intelligenza Artificiale supererà gli esseri umani con la sua crescita esponenziale, e che tutto ciò che abbiamo fatto fino ad ora e che stiamo facendo attualmente è insignificante – è una religione creata da persone che hanno pratica dell’uso della computazione per risolvere problemi finora considerati incredibilmente complessi per le macchine. Essi hanno trovato un partner perfetto nel calcolo digitale, un sistema di pensiero e creazione conoscibile e controllabile che sta rapidamente aumentando la sua capacità di sfruttare e elaborare la complessità, conferendo ricchezza e potere a coloro che lo padroneggiano. Nella Silicon Valley, la combinazione delle pratiche del pensiero di gruppo, groupthink (NDT, Il groupthink rappresenta una “patologia funzionale” del pensiero collettivo e connettivo, che può comportare l’adesione a processi decisionali in cui i processi critici sono annullati dal timore che possano destabilizzare gli equilibri dei gruppi di riferimento.), e il successo finanziario di questo culto della tecnologia ha creato un sistema di feedback positivo che ha pochissime capacità di regolazione attraverso feedback negativi. Sebbene gli epigoni di questo pensiero non accettano di sentirsi dire che il loro è un pensiero religioso basato su pratiche di fede e sostengono che le loro idee sono basate sulla scienza e sull’evidenza, coloro che abbracciano la Singolarità sono impegnati a fare continue genuflessioni religiose e arrivano a conclusioni di fede, basate più su punti di vista che su fatti oggettivi, per raggiungere la loro visione finale.

I singolaristi credono che il mondo sia “conoscibile” e computazionalmente simulabile, e che i computer siano in grado di elaborare il caos del mondo reale proprio come hanno elaborato tutti gli altri problemi che tutti avevano predetto che non sarebbero mai potuti essere risolti dai computer. Per loro, questo meraviglioso strumento, il computer, ha finora funzionato così bene per ogni cosa che deve continuare a essere utilizzato in ogni sfida che gli lanciamo, fino a quando non avremo oltrepassato i confini della conoscenza e finalisticamente avremo acquisito una sorta di velocità di fuga dalla realtà conosciuta. L’intelligenza artificiale sta già sostituendo gli umani nella guida delle automobili, nella diagnosi dei tumori e nella ricerca dei documenti giudiziari. L’idea è che l’IA continuerà questo progresso e alla fine si fonderà con il cervello umano e diventerà una super-intelligenza onniveggente, onnipotente. Per i veri credenti singolariani, i computer aumenteranno ed estenderanno i nostri pensieri in una sorta di “amortalità”. (Parte della Singolarità è una lotta per l ‘”amortalità”, ovvero per l’idea che mentre uno può ancora morire e non essere immortale, la morte possa non diventare l’unico risultato di un ineluttabile processo di senescenza cellulare.)

Ma se le corporazioni moderne sono un precursore della nostra prossima trascendenza, l’opinione singolarista che con più informatica e bio-hacking risolveremo in qualche modo tutti i problemi del mondo o che la Singolarità ci risolverà in quanto esseri sembra essere di un’ingenuità senza speranza. Allo stesso modo di come noi sogniamo il giorno in cui avremo un cervello potenziato, possederemo l’amortalità e possiamo pensare a grandi pensieri proettati nel futuro, le società hanno già una sorta di “amortalità”. Persistono finché sono solventi e sono più di una somma delle loro parti- discutibilmente una ‘super-intelligenza amortale’.

Più calcoli non ci rendono più “intelligenti”, solo più potenti dal punto di vista computazionale.

Affinché la Singolarità abbia un esito positivo è necessario credere che, dato un potere sufficiente, il sistema in qualche modo capisca come regolare se stesso. Il risultato finale sarebbe così complesso che mentre noi umani non saremmo in grado di capirlo ora, “esso” si capirebbe e si “risolverebbe” da solo. Alcuni credono in qualcosa che assomiglia un po ‘alla pianificazione generale dell’ex Unione Sovietica, ma con informazioni più complete e potere illimitato. Altri hanno una visione maggiormente sofisticata di un sistema distribuito, ma a un certo livello tutti i Singulariani credono che con abbastanza potere e controllo, il mondo sia “addomesticabile”. Non tutti quelli che credono nella Singolarità la adorano come una trascendenza positiva che porta immortalità e abbondanza, ma credono che un giorno del giudizio sarà in arrivo quando tutte le curve andranno in verticale.

Sia che si sia su una funzione sigmoidea o gaussiana, l’inizio della curva ascendente assomiglia molto a una curva esponenziale. Una curva esponenziale agli studiosi della dinamica dei sistemi mostra un auto-rinforzo, cioè una curva di feedback positiva senza limiti. Forse è questo che eccita i singolariani e spaventa gli studiosi dei sistemi. La maggior parte delle persone al di fuori del circuito della singolarità crede nelle curve sigmoidee (a S), cioè che la natura si adatta e si autoregola e questo anche se le pandemie faranno il loro corso. Le pandemie possono causare un’estinzione, ma la crescita rallenterà semplicemente e le cose si adatteranno. Possono non essere nello stesso stato, e potrebbe verificarsi un cambiamento di fase, ma la nozione di Singolarità – specialmente come una sorta di giorno del giudizio o di processo salvifico che ci permetterà di trascendere la disordinata mortale sofferenza della nostra esistenza umana – è fondamentalmente non corretta.

Joichi Ito - Resistere alla riduzione: un manifesto

Questo tipo di pensiero riduzionista non è una novità. Quando BF Skinner scoprì il principio del rinforzo e fu in grado di descriverlo, progettammo l’educazione attorno alle sue teorie. Gli scienziati dell’apprendimento sanno che gli approcci comportamentisti funzionano solo per una gamma ristretta di apprendimenti, ma molte scuole continuano a fare affidamento sull’addestramento e sulla pratica. Prendiamo, come altro esempio, il movimento eugenetico, che ha massivamente ed erroneamente semplificato il ruolo della genetica nella società. Questo movimento ha contribuito ad alimentare il genocidio nazista fornendo una visione scientifica riduzionista secondo la quale saremmo stati in grado di indirizzare manualmente la selezione naturale per “aggiustare l’umanità”. Gli echi degli orrori dell’eugenetica sopravvivono a tutt’oggi, facendo si che praticamente tutte le ricerche colleghino l’eugenetica a un tabù dell’intelligenza.

Dovremmo imparare la lezione della nostra storia sull’applicare alla scienza schemi eccessivamente riduzionisti e cercare, come dice Wiener, di “cessare di baciare la frusta che ci guida”. Così uno dei fattori chiave della scienza, ovvero spiegare elegantemente il complesso e ridurre la confusione alla comprensione, deve sempre ricordare ciò che Albert Einstein ha detto: “Tutto dovrebbe essere reso il più semplice possibile, ma non più semplice”. Abbiamo bisogno di abbracciare quell’inconoscibilità – quell’irriducibilità – del mondo reale a cui gli artisti, i biologi e coloro che lavorano nel confuso mondo delle arti liberali e delle scienze umane sono familiari.

Siamo tutti partecipanti

L’era della Guerra Fredda, quando Wiener stava scrivendo The Human Use of Human Beings, era un tempo definito dalla rapida espansione del capitalismo e del consumismo, l’inizio della corsa allo spazio e l’avvento della computazione. Era un momento in cui era più facile credere che i sistemi potessero essere controllati dall’esterno e che molti dei problemi del mondo sarebbero stati risolti attraverso la scienza e l’ingegneria.

La cibernetica descritta principalmente da Wiener in quel periodo riguardava sistemi di feedback che possono essere controllati o regolati da una prospettiva oggettiva. Questa cosiddetta cibernetica di primo ordine presuppone che lo scienziato, in quanto osservatore, possa capire cosa sta succedendo nel sistema, consentendo quindi all’ingegnere di progettare sistemi basati sull’osservazione o l’intuizione dello scienziato.

Oggi è ovvio che la maggior parte dei nostri problemi – cambiamento climatico, povertà, obesità e malattie croniche o terrorismo moderno- non possono essere risolti semplicemente con maggiori risorse e maggiore controllo. Questo perché essi sono il risultato di complessi sistemi adattivi che sono spesso il risultato degli strumenti utilizzati per risolvere i problemi nel passato, come la produttività sempre positivamente in aumento e i tentativi di controllare le cose. È qui che entra in gioco la cibernetica del secondo ordine, la cibernetica dei sistemi complessi autoadattativi, in cui anche l’osservatore fa parte del sistema stesso. Come afferma Kevin Slavin in Design as Participation, “Non sei bloccato nel traffico: sei il traffico” (NDT, La filosofia e la scienza occidentali sono “dualistiche” rispetto all’approccio non dualistico “orientale”. Su questo argomento potrebbe essere scritto un intero saggio, ma l’idea di un soggetto / oggetto o di un progettista / progetto è parzialmente collegata alla nozione di sé nella filosofia e nella religione occidentali. La nota è presente nel testo orginale).

Per rispondere efficacemente alle importanti sfide scientifiche dei nostri tempi, credo che dobbiamo considerare il mondo come tanti sistemi interconnessi, complessi, autoadattativi su scale e dimensioni che sono inconoscibili e in gran parte inseparabili dall’osservatore e dal progettista. In altre parole, siamo i partecipanti di molteplici sistemi evolutivi con diversi paesaggi che si adattano a diverse scale, dai nostri microbi alle nostre identità individuali alla società e alle nostre specie. Gli individui stessi sono sistemi composti da sistemi di sistemi, come le cellule del nostro corpo che si comportano più come progettisti di sistemi di noi stessi.

Mentre Wiener discute l’evoluzione biologica e l’evoluzione del linguaggio, non esplora l’idea di sfruttare le dinamiche evolutive per la scienza. L’evoluzione biologica delle singole specie – l’evoluzione genetica- è stata guidata dalla sopravvivenza e dalla riproduzione, instillando in noi obiettivi e desideri di procreare e crescere. Questo sistema si evolve continuamente per regolare la crescita, aumentare la diversità e la complessità e migliorare la propria capacità di adattamento, adattabilità e resilienza. In quanto progettisti che acquisiscono una crescente consapevolezza di questi sistemi più ampi, abbiamo obiettivi e metodologie definiti dagli input evolutivi e ambientali prodotti dai nostri contesti biologici e sociali. Ma le macchine con intelligenza emergente hanno obiettivi e metodologie distintamente differenti. Man mano che introduciamo le macchine nel sistema, non solo espanderanno/aumenteranno i singoli umani, ma anche – e soprattutto – aumenteranno i sistemi complessi nel loro insieme.

Qui è dove la formulazione problematica di “intelligenza artificiale” diventa evidente, in quanto suggerisce forme, obiettivi e metodi che stanno al di fuori dell’interazione con altri complessi sistemi adattivi. Invece di pensare all’intelligenza della macchina in termini di umani contro le macchine, dovremmo considerare il sistema che integra esseri umani e macchine – non l’intelligenza artificiale, ma l’intelligenza estesa. Invece di cercare di controllare, progettare o persino comprendere i sistemi, è più importante progettare sistemi che partecipano come elementi responsabili, consapevoli e robusti di sistemi ancora più complessi. E dobbiamo interrogare e adattare i nostri scopi e le nostre sensibilità come progettisti e componenti del sistema con un approccio molto più umile: Umiltà sopra il Controllo.

Potremmo chiamarla “progettazione partecipante” – progettare i sistemi come i e dai partecipanti – che è più simile all’aumento di una funzione prospera, dove la prosperità è una misura di vigore e di salute piuttosto che di scala o potere. Possiamo misurare la capacità dei sistemi di adattarsi creativamente, così come la loro capacità di recupero e la loro capacità di utilizzare le risorse in modo interessante.

Gli interventi migliori riguardano meno la risoluzione o l’ottimizzazione e più lo sviluppo di una sensibilità adeguata all’ambiente e al tempo. In questo modo sono più come la musica di un algoritmo. La musica parla di una sensibilità o “gusto” con molti elementi che si uniscono in una sorta di ordine emergente. La strumentazione può spingere o far sì che il sistema si adatti o si muova in modo imprevedibile e non programmato, pur avendo ancora un senso e coerenza. Usare la musica stessa come un dispositivo del sistema non è una nuova idea; nel 1707, Andrew Fletcher, uno scrittore e politico scozzese, disse: “Fammi fare le canzoni di una nazione, non mi interessa chi fa le sue leggi”.

Se scrivere canzoni invece che leggi è frivolo, bisogna ricordare che le canzoni durano più a lungo delle leggi, hanno svolto ruoli chiave in varie rivoluzioni sia drammatiche che morbide e finiscono per essere trasmesse da persona a persona insieme ai valori che portano. Non si tratta di musica o codice. Si tratta di cercare di influenzare il cambiamento operando al livello delle canzoni. Questo è espresso da Donella Meadows, tra gli altri, nel suo libro Thinking in Systems.

Meadows, nel suo saggio Leverage Points: Places to Intervene in a System, descrive come possiamo intervenire in un sistema complesso e auto-adattativo. Per lei, gli interventi che comportano il cambiamento di parametri o addirittura che modificano le regole non sono altrettanto potenti o fondamentali quanto i cambiamenti degli obiettivi e dei paradigmi di un sistema.

Quando Wiener discusse il nostro culto del progresso, disse: coloro che sostengono l’idea del progresso come un principio etico considerano questo processo di cambiamento illimitato e quasi-spontaneo come una buona cosa e come base su cui garantire alle generazioni future un Paradiso sulla Terra. È possibile credere nel progresso come un fatto senza credere nel progresso come principio etico; ma nel catechismo di molti americani, l’uno va con l’altro.2

Invece di discutere di “sostenibilità” come qualcosa da “risolvere” nel contesto di un mondo in cui più grande è meglio e più che sufficiente NON è troppo, forse dovremmo esaminare i valori e le valute delle funzioni di adattamento e considerare se sono adatti e appropriati per i sistemi a cui partecipiamo.

Conclusione: una cultura che fiorisce

Sviluppare una sensibilità e una cultura prospera e abbracciare una vasta gamma di misure di “successo” dipende meno dall’accumulo di potere e risorse e più dalla diversità e dalla ricchezza dell’esperienza. Questo è il cambio di paradigma di cui abbiamo bisogno. Questo ci fornirà una ricchezza di modelli tecnologici e culturali da cui trarre modelli per creare una società altamente adattabile. Questa diversità consente inoltre agli elementi del sistema di alimentarsi a vicenda senza l’imperativo di sfruttamento e appropriazione creato dalla monocultura della moneta unica. È probabile che questa nuova cultura si diffonda come musica, moda, spiritualità o altre forme d’arte.

Come nativo giapponese (NDT, Joichi Ito, nasce a Kyoto nel 1966 per poi spostarsi in Nord America molto giovane) sono rincuorato da un recente colloquio con un gruppo di studenti delle scuole medie, quando li ho stimolati su quello che pensavano dovessimo fare per l’ambiente, hanno presentato domande sul significato della felicità e sul ruolo degli umani in natura. Sono anche rincuorato nel vedere molti dei miei studenti al MIT Media Lab e nella classe Principles of Awareness che ho condiviso con il Venerabile Tenzin Priyadarshi, usare una varietà di parametri (valute) per misurare il loro successo e significato e affrontare direttamente la complessità di trovare il proprio posto nel nostro mondo complesso.

Sono anche rincuorato da organizzazioni come l’IEEE, che sta avviando linee guida progettuali per lo sviluppo dell’intelligenza artificiale sul benessere umano invece che sull’impatto economico. Il lavoro di Peter Seligman, Christopher Filardi e Margarita Mora di Conservation International è creativo ed entusiasmante perché avvicina la conservazione sostenendo la crescita degli indigeni, non minacciandola. Un altro incoraggiante esempio è quello dei sacerdoti shintoisti del Santuario di Ise, che hanno seminato e ricostruito il santuario ogni vent’anni per gli ultimi 1300 anni in celebrazione del rinnovamento e della qualità ciclica della natura.

Negli anni ’60 e ’70, il movimento hippy provò a mettere insieme un movimento “Tutta-la-Terra (Whole Earth)” (NDT, dalla Whole Earth Review prenderà spunto e origine il magazine Wired), ma poi il mondo tornò indietro verso la cultura del consumo e dei consumi di oggi. Spero e credo che accadrà un nuovo risveglio e che una nuova sensibilità causerà un cambiamento non lineare nel nostro comportamento attraverso una trasformazione culturale. Mentre possiamo e dovremmo continuare a lavorare su ogni livello del sistema per creare un mondo più resiliente, credo che il livello culturale sia lo strato con il maggior potenziale di correzione fondamentale lontano dal percorso autodistruttivo in cui ci troviamo attualmente. Penso che riguarderà ancora la musica e le arti dei ragazzi che riflettono e amplificano una nuova sensibilità: un allontanamento dall’avidità verso un mondo in cui “più che sufficiente è troppo”, e possiamo prosperare in armonia con La natura piuttosto che attraverso il controllo di essa.

 

 

Tags:

 

Share this Post