Immagini

Prossimi Concerti

Tanto Di Cappello Records

Vegan Riot

VegFacile - Go Vegan!

Animal Liberation Front
Home Articoli Varie L'Etica Di Ghost In The Shell (di Prismo)
L'Etica Di Ghost In The Shell (di Prismo) Stampa
Varie
Scritto da Joel   
Venerdì 23 Settembre 2016 09:00
Ghost In The Shell
L'Etica Di Ghost In The Shell (di Prismo)

http://www.prismomag.com/ghost-in-the-shell-etica/

Prismo

A vent'anni dalla sua uscita, l'anime di Mamoru Oshii ha ancora molte cose da dirci sui dilemmi etici legati alla creazione di un'intelligenza artificiale.

L'influenza che in Ghost in the Shell ha avuto il Cyborg Manifesto di Donna Haraway, cosi' come la grande attenzione nei confronti del corpo (umano e robotico), e' stata sottolineata piu' volte anche in un paio di ottime analisi in italiano. Ma l'anime diretto da Mamoru Oshii - ispirato al manga di Masamune Shirow - ha un altro tema centrale: le conseguenza etiche, sociali e politiche dell'avvento di una vera e propria intelligenza artificiale.

Nel 1995 Ghost in the Shell ha previsto quelli che sarebbero stati i temi etici centrali del discorso sull'intelligenza artificiale; anticipando questioni che stanno diventando di attualita' solamente oggi, in un mondo in cui gia' conviviamo con l'intelligenza artificiale.

D'accordo, per ora siamo molto indietro rispetto a quanto immaginato in GITS: siamo fermi alle intelligenze artificiali particolari, AI capaci di svolgere un solo compito (per esempio, battere il campione mondiale di Go) grazie alla potenza del machine learning, ma senza avere la minima consapevolezza di cio' che stanno facendo. Nel mondo di GITS, invece, fa la sua comparsa il Signore dei Pupazzi: un personaggio che nega di essere una AI, preferendo definirsi "un'entita' vivente e pensante che e' stata generata dal mare dell'informatica".

La distinzione e' molto interessante e sembra fare riferimento al fatto che nessuno ha programmato il Signore dei Pupazzi, originariamente un progetto segreto per lo spionaggio industriale, per diventare un'entita' cosciente, indipendente e autonoma; si e' evoluto da solo, grazie alle sue capacita' e al mare di dati a cui ha avuto accesso. Ma questo e' esattamente il modo in cui, secondo alcune teorie vicine alla singolarita' tecnologica, faranno la loro comparsa le intelligenze artificiali generali: AI in grado di fare qualunque cosa a livello umano che, secondo alcuni calcoli, potrebbero diventare realta' tra il 2025 e il 2040 (vale la pena di notare che GITS e' ambientato nel 2029).

Non solo: tutte le domande esistenziali che l'avvento di una AGI (Intelligenza Artificiale Generale - ovvero un'intelligenza artificiale autocosciente) ci costringerebbe ad affrontare sono gia' presenti in Ghost in the Shell, nei ragionamenti del maggiore Kusanagi (un cervello umano inserito in un corpo di cyborg) e del gia' citato Signore dei Pupazzi: da cosa scaturisce la coscienza in un essere artificiale? Quanto e' importante avere un corpo per essere definiti una persona? Come si fa a essere certi di aver acquisito una coscienza? Un essere artificiale puo' riprodursi? Cosa significano morte e nascita per una AI?

Alla prima di queste domande, risponde direttamente il maggiore Kusanagi nel piu' noto monologo di Ghost in the Shell:

Vi sono innumerevoli elementi che formano il corpo e la mente degli esseri umani, come innumerevoli sono i componenti che fanno di me un individuo con la propria personalita'. Certo, ho una faccia e una voce che mi distinguono da tutti gli altri, ma i miei pensieri e i miei ricordi appartengono unicamente a me e ho consapevolezza del mio destino. Ognuna di queste cose non e' che una piccola parte del tutto. Io raccolgo dati che uso a modo mio, e questo crea un miscuglio che mi da' forma come individuo e da cui emerge la mia coscienza.

Raccogliere dati e sfruttarli in modo personale, quindi, darebbe forma all'individuo, permettendo alla coscienza di emergere: esattamente il modo in cui ha preso "vita" il Signore dei Pupazzi. In questo senso, alcuni programmi come Watson di IBM potrebbero essere a un passo dal conquistare la coscienza di se'. Watson - noto soprattutto per aver sconfitto i campioni di Jeopardy, ma che ha applicazioni commerciali enormi - e' in effetti in grado di cercare dati in panieri non strutturati di informazioni, di analizzare e interpretare informazioni e imparare autonomamente da questi processi. Se e' "raccogliere dati e usarli a modo mio" che permette a una coscienza di emergere, allora Watson e' il candidato ideale per riuscire nell'impresa.

Ovviamente, non tutti sono d'accordo con un'affermazione del genere: senza entrare troppo nel dettaglio, il fisico David Deutsch rimprovera a tutte queste tesi di dare un eccessivo peso all'aspetto quantitativo. Dal suo punto di vista, e' sbagliato pensare che sia la quantita' di dati analizzati a consentire a un'intelligenza autonoma di emergere, perche' cio' che conta e' lo scarto qualitativo, che ancora non si capisce da cosa potrebbe scaturire.

Poniamo pero' che questa AGI un giorno compaia e affermi di essere dotata di coscienza: come fara' a dimostrarlo? Il test di Turing a cui si fa sempre riferimento potrebbe non bastare, visto che in molti, tra cui il professore di Filosofia di Oxford Luciano Floridi, sottolineano come fornisca una condizione necessaria, ma non sufficiente, a dimostrare che la AI abbia sviluppato una coscienza. Il test di Turing proverebbe solamente che l'intelligenza artificiale in questione e' in grado di simulare un comportamento intelligente, non che lo sia effettivamente. Costringeremo allora i robot intelligenti del futuro a fare il test dello specchio o altri esami a cui vengono solitamente sottoposti bambini o animali?

Forse, e piu' semplicemente, nessuno dovrebbe arrogarsi il diritto di mettere in dubbio l'autocoscienza professata da una AI. Il Signore dei Pupazzi la pensa in questo modo, nel momento in cui, rivolgendosi a un umano, afferma:

E tu, mi puoi dare prova della tua esistenza? Come puoi farlo se ne' la scienza moderna ne' la filosofia sanno spiegare cos'e' la vita. (...) Si potrebbe sostenere che anche il DNA non sia altro che un programma studiato per preservare se stesso. La vita e' diventata piu' complessa nell'immenso mare dell'informatica. E la vita, quando si organizza in specie, fa dei suoi geni il proprio sistema mnemonico; quindi l'uomo e' un individuo solo in virtu' della sua intangibile memoria. La memoria non puo' essere definita, eppure definisce il genere umano. L'avvento dei computer e il conseguente accumulo di innumerevoli informazioni ha dato vita a un nuovo sistema di memoria e di pensiero parallelo al vostro. L'umanita' ha sottovalutato le conseguenze della computerizzazione.

Perche' dovremmo chiedere a robot intelligenti di fornire prove oggettive che nemmeno noi siamo in grado di dare? Potremmo forse risparmiare loro di restare intrappolati in dubbi esistenziali sull'autenticita' delle loro vite e delle esperienze vissute; dubbi che invece attanagliano il maggiore Kusanagi, che ne parla in un dialogo con il suo partner Batou:

K. Probabilmente tutti i cyborg hanno la tendenza a essere paranoici riguardo alle proprie origini. A volte sospetto di non essere cio' che credo, di essere morta molto tempo fa e che qualcuno abbia preso il mio cervello e l'abbia infilato in questo corpo. O forse in realta' non sono mai esistita e sono completamente sintetica.

B. Lo sa che ha delle cellule cerebrali umane in quel suo guscio di titanio. Tutti la trattano come un essere umano, quindi la smetta di angosciarsi.

K. Ma e' proprio questo il punto, e' solo questo che mi fa sentire umana: il modo in cui mi trattano. Chi lo sa cosa c'e' nelle nostre teste, tu l'hai mai visto il tuo cervello?

B. Mi sembra che lei cominci a dubitare del suo stesso spirito.

K. E se un cervello cibernetico potesse generare da solo il proprio spirito, creare la propria anima. Se questo accadesse, quale sarebbe l'importanza di essere totalmente umani?


La risposta a quest'ultima domanda potrebbe risiedere in una funzione biologica tipicamente umana (e animale) che, ancora, non ha un'alternativa valida nel mondo robotico: la capacita' di riprodursi. In Ghost in the Shell, la soluzione a questa carenza viene trovata nella fusione tra due entita', Kusanagi e il Signore dei Pupazzi, allo scopo di dare vita a un ente terzo completamente nuovo. Ma e' ovvio che fondersi e' cosa ben diversa rispetto al fare figli.

Qual e' allora l'equivalente robotico del generare prole? La questione viene affrontata in un saggio dal professore di legge Ryan Calo, secondo il quale le macchine dotate di coscienza del futuro otterranno, proprio in virtu' della loro coscienza, l'accesso ai diritti universali. Tra questi diritti c'e' ovviamente quello alla procreazione - che nel caso delle AI (secondo Calo) equivale al diritto di produrre copie - e il diritto al voto. La combinazione di questi due diritti potrebbe rivelarsi micidiale: in questo scenario, secondo Calo, le intelligenze artificiali potrebbero infatti cominciare a creare copie illimitate di loro stesse fino a conquistare, attraverso il voto, il potere politico. Come evitare uno scenario del genere?

Probabilmente, l'unico modo per evitare una proliferazione incontrollata di questo tipo e' negare alle AI la possibilita' di riprodursi. Non si tratta di niente di amorale, se si considera che una copia, in verita', non e' l'equivalente robotico di un figlio; semmai e' l'equivalente robotico di un clone. Anche il Signore dei Pupazzi la pensa cosi', ma aggiunge un particolare estremamente interessante: cosi' come una specie che non varia diventa molto piu' debole (ed e' la ragione per cui, generalmente, i cani meticci godono di migliore salute dei cani di razza), allo stesso modo una stirpe robotica costituita da copie sarebbe estremamente vulnerabile.

Una copia e' un'immagine identica all'originale: esiste la possibilita' che un singolo virus riesca a distruggere un'intera serie di sistemi. Inoltre le copie non sono in grado di riprodurre la varieta' del mondo vivente. La vita si perpetua grazie alla diversita', il che implica anche la capacita' di sacrificarsi, se necessario. Nelle cellule si ripete il processo di generazione e rigenerazione, finche' un giorno esse muoiono cancellando cosi' un'intera serie di informazioni. Solo i geni rimangono, perche' ripetere costantemente questo ciclo? Per sopravvivere, evitando le debolezza insite in un sistema immutabile.

E' proprio per questo che, nell'impossibilita' di generare una vera prole, l'unica soluzione individuata dal Signore dei Pupazzi passa per la fusione con Kusanagi, che gli consente in questo modo di conquistare uno dei due "processi basilari di tutti gli organismi viventi: la riproduzione e la morte".

In questo discorso, l'assente eccellente e' infatti proprio la morte. Per forza: come puo' morire un robot o un'entita' che esiste solo a livello software come la AI? Sempre allo scopo di evitare la dominazione delle macchine (sforzi che, se davvero avverra' quanto prefigurato, si riveleranno sicuramente vani), solitamente si considera necessario che sia l'uomo a detenere il controllo e a decidere in che momento un robot debba essere spento per sempre, perche' obsoleto o perche' pericoloso.

Ovviamente, un'intelligenza artificiale dotata di coscienza sarebbe disposta a tutto per evitare di essere spenta, ragion per cui, se mai arrivera' il momento, si dovranno programmare questi aspetti con molta attenzione (se ne parla, per esempio, nel noto saggio The AI Revolution). Ma siamo davvero sicuri di avere il diritto di spegnere (e quindi uccidere) delle intelligenze artificiali coscienti?

Se essere "macchine coscienti" significa conquistare i diritti universali (come logicamente dovrebbe avvenire), allora non si puo' negare il diritto piu' importante in assoluto, il diritto alla vita, che recita: "Ogni individuo ha diritto alla vita, alla liberta' ed alla sicurezza della propria persona". Una volta compiuto un passo del genere, non avremo piu' alcun controllo sulla "vita" delle intelligenze artificiali, che si vedranno garantito il diritto alla vita senza essere soggette all'obbligo della morte. Che rapporti si creeranno a quel punto tra umani e AI? Impossibile a dirsi, almeno basandosi su Ghost in the Shell. Qualche possibile risposta a questa domanda si puo' invece trovare in un altro manga di Masamune Shirow: Appleseed. Ma non aspettatevi niente di rassicurante.
Andrea Daniele Signorelli

.LINKS.
Fonte: L'Etica Di Ghost In The Shell (di Prismo)
Home Page Prismo: http://www.prismomag.com/
Facebook Prismo: https://www.facebook.com/prismomag
Twitter Prismo: https://twitter.com/PRISMOMAG

.CONDIVIDI.