Tre problemi per la Singolarità

[stefano....@gmail.com]

Un breve contributo filosofico alla Singolarità, più che altro
l'espressione di alcune incertezze personali, dal punto di vista di un
profano dell'argomento.
Le immagini sono state sostituite da un link o sono descritte.
In fondo ho aggiunto le risposte di David Orban.

Tre problemi per la Singolarità:

Le teorie dell’avvento della Singolarità, dai pionierismi di von
Neumann alle rappresentazioni ormai classiche di Kurzweil, danno luogo
ad almeno tre problemi.

1- Un problema epistemologico

Secondo queste teorie la Singolarità, ovvero il momento di crescita
della tecnologia dove essa inizia a svilupparsi ad una velocità
incomprensibile per la comune mente umana, corrisponde all’inevitabile
punto d’arrivo di un processo di sviluppo che dura da miliardi di
anni; per la precisione, Kurzweil si spinge a ritenere che
l’evoluzione degli enti sia considerabile come un evento integrale,
del quale fanno parte a pieno titolo entità normalmente considerate
separatamente come la Fisica, la Biologia, il Mentale e la Tecnologia,
fino ad arrivare ad un’integrazione di domini vagamente anassagoriana.
Questa la rappresentazione delle “Sei epoche dell’Evoluzione”:

http://www.estropico.com/c6975f20.gif


Già in questa rappresentazione potremmo individuare alcune
imprecisioni di natura epistemologica:
tanto per cominciare, l’utilizzo della parola “cervelli” (Brains) per
identificare la terza epoca dà luogo ad una difficoltà nominalistica.
Non per niente ho corretto questa parola con “il Mentale”; le
informazioni a cui si fa riferimento (“Informazioni in circuiti
neurali”), infatti, sono qualcosa di qualitativamente diverso rispetto
alle informazioni delle epoche precedenti; le informazioni in
strutture atomiche (Epoca 1, Fisica e Chimica) e le informazioni nel
DNA (Epoca 2, Biologia) sono informazioni di natura descrittiva che
possono essere tratte dal solo fatto che una cosa esista; per la
precisione, sono informazioni che ineriscono alla struttura degli enti
che le contengono e all’eventuale sviluppo dei medesimi.
Le informazioni della terza epoca, o almeno quelle interessanti per lo
sviluppo della curva, non ineriscono però alla struttura del cervello
(il modo in cui il cervello è fatto) bensì al suo contenuto, ovvero i
significati che stanno nella mente.
La scelta della parola “cervelli” a scapito della parola “mente” è in
realtà una scelta di comodità, in quanto lo scarto tra il cerebrale e
il mentale è ancora qualcosa di oscuro per le Scienze Cognitive;
invero, nulla ci autorizza a pensare che tra le due cose esista una
relazione di tipo causale. Cervello e Mente sono indubbiamente in
relazione; tuttavia, la genetica della seconda è ancora un mistero. Se
io alzo un braccio, viene prima l’attivazione neuro-motoria del
braccio o, al contrario, è la mia volontà di alzarlo ad innescare
processi neurofisiologici?
Contrariamente a Riduzionismi e Derivazionismi di vario genere, le
concezioni paralleliste dello studio della mente riconoscono che non
vi è alcuna ragione per considerare il Mentale come un epifenomeno del
Cerebrale; nulla esclude che ciò che identifica la Mente abbia
un’origine differente, specifica e irriducibile, rispetto ai processi
di natura fisiologica che pure sembrano permetterne l’esistenza.
Un’eventuale origine diversa dal cerebrale per il mentale escluderebbe
la mente dalla struttura lineare delle Sei epoche dell’evoluzione:
essa risulterebbe essere un elemento entrato dall’esterno che ne
condiziona inesorabilmente lo sviluppo.
Questo è un punto di estrema importanza: a permettere l’insorgere
della Quarta epoca (la Tecnologia) non è la semplice presenza dei
cervelli, bensì la creatività e l’intelligenza degli esseri umani,
fenomeni che hanno sede nella mente. Se non fosse così, anche un
cervello morto, magari attivato da scariche elettriche come per il
Mostro di Frankenstein, sarebbe sufficiente per garantire la
continuità dell’Evoluzione.

Fatta questa precisazione veniamo al vero problema della trattazione:
secondo la prospettiva di Kurzweil, l’evoluzione delle epoche avviene
in maniera esponenziale e non lineare; ciò è evidente soprattutto
nello sviluppo della Tecnologia, la quale sembra effettivamente
progredire secondo un ritmo crescente.
In questo caso non siamo tenuti a chiederci se le previsioni di
Kurzweil siano vere o false, bensì se siano effettivamente
realistiche.
Tanto per cominciare, la previsione in esame dispone in realtà di una
sola argomentazione, di natura fortemente induttivista: Kurzweil trae
l’assunzione secondo cui la Tecnologia si comporterà in un certo modo
dal fatto che finora si è comportata in quel modo. L’induzione, come
tutti gli epistemologi sanno, è un procedimento insidioso, le cui
difficoltà sono state considerate da molti illustri pensatori, da
Bacone a Popper passando per Hume.
La nostra annotazione procede però su un binario differente.
La concezione dell’evoluzione di Kurzweil è permeata da un entusiasmo
che rischia di farci perdere di vista alcuni caratteri fondamentali
degli oggetti presi in esame.
Il più importante di questi è l’irriducibile carattere della
Tecnologia, che la discrimina inesorabilmente rispetto ai precedenti
protagonisti della curva.
Biologia, Chimica e Mente dispongono infatti di uno sviluppo
essenzialmente autonomo; se non vogliamo considerare l’ipotesi della
Provvidenza Divina, siamo tenuti ad affermare che queste entità
abbiano camminato, nella loro proverbiale lentezza, in totale
autonomia sulla linea della curva.
La Tecnologia, al contrario, non è capace di progredire da sola: essa
necessita irrimediabilmente dell’intenzionalità, dell’intelligenza e
dell’impegno concreto degli esseri umani.
I più grandi sostenitori della Singolarità, a questo punto, potrebbero
obiettare che una caratteristica fondamentale della Tecnologia del
futuro è per l’appunto quella di migliorarsi e modificarsi da sola;
tuttavia, anch’essi dovranno ammettere che per buona parte dello
sviluppo della curva, una parte in cui ci troviamo tuttora, la
medesima ha necessitato di essere creata, curata e guidata come un
ingombrante neonato.
La Tecnologia è fatta dalle persone.
Questo non è soltanto un aspetto discriminante utile sul piano
teorico, ma è anche un elemento di estrema importanza dal punto di
vista del realismo delle rappresentazioni.
Ora, per facilitarci nell’impresa, osserviamo una delle curve care ai
teorici della Singolarità; si tratta di un lavoro di von Neumann, ed è
la rappresentazione più semplice del carattere esponenziale dello
sviluppo della tecnologia, aspetto che Kurzweil avrebbe poi applicato
all’intera evoluzione:

http://www.estropico.com/id289.htm (la prima immagine)

Come si può vedere, per l’appunto, la tecnologia progredisce
esponenzialmente.
Possiamo forse dire che essa, finora, abbia lavorato in questo modo:
tuttavia, dobbiamo ricordarci che non si tratta di un ente autonomo,
bensì è guidata dalle persone che la creano e la utilizzano.
Perché questo aspetto è così importante?
Perché le persone, normalmente, hanno la brutta abitudine di possedere
delle caratteristiche individuali: in questo momento ci interessiamo
alle limitazioni dei soggetti umani, limitazioni di carattere
biologico, psichico, etico, ideologico, intellettuale ed
esistenziale.
Il significato di queste limitazioni consiste nel fatto che le persone
(che fanno e guidano la tecnologia) da un momento all’altro possono:
- morire
- commettere errori
- fare stupidaggini

La curva di Kurzweil e soci, dunque, per essere davvero realistica,
dev’essere integrata del fattore umano: esso potrebbe essere
considerato come l’unità indefinibile di calcolo che può permettere
alla linea della curva di schizzare improvvisamente in tutte le
possibili direzioni.
La vera curva è questa:

(la mia curva è identica a quella di von Neumann, con una raggiera di
percorsi possibili che partono in tutte le direzioni dall'estremo
superiore)

,
se ci azzardiamo a considerare il limite superiore come il punto in
cui siamo adesso fino al quale, per quanto ne sappiamo, sembra essere
andato tutto bene.
Notoriamente, il fattore umano è quel fattore che porta disordine e
rende impossibile, al di là della pura speculazione e
dell’inesauribile fantasia dei teorici, fare previsioni.
E’ un punto che va considerato.

2- Un problema logico:

“ L'intelligenza non-biologica avrà accesso al proprio design e potrà
migliorarsi in un ciclo sempre più veloce di riprogettazione.
Arriveremo al punto in cui il progresso tecnologico sarà talmente
rapido da essere incomprensibile per l'intelletto umano non
incrementato. Quel momento contrassegnerà la singolarità.”

Questa è una delle definizioni più semplici della Singolarità date da
Kurzweil.
Mi pare evidente la difficoltà logica che ne deriva, anche se più
difficile è la sua esposizione in termini analitici.
Vediamo di andare con ordine.
L’intelligenza non-biologica (vale a dire quella artificiale) migliora
se stessa ad un ritmo crescente; si tratta della tecnologia che si
sviluppa esponenzialmente.
Al “momento che contrassegna la singolarità”, essa si sviluppa così
velocemente che l’intelletto umano ha bisogno di “incrementarsi” per
poterle stare dietro.
Il punto è questo: come si incrementa, secondo questi teorici, il buon
vecchio intelletto umano? Naturalmente attraverso la tecnologia
(nanobot neurali, impianti cibernetici ecc.).
Non è chiaro, a questo punto, se la tecnologia che incrementa
l’intelletto umano sarà fatta dagli uomini o dalle Intelligenze
Artificiali.
Il problema però, in verità, non cambia: sarebbe come a dire che non
solo la tecnologia deve svilupparsi ma, mentre si sviluppa, deve
sviluppare un’ulteriore tecnologia specifica per adeguare la mente
umana alla comprensione del suo stesso sviluppo allo stato attuale.
Ora: è ovvio che per adeguare qualcosa alla comprensione di
qualcos’altro questo qualcos’altro dev’essere noto. Ragionevolmente,
la tecnologia deputata a far comprendere lo sviluppo della tecnologia
alla mente umana inizia a svilupparsi dopo che questo sviluppo è stato
raggiunto.
Per cui abbiamo due tecnologie; la T1, che si sviluppa autonomamente,
e la T2 che si sviluppa per far comprendere la T1 alla mente umana.
Noi sappiamo, però, che la T1 si sviluppa esponenzialmente, e anche
che la T2 è in ritardo rispetto alla T1: raffiguriamo il tutto
all’interno di uno schema:

Step 0 (Singolarità) Step 1 Step
2 Step 3 Step 4

T1 (inizio) T1 v. 1.0 T1 v.
2.0 T1 v. 4.0 T1 v. 8.0
… T2 (inizio) T2 v.
1.0 T2 v. 2.0 T2 v. 4.0


Le “v.” ineriscono alla versione della Tecnologia in questione:
essendo che la T1 si sviluppa in modo esponenziale, e che ha già
iniziato a svilupparsi quando la T2 entra in azione per renderla
comprensibile al povero intelletto umano, ogniqualvolta la T2 è
ultimata, essa si riferisce ad una versione di T1 già superata.
Questo, in realtà, non è affatto un fenomeno nuovo: anche le Scienze
Sociali ci insegnano che, nella maggior parte dei casi, quando si
inizia a discutere di una tecnologia, ci si rende conto del suo
impatto e si cominciano a esaminare i suoi caratteri e le sue
conseguenze, essa è già stata soppiantata o integrata da qualcosa di
completamente nuovo; fa già parte della Storia, ed è proprio per
questo che può essere presa in esame.
Nella concezione di Kurzweil dunque, la tecnologia non è soltanto
troppo veloce per essere compresa dalla mente umana, ma è anche troppo
veloce per essere compresa da se stessa.
Il problema logico della curva esponenziale può essere espresso in
questo modo: nel contesto della Singolarità, non esiste una meta-
tecnologia, non nel senso in cui nella mente umana esiste una
metacognizione.
Verrebbe da chiedersi, a questo punto, quale sia il destino della
mente umana, che è la causa di questa scomoda difficoltà: dato che la
tecnologia integrale (e dunque anche la T2) si sviluppa ormai troppo
velocemente per essere da lei compresa, la mente umana se ne starebbe
buona buona ad aspettare che si sviluppi una tecnologia adeguata a
farla entrare nella corsa.
A lungo andare, probabilmente, si renderebbe necessaria un’ulteriore
tecnologia per far comprendere l’utilizzo della T2; non mi addentro
nel regressum ad infinitum che vedrebbe il susseguirsi di T3, T4, T5
eccetera davanti allo sguardo inerme degli esseri umani.
Sguardo che, comunque, probabilmente non si accorgerebbe nemmeno di
ciò che accade davanti a sè: perché è troppo lento.
In verità, gli scenari possibili in questo contesto sono tre:
1- gli elementi di T2 impiantati nella mente umana si aggiornano
costantemente; tuttavia, il loro aggiornamento è sempre più rapido e
potenzialmente eterno, poiché impegnato a inseguire lo sviluppo di T1,
tanto da rendere impossibile per il soggetto umano soffermarsi su un
contenuto
2- il soggetto umano è virtualmente costretto a modificare
continuamente i propri impianti per approssimarsi il più possibile
alla giusta comprensione e padronanza di T1; si tratterebbe di una
corsa frenetica al continuo aggiornamento dei propri hardware. Non mi
soffermo a considerare gli effetti economici e sociali di questo
scenario, ma mi pare ovvio che sarebbero ben diversi dalla
“eliminazione della povertà” e della stratificazione sociale
prospettate da Kurzweil
3- T2 si modifica troppo velocemente per essere effettivamente
impiegata (impiantata); il soggetto umano è totalmente escluso dalla
gara delle tecnologie, che si sviluppano troppo rapidamente per essere
anche solo notate.
Vale a dire che, quando la Singolarità arriverà, non ce ne accorgeremo
nemmeno. Paradossalmente, per quanto ne sappiamo potrebbe essere già
iniziata.


3- Un problema antropologico:

Mi pare, fino ad ora, di aver dato adito ad un certo numero di
ragionevoli dubbi. Tuttavia, nulla esclude che, non avendo io dei
nanobot impiantati nel cervello, non abbia saputo comprendere il senso
di un evento così strabiliante e per sua natura inconcepibile come la
Singolarità.
In questo senso, si rende necessario annullare temporaneamente le
precedenti obiezioni e considerare se la Singolarità, quand’anche sia
avvenuta e si sia manifestata secondo le prescrizioni dei suoi
profeti, mostri di essere effettivamente un evento desiderabile e
positivo.
In questo contesto assumono importanza le valenze etico-sociali della
Singolarità: Kurzweil vede infatti in essa la realizzazione
dell’utopia di una società perfetta, dove i disagi come la povertà, la
malattia e il malessere generale sono eliminati dallo strapotere e
dalla completa accessibilità della tecnologia.
La conseguenza determinante dell’avvento della Singolarità è quindi
l’annullamento del famoso digital divide qui visto, in un certo modo,
come la causa di tutti i mali.
Con questo fenomeno si intende la delicata divisione che si instaura
tra coloro che hanno accesso alle tecnologie e coloro che non lo
hanno: nel mondo dei nuovi media, e ancora di più nel mondo della
Singolarità, ha effettivamente senso ritenere che chi ha liberamente
accesso alle tecnologie, ovvero ad uno svariatissimo e sempre più
ricco insieme di risorse, sia in una posizione di superiorità nei
rispetti di chi non gode del medesimo privilegio.
Vi sono, in realtà, almeno due concezioni del digital divide: la
prima, quella classica, lo intende soprattutto come una difficoltà di
origine politica, culturale ed economica.
La seconda, in modo decisamente più fine, afferma che al di là di
questo genere di limitazioni il digital divide è determinato anche da
impedimenti legati all’usabilità delle tecnologie, non sempre
facilitante, e ad elementi psicologici come i sentimenti di diffidenza
e di timore che possono scaturire dall’incontro con esse.
Io trovo entrambe queste concezioni profondamente limitate.
Chiunque si sia premurato di formulare gli assunti del digital divide
ha peccato, innanzitutto, di ingenuità; si è dato sempre per scontato
che l’utilizzo della tecnologia sia qualcosa di allettante per tutti.
Bisognerebbe invece considerare che nel mondo esiste un certo numero
di persone, per quanto esiguo, che non è per nulla interessato alla
tecnologia, o perlomeno ai suoi sviluppi più recenti.
E’ questa la forma definitiva e irriducibile del digital divide.
Facciamo un esempio concreto:
durante le mie riflessioni in merito ai problemi della Singolarità, mi
sono permesso una fantasia: mi sono divertito a immaginare un giovane
adepto della medesima, magari fornito dei migliori modelli di impianti
cibernetici, che scalava pazientemente una vetta delle Ardenne (anche
se probabilmente si teletrasporterebbe, o qualcosa del genere) per
raggiungere uno sperduto monastero Certosino e cercare di convincere
lo sparuto manipolo di frati a farsi impiantare dei nanobot nel
cervello.
La mia fantasia si concludeva col giovane adepto cacciato fuori a
sante pedate.
Questo è certamente un esempio estremo e comico, ma non mi pare
surreale; in verità, se anche un solo uomo al mondo si rifiutasse, per
qualunque lecito motivo, di farsi “incrementare l’intelletto”
artificialmente, egli sarebbe per sempre tagliato fuori dalla società
basata su questo genere di pratiche.
Egli, probabilmente, non potrebbe nemmeno comunicare con i suoi simili
e stabilire relazioni sociali con loro, in quanto non potrebbe
“condividere mentalmente esperienze” né tantomeno parlare abbastanza
veloce.
La prima conseguenza sociale fondamentale della Singolarità è la
costituzione di un digital divide assoluto e insuperabile, ovvero una
vera e propria creazione di razze dicotomiche: esseri umani
cibernetici ed esseri umani non-cibernetici.
( In verità, ci si potrebbe anche chiedere, tra il monaco certosino e
l’adepto della Singolarità con dei chip al posto del cervello, chi sia
effettivamente più uomo; ma, visto che i teorici della Singolarità ci
sguazzano in queste suggestioni cyberpunk, lasceremo correre).
La trattazione antropologica della Singolarità potrebbe ora scorrere
su binari sempre più filosofici: un altro punto debole della
concezione di Kurzweil risiede forse nella sua concezione
dell’incremento intellettivo come evoluzione dell’essere umano.
Qualcuno potrebbe obiettare che l’accumulo rapidissimo di informazioni
e conoscenze non ha nulla a che fare con la maturazione esistenziale,
la quale sembrerebbe basarsi di più sull’esperienza concreta di prove,
disagi e sofferenze come la vita li offre… una ricchezza che la
Singolarità vorrebbe strapparci. In questo senso, la seconda
conseguenza sociale fondamentale della Singolarità sarebbe l’aridità
della conoscenza, svuotata dell’intrigante e importante percorso
faticoso che normalmente conduce alla sua acquisizione. Si potrebbe
altresì dire che un’informazione totalmente e immediatamente
accessibile non è un’informazione interessante.
Da ultimo, come diretta conseguenza della seconda, la terza
conseguenza sociale fondamentale della Singolarità sarebbe una vita
estremamente noiosa: ma questo, effettivamente, dipende anche da
quanto i nanobot del cervello sono in grado di stimolare le zone
edoniche del medesimo. In speculazioni ingegneristiche di questo tipo
non ho la qualifica per addentrarmi.




Le risposte di David Orban:

" 1. La considerazione fondamentale che fai, "la tecnologia è fatta di
persone" è oggi corretta. Fintantoché non ci saranno attori non-umani
autonomi sulla scena planetaria lo sviluppo dipenderà da noi. Tuttavia
ci sono due aspetti delle conclusioni che trai che sono da correggere
da una parte e analizzare meglio dall'altra. Sull'immagine che hai
disegnato la variazione a raggiera dei possibili sviluppi non può
andare all'indietro nel tempo! Questo è un semplice errore. Le linee
non possono che essere al massimo verticali. Ma che cosa significa
averne ad una pendenza maggiore della curva esponenziale? La presenza
di uno sviluppo ancora più rapido. E questo verrebbe semplicemente
incluso nell'inviluppo della curva. Infatti, ricorderai che ho messo
accento sul fatto che la curva è l'inviluppo di molti diversi
passaggi, scoperte, sconfitte, condivisioni di novità rivoluzionarie,
ecc. Non devi vedere la curva come qualcosa di matematicamente
predeterminato, ma come un fenomeno emergente che si osserva al meglio
a posteriori, quando si tolgono di mezzo tutti i vicoli ciechi e i
tentativi sbagliati e rimangono le tecnologie vincenti adottate
necessariamente da tutti. Anche la pendenza particolare della curva in
un dato punto non è predeterminata, ma è la massima possibile in base
ai passaggi avvenuti precedentemente.

2. Non è detto che gli umani debbano e vogliano apprendere a fondo le
tecnologie che compongono la Singolarità. Come oggi molti di noi non
sanno come funziona una macchina o un telefono cellulare. Il guaio è
che la Singolarità può cambiare l'ambiente stesso e le sue interazioni
in modo incomprensibile. La trasformazione dell'umanità che descrivi è
chiamata transumanesimo. E' un movimento a sua volta articolato che
cerca di capire come l'umanità cambierà e che cosa potrà diventare.
Quando concludi dicendo che la Singolarità potrebbe essere già in
corso, hai ragione in due distinti sensi: da una parte l'avvento
stesso della Singolarità può essere secondo alcuni relativamente
lento, dall'altra parte, secondo alcuni modelli spinti, la Singolarità
è già avvenuta e l'Universo che osserviamo e noi stessi fanno parte di
una simulazione completa della realtà.
http://www.humanityplus.org/
http://www.simulation-argument.com/

3. E' fondamentale preservare la libertà delle persone, attuali e
future, a prescindere dalle loro capacità. Questa libertà è in aumento
e l'aumento stesso va preservato. Se, attrezzati con tutte le
necessarie conoscenze, un gruppo di persone decidesse di voler
mantenere il proprio funzionamento organico e di organizzazione
sociale sotto un dato livello tecnologico, allora questo dovrebbe
essere rispettato. Anzi, lo sviluppo di una data società si può anche
oggi misurare dalla sua capacità di dedicare le risorse necessarie per
il rispetto di queste decisioni.
http://www.kk.org/thetechnium/archives/2009/02/amish_hackers_a.php "

Il dibattito è aperto ai commenti di tutti.
S. Triberti