Blog — Intenzioni

Appunti cibernetici

§

L’intelligenza artificiale sostituira coloro che temono di essere sostituiti da essa.

§

La cosa piu strana dell’intelligenza artificiale e che ci sono persone che, dopo aver dedicato anni alla formulazione di modelli giganteschi capaci di imitare il linguaggio umano, si inorridiscono nel constatare di aver creato modelli giganteschi che imitano il linguaggio umano.

§

Le architetture di apprendimento profondo alla base dell’attuale intelligenza artificiale sono catalizzate da algoritmi composti da espressioni matematiche piuttosto semplici, come la moltiplicazione di matrici, la differenziazione e le funzioni non lineari. Questo di per se non e sufficiente a creare una minaccia esistenziale per l’umanita.

§

Quattro anni fa, quando scrissi sulla disoccupazione tecnologica, la stragrande maggioranza dei ricercatori credeva che i lavori artistici¹ non potessero essere automatizzati perche coinvolgevano «immaginazione», «creativita» e altre qualita «eminentemente umane». Oggi, quelle stesse persone vogliono censurare le intelligenze artificiali capaci di generare opere artistiche. In fondo, lo stesso falso ragionamento prevale: credere che l’arte si crei ex nihilo con bacchette magiche come il genio e l’immaginazione, e non attraverso l’apprendimento di tecniche concrete e l’ispirazione tratta da centinaia di altre opere.

§

Immagino che sia impossibile usare il linguaggio, e persino pensare chiaramente, per coloro che si lamentano del termine «intelligenza artificiale». Devono credere che il calcolo infinitesimale si faccia con i sassolini, che i geometri vadano in campagna a lavorare la terra, e che i filosofi perdano tempo parlando di gnoseologia quando dovrebbero predicare il loro amore per la sapienza.

§

L’intelligenza umana e determinata dall’evoluzione della specie e, percio, specializzata nelle poche porzioni della realta necessarie alla sua sopravvivenza. Lo stesso possiamo dire dell’intelligenza di qualsiasi altro animale. Usare l’essere umano come metro di misura dell’intelligenza implica un pregiudizio evolutivo arbitrario verso le sue realta quotidiane. Questo pregiudizio implica anche una limitazione della nostra definizione di intelligenza, cosi come dei possibili sviluppi delle intelligenze artificiali.

§

La scarsa conoscenza scientifica che abbiamo sull’intelligenza e sulla coscienza non e sufficiente a respingere l’idea che le macchine possano essere intelligenti o coscienti. In ogni caso, gli standard umani sono una metafora povera per cio che l’intelligenza artificiale e, e una limitazione per cio che potrebbe essere.

20 dicembre 2022

§

Appendice

Aquila non capit muscas, ma se ho gia perso il mio tempo guardando questo, che almeno valga come avvertimento per qualcun altro: ecco degli appunti critici alla conferenza di Carlos Madrid sobre inteligencia artificial.

1. La sua rassegna storica, pur non pretendendo apertamente di essere dettagliata, e piuttosto imprecisa. La ricerca non si «spense per dosi di realta» negli anni ‘70. In realta, gia dagli anni ’60 esisteva l’approccio delle reti neurali profonde e probabilistiche (cfr. Rosenblatt, Steinbuch). Verso la fine degli anni ’60 e l’inizio degli anni ’70 si era gia raggiunto l’«apprendimento» in diversi modelli. Negli anni ’70, Seppo Linnainmaa elaboro l’algoritmo di retropropagazione, mentre Amari e Werbos lo utilizzarono per collegare le reti neurali con la discesa stocastica del gradiente.

Allo stesso modo, la storia continuo nei decenni successivi e fino ai nostri giorni in maniera diversa da come viene presentata. In generale, i salti storici che si fanno sono piuttosto grossolani. Arrivare a Deep Blue come unico traguardo specifico degno di nota, dicendo che il probabilistico inizia negli anni ’90 con le reti bayesiane, e tutto erroneo: non e vero che inizi negli anni ’90 (bensi 30 anni prima), ne e vero che inizi con le reti bayesiane, ne e vero che l’architettura bayesiana sia quella oggi utilizzata per i modelli state of the art.

2. Intorno al minuto 46:20 si dice che i computer sono condannati a «pensare logicamente e assiomaticamente» secondo certe regole. Vorrei chiedere a Carlos di precisare in che senso e in che modo l’output di un’architettura transformer sia assiomatico.

Poco dopo, oltre ad alludere a un «pensiero semiformale» (non so se qualcuno sia in grado di spiegare rigorosamente quel termine), ha aggiunto qualcosa come il fatto che gli umani si differenziano dalle macchine perche pensano anche con «simboli geometrici e topologici». Potrebbe spiegare esattamente cosa intende con questo e perche si differenzia dal «pensare logicamente o algebricamente», o perche questo e intelligente, o perche ci differenzia dalle macchine? Potrebbe inoltre giustificare perche, secondo lui, una macchina non e capace di rappresentazioni geometriche ma si algebriche? E gia che ci siamo, di che natura sono allora le rappresentazioni multidimensionali che un transformer apprende durante l’addestramento, e in che senso non sono geometriche le trasformazioni di vettori e matrici che effettua? Quali parti della geometria sono impossibili da formulare in termini algebrici e, tra queste, quali restringono lo sviluppo dell’intelligenza?

3. Per quanto riguarda l’argomento della stanza cinese (~47:25), sebbene abbia il suo fulcro di verita, e una caricatura dei modelli. I modelli moderni non hanno «regole» da seguire alla lettera, ne un «manuale» al di fuori del quale non funzionano. Mi sembra che Carlos stia pensando ad algoritmi standard e non alle architetture sviluppate da decenni. Proprio qualcosa di interessante di questi modelli e la loro natura non deterministica. Hanno proprieta «emergenti», non funzionano sulla base di operazioni precedentemente definite, e sono capaci di offrire risposte coerenti e veritiere di fronte a situazioni o problemi completamente nuovi (mai «visti» prima dal modello).

In ogni caso, nell’esempio della stanza, puo Carlos (o qualsiasi altro essere umano vivente o passato) spiegare esattamente quali processi mentali e operativi dovrebbe compiere la persona dentro la stanza affinche possiamo ammettere che comprende e ragiona? Puo darci la lista esatta dei requisiti necessari perche si possa dire che un determinato ente ragiona o non ragiona? Quanti premi Nobel calcola che sarebbero necessari per rispondere a queste domande?

Per essere piu chiaro: non sappiamo definire quali processi psicologici e neurologici hanno luogo quando «comprendiamo», quindi alludere a quei processi e improprio, soprattutto per argomentare che le macchine non li soddisfano. Non abbiamo uno standard rigoroso per definire se li soddisfano o no, e non lo avremo finche non comprenderemo meglio come funziona l’intelligenza umana. Nel frattempo, i criteri di distinzione sono estremamente discutibili, specialmente quando ci addentriamo nei dettagli (come e stato il caso della conferenza).

4. Minuto ~51:00. Carlos dice, come in forma di critica, che se si tolgono i dati a un modello smette di funzionare. Immagino che Carlos dica questo perche pensa che l’essere umano sia capace di pensare ex nihilo.

Poco dopo, dice che ChatGPT (e il traduttore di Google) restituiscono frasi frequenti perche fanno «combinazioni lineari tra vettori». I modelli sono particolarmente utili, tra le altre cose, perche utilizzano funzioni non lineari, quindi non so a cosa si riferisca con quella frase. I modelli sono anche particolarmente unici perche non restituiscono «frasi frequenti», bensì combinazioni molte volte inedite rese possibili dalle componenti stocastiche che li sottendono (di nuovo: per questo non siamo rimasti a Bayes).

5. Minuto ~53:30. «A DALLE le tuvieron que decir que cada imagen es un gato». O Carlos pensa che agli esseri umani non sia mai stato necessario indicare cosa sia un gatto e che lo sappiamo a priori, oppure Carlos spera che il lettore abbia l’immensa generosita di tradurre questo in «DALLE non ha la stessa capacita di generalizzazione della conoscenza di un essere umano».

6. Minuto ~55:30. La caratterizzazione di come «interpreta» un modello un’immagine e piuttosto strana e confusa. Dice che il «programma» «vede solo pixel, non vede orecchie, ne occhi». Cosa significa esattamente «vedere orecchie»? Potrebbe spiegare Carlos quali processi compie l’essere umano per «vedere orecchie», dai fotorecettori nella retina, passando per i segnali elettrici che attraversano il nervo ottico, fino all’elaborazione che compie la corteccia visiva primaria? Pensa che il cervello non elabori le informazioni che percepisce e, pertanto, «veda» l’orecchio «in modo grezzo» e lo rappresenti cosi come e arrivato agli occhi? In particolare, cosa pensa della ricerca condotta dal 1959, quando Hubel e Wiesel scoprirono che diversi gruppi di neuroni nei gatti rispondono a forme, ombre e inclinazioni diverse; ergo l’elaborazione visiva biologica non avviene olisticamente, «per orecchie e occhi», ma per strutture, pattern e caratteristiche piu semplici? Insomma, salvando le distanze, tanto la visione umana quanto quella del deep learning, oltre a richiedere un’elaborazione previa dell’informazione, avvengono per «features», di modo che l’argomento del «vedere orecchie» mi pare strano, debole e confuso. E mi risulta anche difficile capire perche creda che nel deep learning non si possano differenziare oggetti, quando proprio quella e una delle sue applicazioni.

Si lamenta anche del fatto che il «programma estrae pattern statistici da bit». Secondo lui, come dovrebbero allora apprendere i modelli a rappresentare oggetti per «poter vedere» come gli umani? Se dal 1959 non si e dimostrato che anche gli animali vedono per pattern, allora come apprendono e come vedono? Perche e censurabile che la percezione si guidi per pattern? Ma, cosa piu importante, e persino desiderabile che le macchine siano esattamente uguali a noi? Perche e cosi essenziale per l’intelligenza che elaborino visivamente i fenomeni come noi?

7. Se l’intelligenza e corporea, apotetica e operatoria, perche una simulazione o un robot, che possono perfettamente soddisfare tutto cio, non sono intelligenti?

8. Minuto ~1:01:00. Carlos si lamenta del fatto che il traduttore di Google necessiti di un certo contesto per tradurre «jack» invece di «cat». Immagino che lui possa in questo preciso momento tradurre «banco» in inglese, senza bisogno di alcun contesto aggiuntivo. Potrebbe dirmi la sua risposta? E, se e cosi gentile, spiegare anche dettagliatamente perche gli esseri umani non hanno bisogno di contestualizzare le parole per poterle tradurre in un’altra lingua, o anche solo per poter comunicare.

9. Minuto ~1:04:42. «Conforme el programa aprende mas en una tendencia, se vuelve reacio a aprender en otra direccion». A cosa si riferisce esattamente con questo? All’«overfitting»? Al fatto che il valore di ogni «weight» del modello e fisso dopo l’addestramento? Se e una delle due cose, esistono tecniche piuttosto elementari per risolverlo. Inoltre, in che senso fa questa critica? Gli esseri umani non sono forse anche loro chiaramente condizionati in funzione della propria esperienza e conoscenza?

Poco dopo sostiene, come in una sorta di critica, che le macchine hanno il problema dell’induzione e non gestiscono bene i cigni neri. Gli esseri umani hanno gia risolto questo problema, e per questo sono intelligenti?

10. Minuto ~1:16:41. «DALLE non e intelligente perche usa pixel invece di pennelli»? Quello e il «substrato materiale» che impedisce di chiamare intelligente una macchina? Cosa succede se si integra DALLE con un robot capace di dipingere con un pennello i suoi output? Dove finisce l’obiezione «corporea»? Questi robot che manipolano e lanciano oggetti, e camminano sullo stesso suolo nostro, perche non sono intelligenti secondo quello stesso criterio?

11. Di nuovo, mi sembra strano che si riducano i modelli al teorema di Bayes. Le componenti probabilistiche piu comunemente utilizzate (i processi di Markov, l’entropia incrociata, la funzione softmax, la «negative log likelihood», ecc.) sono chiaramente distinte dal teorema e dalle reti di Bayes. Inoltre, tutte queste sono coniugate con molti altri elementi del calcolo differenziale e vettoriale, dell’algebra lineare, dell’ottimizzazione matematica, ecc., di modo che presentarle come semplice probabilita e piuttosto ingannevole. Un modello strettamente probabilistico non e capace di raggiungere lo stesso livello di sofisticazione di ChatGPT.

In sintesi, Carlos non ha definito cosa intende per intelligenza (e chi puo dire di essere capace di farlo?), ma ha negato per ragioni ambigue, imprecise, erronee, contraddittorie e oscure che le macchine siano intelligenti. Ho percepito l’ansia di dire che l’«intelligenza artificiale» non e ne intelligente ne artificiale, il che equivale a irritarsi perche il «calcolo infinitesimale» non tratta di sassolini (calculus) infinitamente piccoli, o a dire che la filosofia e una cialtronata perche non si dedica a predicare l’amore (philos) per la sapienza (sophia). Non vedo dove si voglia arrivare con quel livello di analisi terminologica superficiale. E, alla fine di tutto, non si e detto nulla sui temi veramente interessanti che sorgono con questi modelli (come le proprieta emergenti e l’originalita di cui parlavo, o le somiglianze e differenze tra i processi biologici e quelli computazionali, o la domanda su come integriamo in essi la comprensione se nemmeno noi sappiamo come funziona o cosa sia). Carlos ha dedicato due ore a inciampare in ragionamenti difettosi per dire alla fine la stessa cosa che avrebbe potuto dire chiunque abbia usato ChatGPT (e compreso a meta un qualsiasi articolo divulgativo sull’argomento): che i modelli non hanno intenzionalita ne ragionamento come gli esseri umani e che, insomma, funzionano con quelle cose di Bayes e di probabilita, qualcosa del genere. Non credo che sia necessario inciampare in una storia imprecisa, ne in una caratterizzazione erronea, ne in ragionamenti fallaci, ne in citazioni di accademici di conventicola, ne in scienze ancora inconcludenti, ne in allusioni a un termine tanto ambiguo quanto «intelligenza», per dire che le macchine non ragionano come noi. Alla fine, per usare la sua stessa espressione, non serve risolvere l’oscuro con il piu oscuro.

PS: Sono abbastanza sicuro che Carlos Madrid abbia visto i miei commenti in piu di un’occasione, ma non ha mai risposto ne reagito in alcun modo. Che il lettore giudichi il perche.

14 marzo 2023

Bibliografia musicale