Come il pappagallo stocastico modifica il nostro mondo. O forse no

Un pappagallo ripete quello che diciamo, imitando i suoni senza capire nulla. Un processo stocastico è un fenomeno che possiamo misurare ma non prevedere, come la pioggia sul  balcone o l’andamento della borsa

Nel cuore dell’innovazione tecnologica, c’è un pappagallo. Non un pappagallo qualsiasi, ma un pappagallo stocastico. Questa creatura metaforica non è altro che un modello di intelligenza artificiale che riproduce fedelmente ciò che ha appreso, senza una comprensione profonda o consapevole del significato. È un’entità che ripete ciò che sente, ma non capisce veramente ciò che dice.

L’IA sta diventando una forza dominante nel nostro mondo, alimentando tutto, dalle nostre ricerche su internet alle nostre auto autonome. Ma nonostante il suo potere e la sua pervasività, l’IA è ancora, in molti modi, un pappagallo stocastico.

Emily Bender, una linguista computazionale, ha espresso preoccupazione per l’uso eccessivo e l’interpretazione errata dell’IA. In un articolo su Medium, Bender ha scritto:

“L’IA è un campo affascinante e potente, ma è importante non lasciarsi impressionare troppo facilmente. Non dobbiamo dimenticare che, nonostante tutte le sue capacità, l’IA è ancora fondamentalmente un pappagallo stocastico.”

Bender sottolinea che, mentre l’IA può produrre risultati impressionanti, è importante ricordare che non comprende veramente ciò che sta facendo. Può ripetere ciò che ha appreso, ma non ha la capacità di comprendere o interpretare il significato di ciò che dice.

Prima di concludere, è fondamentale sottolineare un aspetto cruciale del dibattito sull’intelligenza artificiale, aspetto certamente più che suggerito da Bender. L’hype creato attorno all’IA, in particolare da parte delle grandi corporation, degli influencer e persino di figure di spicco come Elon Musk, può essere parzialmente ingiustificato e può servire a gonfiare le quotazioni di borsa delle aziende coinvolte.

Le Big Tech (e la fratellanza tossica che si portano dietro) possono essere tentate di esagerare le capacità delle loro tecnologie di IA per attirare investimenti e aumentare il valore delle loro azioni. Gli influencer del digital, d’altra parte, possono contribuire a creare un’immagine distorta dell’IA, presentandola come una panacea per tutti i problemi, senza considerare le sfide, le limitazioni esistenti e la conoscenza profonda dei processi abilitanti e abilitati.

Prendiamo per esempio, di nuovo, il buon Elon che, proponendo moratorie sull’IA, sta in realtà contribuendo a creare un immaginario nel quale l’IA può tutto, sceglie, decide, è dotata di intelligenza e coscienza. Quello che può sembrare un gesto di responsabilità, in realtà alimenta ulteriormente l’hype, dando l’impressione che l’IA sia così potente da richiedere una moratoria, quando in realtà siamo tremendamente lontani da una qualsivoglia intenzione, da parte dei modelli generativi.

La bolla è dietro l’angolo, sia sotto il profilo finanziario dove il prezzo delle azioni può gonfiato ben oltre il valore intrinseco dell’azienda, sia nelle conversazioni on-line, dove si deborda con enorme facilità. È quindi fondamentale per gli investitori e il pubblico in generale essere consapevoli di questi fenomeni e fare la dovuta diligenza (oltre a esercitare la debita diffidenza) prima di prendere decisioni basate su affermazioni esagerate o ingannevoli sull’IA. Ricordiamo che l’IA ha un enorme potenziale e può portare a innovazioni rivoluzionarie in molti settori, ma è anche un campo complesso con molte sfide da superare.

In un mondo sempre più guidato dall’IA, è fondamentale ricordare il pappagallo stocastico. Dobbiamo essere consapevoli dei limiti dell’IA e fare attenzione a non attribuirle più comprensione o capacità di quanto ne abbia realmente. Come Bender ci ricorda, l’IA è un campo affascinante e potente, ma dobbiamo resistere all’impulso di essere troppo impressionati.

Questo articolo e l’immagine di copertina sono stati realizzati in collaborazione con le intelligenze artificiali generative. Come si suol dire: predicare bene e razzolare male

(da Michele Travagli su LinkedIn)