La superintelligenza e il cambio di paradigma

” La superintelligenza è a un paio di anni di distanza e sarà capace di fare meglio di qualsiasi executive, certamente meglio di me,” Così si è espresso Sam Altman esperto informatico, cofondatore di Open AI durante l’” India AI impact summit”.

Parole che suonano come una previsione tecnologica, ma anche come anticipazione di un problema più profondo: l’idea che al vertice deve starci necessariamente un essere umano.

La narrazione di questi anni è stata che AI avrebbe migliorato la produttività, supportato e velocizzato i vari team.

Ora però la narrazione cambia scala: AI non più semplice assistente, ma sostituto. Non più strumento, ma decisore.

L’AI come decisore: vantaggi e rischi

Se anche un esperto al vertice della rivoluzione digitale come Altman si dichiara rimpiazzabile, allora la questione non riguarda più solo programmatori, creativi ecc…

Egli nel sopracitato summit parla di una superintelligenza capace di fare meglio di qualsiasi executive.

In cosa meglio? Nel leggere una mole grandissima di dati che nessun umano potrebbe processare, nel simulare scenari economici complessi, nel prevedere l’andamento dei mercati con precisione superiore, poter prendere decisioni con freddezza chirurgica.

Inoltre AI non dorme, non si stanca, non ha sentimenti e non ha bisogno di difendere il suo ruolo.

In un mondo in cui la concorrenza competitiva si basa sulla capacità di anticipare il futuro la prospettiva non è poi così assurda.

Il nodo della responsabilità

Proprio qui è la crepa.

La leadership non è solo analisi e ottimizzazione: è responsabilità pubblica, capacità di prendere decisioni spesso impopolari.

Un algoritmo può suggerire il taglio di X posti di lavoro per salvare un’azienda, ma chi ne affronta le conseguenze sociali e politiche?

Quindi non è solo una questione di tecnologia, ma di responsabilità ovvero di rispondere delle proprie responsabilità e, se si sbaglia, di pagarne il prezzo.

Un CEO può essere rimosso dal consiglio di amministrazione, un leader politico può essere sfiduciato dagli elettori…

Ma se una superintelligenza provoca danni, chi ne risponde?

In assenza di un soggetto che si assuma la responsabilità delle sue scelte anche la decisione più efficiente si trasforma in vuoto di potere camuffato da progresso.

Efficienza contro valori

Una superintelligenza è al contempo affascinante ed inquietante.

Essa può forse fare meglio di un manager, di un governatore di una banca centrale, di un presidente.

Bisogna però tener presente che la linea tra governance aziendale e governance pubblica è molto sottile.

Entrambe si basano su decisioni in situazioni di incertezza, su scenari probabilistici.

Tuttavia ridurre tutto a funzione di ottimizzazione, può essere pericoloso.

Le aziende non sono macchine per generare profitti, sono comunità di persone, come pure la politica non è solo efficienza organizzativa di risorse, è invece conflitto, confronto di valori, compromessi.

Chi governa chi?

Allora una superintelligenza potrebbe proporre la soluzione più efficiente che però non è probabilmente la più giusta o più accetta dalla società.

Credo che tra due anni non vedremo un algoritmo seduto sulla poltrona di un manager, ma sicuramente dei manager che collegano sempre di più il potere decisionale a sistemi autonomi.

A questo punto la differenza tra guidare un’azienda e supervisionare una superintelligenza che guida diverrà molto sottile.

Allora la domanda non è più solo tecnologica, ma diviene politica e culturale.

In breve: chi governa chi? L’umano che programma la macchina o la macchina che gli suggerisce le decisioni da prendere?

Pierluigi Seri