Fino a poco tempo fa AI ti suggeriva cosa fare, oggi lo fa al posto tuo. La tecnica si è talmente specializzata che ci sono software che non si limitano a rispondere a domanda, ma sono essi stessi ad aprire il browser, a digitare la tastiera, a muovere il mouse, prendendo decisioni operative, mentre tu ti occupi di altro.

Clawdbot è l’ultimo termine divenuto ormai in uso, ma il problema non è lui, quanto il cambio di paradigma che rappresenta.

Il controllo totale del computer

Per poter funzionare esso ha bisogno di una cosa sola: il controllo totale del tuo computer.

Mettiamo subito in chiaro una cosa: attualmente questa tecnologia non è per ora per il vasto pubblico, riguarda addetti ai lavori, roba da sperimentazioni, da contesti controllati, non l’utente medio.

Il clawdbot è un agente che consente di fare tutto al posto tuo: compilare moduli, gestire la email, pagare bollette, fare prenotazioni, organizzare file, mentre tu te ne stai altrove.

È un’idea fortissima: AI non si limita a suggerire cosa fare, ma manovra direttamente l’esecuzione.

Quando l’errore diventa reale

Ma proprio qui che iniziano i problemi.

Finché AI resta dentro una chat, se sbaglia, poco importa, ma quando essa può cliccare al posto tuo, l’errore non è più teorico, ci possono essere conseguenze gravi.

Es. una email inviata ad una persona sbagliata, un pagamento partito, un file cancellato, un account bloccato.

In breve clawdbot rappresenta perfettamente questa nuova fase: AI vive nel tuo sistema operativo, fa quello che faresti tu, soltanto più velocemente.

Fatto di per sé affascinante, ma così stiamo cedendo il controllo operativo, non solo quello cognitivo.

Delegare una risposta o delegare un’azione?

Insomma una cosa è delegare una risposta, un’altra delegare un’azione irreversibile.

Il problema non è se questa tecnologia funzionerà: funzionerà sempre meglio, ma a che prezzo per quanto riguarda la sicurezza, la responsabilità e la dipendenza?

Proprio per questo le grandi aziende tecnologiche che potrebbero immettere sul mercato tali dispositivi devono muoversi con molta cautela.

I rischi per la sicurezza

I rischi sono enormi poiché, se il sistema viene compromesso da un attacco hacker, tu non perdi solo un servizio, ma in teoria tutto.

Qualcuno dall’esterno potrebbe prendere il controllo di quello che hai, di ciò sei digitalmente.

C’è poi un altro aspetto spesso sottovalutato: l’abitudine.

L’abitudine alla delega totale

Affidare ad un agente digitale il controllo del tuo PC vuol dire un allenamento psicologico alla delega totale.

Ovviamente è molto comodo, efficiente e perfino liberatorio avere un dispositivo che disbriga le tue faccende, mentre tu puoi dedicarti ad altro.

La conseguenza è che col tempo più deleghi, meno sai fare.

Un esempio banale? Oggi nessuno sa orientarsi senza GPS.

Immaginarsi quando, anziché riguardare una singola abilità, riguarda il funzionamento digitale di tutta la tua vita: conti, email, relazioni, lavoro ecc., divenendo un grande punto di potere.

Fiducia e responsabilità

Le aziende che producono tali agenti lo sanno molto bene. Non vendono semplicemente un prodotto, ma chiedono una fiducia totale che storicamente l’industria tech non ha dimostrato di meritare.

Bug, falle di sicurezza ed altri gravi inconvenienti.

Questo non significa che Clawdbot sia il male, anzi è l’interfaccia del futuro che ha accesso totale al tuo computer.

Da strumento a delegato

In breve stiamo entrando in una fase in cui AI passa da strumento a delegato.

Sorge a questo punto una domanda: “lo useremo?”

La risposta scontata è sì, ma a quali condizioni? Con che limiti?

Occorrono controlli, la possibilità di porre dei limiti al dispositivo. Serve soprattutto consapevolezza.

Clawdbot ha due aspetti: uno positivo passando da strumento ad esecutore, l’altro inquietante perché richiede un livello di fiducia che non siamo ancora pronti a concedere.

Conclusione

Concludendo il rischio maggiore non è che funzioni male, ma che funzioni troppo bene da farci abbassare la guardia.

Pierluigi Seri