L’AI accelera le decisioni, ma chi allena il giudizio umano nell’era digitale?

L’AI for Good Global Summit delle Nazioni Unite evidenzia una nuova sfida per l’Intelligenza Artificiale: non solo creare sistemi più intelligenti, ma sviluppare governance, responsabilità e capacità di giudizio umano. Con l’arrivo degli AI Agent, la cybersecurity dovrà proteggere anche il processo decisionale umano.

Il titolo è una riflessione dal recente AI for Good Global Summit delle Nazioni Unite che, almeno per me, riguarda qualcosa che va oltre la pura tecnologia.

Nei giorni scorsi ho letto con interesse i materiali pubblicati dopo il summit, e mi aspettavo di trovare principalmente discussioni sull’evoluzione dell’Intelligenza Artificiale: modelli sempre più potenti, nuove applicazioni, prestazioni, scenari futuri, concetti presenti, certamente, ma, riguardando gli appunti che mi ero presa, mi sono resa conto che le parole che ricorrevano più spesso erano altre: giudizio, responsabilità, governance, leadership.

E lì che capito che qualcosa, nel dibattito, stesse cambiando, che la prospettiva si stesse spontando.

Mentre per anni infatti ci siamo chiesti che cosa sarebbe stata capace di fare l’Intelligenza Artificiale, oggi la conversazione sembra infatti iniziare a spostarsi su un altro piano, e la domanda non è più soltanto quanto questi sistemi diventeranno intelligenti, ma come cambierà il nostro modo di decidere mentre iniziamo ad affidarci sempre di più a loro.

Tra i temi affrontati al Summit mi ha colpito, in particolare, la crescente attenzione dedicata agli AI Agent; sistemi che non si limitano a produrre contenuti, ma possono svolgere attività, prendere iniziative e collaborare con altri sistemi in modo sempre più autonomo.

E credo, non a caso l’ITU ha annunciato l’avvio di un gruppo di lavoro internazionale dedicato proprio a definire principi condivisi e modalità di governance per questa nuova generazione di agenti intelligenti. Un dettaglio, questo, tutt’altro che secondario, poiché, quando iniziamo a parlare di governance, forse stiamo già parlando molto meno di tecnologia e molto più delle persone e delle organizzazioni chiamate a guidarla.

È stato proprio leggendo quei materiali che ho iniziato a collegare ciò che vedevo con qualcosa che sto osservando da tempo nel mio lavoro.

Negli ultimi mesi mi è capitato di confrontarmi con leadership team, founder, startup, business school e studenti; tutti contesti molto diversi tra loro, almeno in apparenza, eppure, accomunati dagli stessi temi. L’AI è vista come un acceleratore in generale e di accesso alle informazioni, uno strumento che riduce i tempi di analisi, e che aiuta a scrivere, sintetizzare, progettare, e che in molti casi permette anche di prendere decisioni più rapidamente.

Tutto vero! Quello che mi colpisce, tuttavia, è che molto più raramente ci fermiamo a considerare ciò che, parallelamente, dovrebbe continuare a crescere, ovvero la nostra capacità di giudizio, la facoltà di mettere in discussione una risposta, il confronto tra punti di vista diversi, la responsabilità di una decisione.

Probabilmente è proprio qui che la questione smette di essere solo tecnologica e diventa organizzativa.

Stiamo investendo molto per rendere i processi più efficienti, e oggi stiamo imparando a renderli anche più intelligenti, ma viene da chiedersi se stiamo dedicando la stessa attenzione e la stessa cura alle condizioni che permettono alle persone di decidere bene.

È una riflessione che mi accompagna da tempo e che, ha dato origine anche al mio concetto di Leadership Hygiene.

Quando ho iniziato a usare questa espressione non pensavo all’Intelligenza Artificiale, ma a una domanda molto più semplice: che cosa permette a persone e organizzazioni di continuare a prendere buone decisioni quando aumentano la complessità, la pressione e la velocità?

Oggi quella domanda mi sembra ancora più attuale, perché la qualità della leadership non dipende soltanto dalle competenze delle persone, ma anche dalla qualità delle conversazioni, dalla chiarezza delle responsabilità, dal livello di fiducia, dal tempo che continuiamo a dedicare al confronto e dalla possibilità di mettere in discussione anche la risposta apparentemente migliore.

In questo senso, leggendo i materiali del Summit, mi è venuto da pensare che la vera sfida non sia soltanto capire fino a dove arriverà l’Intelligenza Artificiale – poiché auspicabilmente continuerà a sorprenderci, e in molti campi anche positivamente – ma sarà capire se le nostre organizzazioni continueranno ad allenare con la stessa intenzione una capacità molto meno visibile, ma forse ancora più preziosa: il giudizio umano.

Questa è una domanda che riguarda anche la cybersecurity.

Quando parliamo di sicurezza immaginiamo subito attacchi, vulnerabilità o malware, che sono rischi concreti, ma esiste anche una vulnerabilità più silenziosa, che non nasce da un errore del sistema ma da un cambiamento nel comportamento delle persone.

E’ una vulnerabilità che succede quando smettiamo di verificare, quando nessuno mette più in discussione un risultato, quando la velocità diventa un valore superiore alla comprensione, quando la responsabilità resta formalmente umana, ma il processo decisionale viene seguito con sempre meno attenzione.

Forse è questa la vulnerabilità più preoccupante.

Credo dunque che il tema decisivo dei prossimi anni sarà costruire sistemi sempre più intelligenti, ma al contempo costruire organizzazioni capaci di rimanere lucide, responsabili e consapevoli mentre quei sistemi entreranno sempre più nel nostro modo di lavorare.

Marilena Viotto

Executive Coach (ICF ACC) ed ex COO. Lavora su leadership e qualità delle decisioni nei sistemi complessi, tra AI, responsabilità e trasformazione.

Aree di competenza: Leadership & Decision Making, Organizational Transformation, AI & Work Impact, Complex Systems Thinking, Decision Systems & Governance, Human Factors in Security, Risk Awareness & Critical Thinking, Leadership Hygiene