“Il prezzo della grandezza è la responsabilità.”
Winston Churchill
Da qualche parte in una chat aziendale, un agente AI sta leggendo una casella condivisa, cercando una discrepanza in fattura, scrivendo una mail al fornitore e preparando l’aggiornamento di un sistema di record. Qualcuno l’ha chiamato “collega digitale.” Qualcun altro gli ha appiccicato un avatar allegro. Nessuno ha risposto alla domanda meno allegra: chi si assume la responsabilità della decisione se fa la cosa sbagliata?
Il linguaggio che usiamo è parte del problema. Chiamare un agente un assistente lo fa sembrare innocuo. Chiamarlo uno stagista lo fa sembrare gestibile. Nessuna delle due etichette regge al primo impatto con la scala.
Uno stagista non può inviare tremila messaggi personalizzati in un minuto. Uno stagista non può accedere a venti sistemi insieme. Uno stagista non può ripetere la stessa ipotesi sbagliata alla perfezione, per tutta la notte, senza perdere concentrazione o chiedere aiuto. Un agente AI sì.
Quindi la domanda di management è cambiata. Non è più solo “cosa può fare questo strumento?” È quale autorità gli stiamo concedendo, a quali condizioni, con quale nome attaccato all’esito?
In Come gestire gli agenti AI: smettere di scrivere prompt e iniziare a dirigere, ho sostenuto che istruire meglio è solo il punto di partenza. La direzione richiede un mandato, un contesto e una persona pronta a prendersi il risultato.
Un assistente non è un modello di responsabilità
Capisco perché alle aziende piace la metafora dell’assistente AI. Offre un’immagine rassicurante del futuro: un aiutante diligente che fa le parti noiose mentre l’umano si occupa di ciò che conta.
I problemi iniziano quando l’aiutante può agire.
Uno strumento di sintesi produce testo. Un motore di raccomandazione propone un passo successivo. Un agente può leggere un documento, selezionare informazioni, invocare uno strumento, scrivere su un database, contattare un cliente o innescare un processo. A quel punto non stiamo discutendo di una feature. Stiamo discutendo di delega.
La delega ha sempre richiesto un mandato chiaro. Qual è l’obiettivo? Cosa è fuori dal perimetro? Quando chi fa il lavoro deve alzare la mano? Chi controlla il risultato? Un numero sorprendente di implementazioni AI ha moltissimo entusiasmo sulla prima domanda e pochissima pazienza per il resto.
Per questo resisto all’espressione “dipendente AI.” I dipendenti hanno contratti, formazione, valutazioni, obblighi legali e la capacità di spiegare perché hanno fatto una scelta. Un agente non ha nulla di tutto questo in senso umano. Ha permessi, prompt, modelli, dati e un design che può o meno produrre il comportamento che ci aspettavamo.
L’agente non è responsabile. Lo è l’organizzazione che gli ha dato accesso.
Quando l’automazione diventa delega
L’automazione tradizionale è di solito ristretta. Scatta una regola, si muove un workflow, cambia un record. Spesso possiamo ispezionare la logica e testare i percorsi attesi.
I sistemi agentici cambiano la forma del problema. Gestiscono linguaggio ambiguo, scelgono tra strumenti, decidono quali informazioni sembrano rilevanti e adattano la prossima azione a ciò che è successo prima. Quella flessibilità può essere utile. Significa anche che un processo non viene solo eseguito, viene interpretato.
La descrizione di IBM delle piccole Forward Deployed Units rende chiaro il lato sano di questo modello. Gli agenti possono generare requisiti, codice, casi di test o analisi dei difetti. Il team umano definisce comunque il problema, fornisce contesto business e tecnico e decide se l’output è adatto al cliente.[1]
Non è un umano nel loop di facciata. È una divisione del lavoro.
Il ruolo umano va progettato attorno ai momenti che contano:
| Cosa può fare l’agente | Cosa deve presidiare l’umano |
|---|---|
| Raccogliere e sintetizzare gli elementi | Definire la decisione e il livello di evidenza richiesto |
| Abbozzare una raccomandazione | Verificare l’aderenza al contesto commerciale, etico e normativo |
| Attivare un’azione routinaria | Stabilire soglia di autorità e regola di escalation |
| Rilevare uno schema | Decidere se quello schema merita un’azione |
| Eseguire ad alta velocità | Assumersi la responsabilità dell’impatto |
Chi vede l’output solo dopo che ha causato un danno non è nel loop. È nel post mortem.
La lacuna di controllo è una lacuna di management
L’Applied AI Index 2026 di BCG dà un numero a questo disagio. Il 42% delle aziende si aspetta che gli agenti agiscano in autonomia entro il 2030. Solo il 5% oggi ha in piedi l’insieme completo dei controlli rilevanti. Le aziende con tutti e sei i controlli dichiarano un valore dagli agenti AI triplo rispetto a chi ne ha solo uno.[2]
È forte la tentazione di classificarlo come un tema IT. Non lo è. Sicurezza, qualità dei dati e gestione degli accessi sono necessari, ma non possono decidere cosa un business deve delegare o chi deve vivere con le conseguenze.
Un agente di customer service che offre una concessione non autorizzata è un problema commerciale. Un agente di procurement che favorisce un fornitore per colpa di dati sporchi è un problema di governance. Un agente per la selezione che filtra i candidati in modo ingiusto è un problema di persone. Un agente finance che classifica in silenzio una transazione in modo errato è un problema di responsabilità.
Il Generative AI Profile di NIST è utile proprio perché rifiuta di trattare la governance come una policy di una pagina. Raccomanda di allineare l’uso a doveri legali e regolatori, documentare la provenienza dei dati e dei contenuti generati, valutare le misure di sicurezza prima della messa in produzione e in modo continuo, e definire un minimo di segnalazione degli incidenti che includa sistema, fonte, data, impatto e stakeholder coinvolti.[3]
Sembra arido finché un agente non fa qualcosa di costoso alle 2 di notte. In quel momento l’arido diventa sottovalutato.
Un modello operativo minimo per gli agenti AI
Non inizierei con un comitato elaborato. La maggior parte delle aziende ne ha già abbastanza. Inizierei con un mandato dell’agente breve e applicabile per ogni implementazione che conti davvero.
1. Dai un nome alla decisione, non solo al compito
“Gestire le email dei clienti” non è un mandato. “Classificare i reclami sulle spedizioni standard e redigere una risposta entro i template approvati” ci si avvicina. Più la decisione è nitida, più è facile vedere cosa non appartiene all’agente.
2. Imposta una soglia di autonomia
Un agente può preparare, raccomandare, eseguire entro un limite ristretto o eseguire liberamente. Sono modalità operative diverse. Mettete per iscritto le soglie finanziarie, legali, reputazionali e umane che fanno scattare una revisione.
3. Dai a una persona il potere di fermarlo
Non un reparto. Una persona con nome e cognome. Se nessuno ha l’autorità e l’incentivo a mettere in pausa il sistema, l’azienda ha automatizzato inerzia più che creato capacità.
4. Mantieni una traccia di audit leggibile da un manager
I log non bastano se sono utili solo agli ingegneri. Un manager dovrebbe poter rispondere: cosa ha visto l’agente, cosa ha fatto, quale regola o prompt ha contato, cosa è cambiato e chi ha approvato il perimetro operativo?
5. Tratta gli incidenti come input di design
Lo scopo di un registro non è incolpare il collega più vicino alla tastiera. È capire quali condizioni, dati o incentivi hanno reso possibile il fallimento. NIST include esplicitamente reportistica degli incidenti, feedback e monitoraggio nella sua guida di governance per l’AI generativa.[3]
Questo è lavoro manageriale. Merita la stessa serietà di una decisione sui prezzi, di un ingresso in un nuovo mercato o di una policy sui dati dei clienti.
La tentazione di delegare anche la responsabilità, non solo il lavoro
Il business case per gli agenti è ovvio. La velocità è seducente. Un processo che richiedeva giorni può avvenire in minuti. Un team piccolo può coprire molto più terreno. BCG riporta che le aziende che traggono più valore dall’AI si concentrano su pochi workflow end-to-end e combinano la tecnologia con cambiamenti a persone e processi, non solo agli algoritmi.[2]
Ma dentro la stessa storia c’è una tentazione più scura. Più un processo automatizzato diventa complesso, più è facile dire che nessuno poteva saperlo. L’ha fatto il modello. L’ha fatto il fornitore. L’hanno fatto i dati. L’ha fatto il prompt.
Cui bono quando la responsabilità si dissolve in un diagramma di flusso?
La buona governance non rallenta l’AI utile. Rende la delega leggibile. Dice alle persone quali decisioni restano umane, quali azioni possono avvenire in automatico e cosa succede quando il sistema incontra il mondo disordinato che nessuna demo include mai.
Questa è la differenza tra trattare l’AI come un altro strumento e diventare un orchestratore digitale: nel secondo caso si progetta il sistema attorno a scopo e responsabilità, non attorno alla demo più impressionante.
Un agente può essere brillante nel compito che gli abbiamo dato. Non sarà mai responsabile del perché gli abbiamo dato quel compito, di cosa poteva fare o di chi ha pagato quando ha sbagliato contesto.
Quella parte resta nostra.
Riferimenti
[1] IBM Think, AI is tightening consulting teams and raising the bar for who’s on them, 21 settembre 2026.
[2] Boston Consulting Group, The Formula for Agentic AI Value: The Applied AI Index 2026, 30 settembre 2026.
[3] National Institute of Standards and Technology, Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile, NIST AI 600-1, 2024.
Share your thoughts