Una soluzione AI produce risposte convincenti durante la prova. Poi arriva un caso con fonti discordanti, un'approvazione non prevista o una correzione che nessuno sa registrare. Chi lavora torna al procedimento precedente. Aggiungere utenti alla prova, in quel momento, estende anche il problema.
Per capire se proseguire, parto dal processo reale. Queste quattro verifiche aiutano a distinguere un limite dell'AI da un passaggio operativo rimasto senza responsabile.
1. Quale passaggio dovrebbe cambiare?
Descrivo il lavoro prima e dopo l'uso dell'AI: input, persona che controlla, decisione e risultato. Se la risposta è soltanto "il sistema produce una sintesi", manca ancora il passaggio che dovrebbe diventare più rapido o affidabile. La misura deve riguardare quel passaggio, per esempio tempo di revisione o lavoro da rifare, non solo il numero di accessi.
2. Chi decide quando l'AI sbaglia o non sa?
Scelgo alcuni casi difficili e chiedo chi può approvare, correggere o fermare l'output. Il responsabile della piattaforma può mantenerla disponibile, ma non sempre può decidere per chi gestisce il processo. Senza questa distinzione, ogni eccezione diventa una trattativa improvvisata.
3. Quanto costa verificare il risultato?
Una risposta corretta non basta se per confermarla una persona deve ricostruire ogni volta tutte le fonti. Registro quanto tempo richiede la verifica e quali errori sfuggono. Se il controllo costa più del beneficio ottenuto, restringo il compito dell'AI o considero un'alternativa senza AI.
4. Quale prova serve per decidere?
Concordo in anticipo quali esempi osservare, per quanto tempo e con quale criterio. Si può proseguire quando il responsabile è identificato, le eccezioni sono gestibili e il valore resta dopo il costo della verifica. Si corregge la prova quando il problema è circoscritto. Ci si ferma quando non esistono fonti utilizzabili, un responsabile o un vantaggio proporzionato.
Una decisione che si possa discutere
La diagnosi serve a rendere visibile questa scelta. Nel facsimile della consegna mostro come collegare confine dell'AI, controllo umano, prove da osservare e condizione di stop. È un esempio illustrativo, non il risultato di un incarico reale.
Se avete già provato l'AI in un processo e la decisione è ancora aperta, la diagnosi operativa esamina un caso concreto e produce un passo successivo documentato.