La vera sfida dell'era AGI non è l'intelligenza artificiale. È la verifica umana

Ho passato il weekend con "Some Simple Economics of AGI" di Christian Catalini (MIT Sloan), Xiang Hui (Washington University in St. Louis) e Jane Wu (UCLA Anderson), 113 pagine che ribaltano il modo in cui pensiamo all'impatto economico dell'intelligenza artificiale.

E la conclusione è tanto rivelatrice quanto inquietante: stiamo costruendo un futuro in cui possiamo fare tutto, ma non possiamo più verificare nulla.

Il paradosso della cognizione disaccoppiata

Per 300.000 anni, la cognizione umana è stata il motore esclusivo del progresso sulla Terra. Oggi l'AI sta disaccoppiando intelligenza e biologia, e la sua capacità di ricombinare conoscenza, mappando esaustivamente ogni combinazione all'interno del paesaggio conosciuto, sta spingendo il costo marginale dell'esecuzione misurabile verso lo zero.

Ma questo non è "semplicemente" l'automazione del lavoro routine. Sono a rischio vaste porzioni di ciò che una volta consideravamo creativo, analitico e innovativo, qualsiasi lavoro che possa essere catturato da metriche.

La maggior parte dei modelli economici tratta l'AI come sostituto del lavoro o complemento al giudizio umano esogeno, assumendo che l'output della macchina si traduca direttamente in valore realizzato. Gli autori sostengono che questo paradigma è pericolosamente incompleto.

La migrazione del vincolo: quando l'abbondanza crea scarsità

C'è un principio economico antico e sottovalutato: quando una risorsa scarsa diventa abbondante, il vincolo non scompare, migra al suo complemento più vicino.

In un'economia dove gli agenti agiscono con ampia autonomia, il vincolo vincolante sulla crescita non è più l'intelligenza. È la bandwidth di verifica umana: la capacità scarsa di validare risultati, auditare comportamenti, e sottoscrivere significato e responsabilità quando l'esecuzione è abbondante.

Gli autori modellano la transizione verso l'AGI come la collisione di due curve di costo in corsa:

• Cost to Automate: In netto decadimento esponenziale, trainato dalla potenza di calcolo e dalla conoscenza accumulata
• Cost to Verify: Vincolato a un collo di bottiglia biologico, limitato dal tempo umano e dall'esperienza vissuta e incarnata

Questa asimmetria strutturale allarga un Measurability Gap, lo scarto tra ciò che gli agenti possono eseguire e ciò che gli umani possono permettersi di verificare.

Il patto implicito dell'economia e come rischia di spezzarsi

Il progresso economico ha sempre poggiato su un patto implicito: il valore rivendicato era il valore prodotto. Il Measurability Gap rappresenta la prima forza nella storia capace di rompere sistematicamente questo patto: un processo che non avviene attraverso eventi di crisi, ma per mezzo della normale dinamica economica legata alla minimizzazione dei costi.

Quando un agente IA genera un output apparentemente impeccabile che supera ogni validazione formale, ma viola in modo silenzioso l'intento umano non quantificato, l'economia accumula un rischio sistemico invisibile.

Tre forze che erodono l'equilibrio "human-in-the-loop":

- The Missing Junior Loop: I tradizionali percorsi di apprendistato sono al collasso. Ai profili junior viene sottratta la gavetta operativa, quell'attività routinaria da cui nasce, in realtà, la vera competenza. Il paradosso è evidente: il patrimonio di esperienza umana si restringe proprio nell'era in cui la supervisione critica diventa un asset insostituibile.

- The Codifier's Curse: Gli esperti convertono la propria esperienza in dati di addestramento, codificando la propria obsolescenza. Ogni volta che un senior documenta il proprio know-how per istruire un modello, sta, di fatto, plasmando il proprio sostituto.

- The Trojan Horse Externality: man mano che le capacità superano la supervisione, deployare sistemi non verificati diventa razionale dal punto di vista privato. Ma introduce un'esternalità di output non allineato, che si accumula invisibilmente nel sistema. Usare AI per verificare AI non risolve il problema, produce solo falsa confidenza, poiché i blind spot correlati si propagano.

Il risultato? Una Hollow Economy: un'esplosione geometrica della produttività apparente, a fronte di una progressiva perdita di autonomia umana. Una crescita che appare robusta, ma si rivela vuota al centro.

Ma questo esito non è inevitabile

La risposta non è una ritirata nell'obsolescenza. È una radicale elevazione dello scopo umano.

Se scaliamo l'infrastruttura di verifica insieme alle capacità agentiche, le forze che minacciano il collasso diventano il catalizzatore per scoperta, sperimentazione ed esecuzione senza limiti, alimentando un'Augmented Economy.

Il playbook operativo: per chi vuole agire, non solo osservare

Per individui:

• Adotta l'apprendimento mirato per accelerare la scoperta del potenziale, velocizzare l'eccellenza operativa e scalare con l'agilità di una startup.
• In un mercato in cui l'intelligenza è ormai una commodity, il fattore umano deve focalizzarsi su attività strategiche: definire gli obiettivi, validare i risultati, gestire e sottoscrivere il rischio, o creare valore dove l'impatto non è quantificabile.

Per aziende:

• Investire in un monitoraggio continuo (osservabilità) e nell'accuratezza dei dati reali di validazione (ground truth certificata) è la base per innescare una crescita esponenziale del valore e del vantaggio competitivo (effetti di rete).
• Identificare e attrarre i migliori professionisti sul mercato per potenziare le attività di underwriting e gestione del rischio.
• Riorganizza intorno alla topologia "AI sandwich": intento umano → esecuzione macchina → verifica umana

Per investitori:

• Riposizionarsi strategicamente: smettere di finanziare processi esecutivi ormai standardizzati per capitalizzare sull'intangibile, puntando su Deep Tech e ricerca e sviluppo a lungo termine.
• Puntare su infrastrutture di validazione e soluzioni di Liability-as-a-Service (LaaS) per la gestione esternalizzata della responsabilità.

Per policymakers:

• Internalizzare il costo delle esternalità attraverso sistemi di allocazione della responsabilità
• Considerare i processi di verifica e validazione come un bene pubblico essenziale, accessibile e condiviso
• Garantire che una scalabilità sicura e protetta non venga sacrificata in nome di rilasci avventati, promuovendo così la più grande espansione di beni pubblici degli ultimi decenni

La frase che mi è rimasta impressa:

"Scale without verification is not a moat. It is an accumulating debt."

La sfida economica definitiva dell'era agentica non è la corsa a deployare i sistemi più autonomi. È la corsa a garantire le fondamenta della loro supervisione.

Solo scalando la nostra bandwidth per la verifica insieme alla nostra capacità di esecuzione, possiamo assicurarci che l'intelligenza che abbiamo evocato preservi l'umanità che l'ha iniziata.

Catalini, Hui, Wu — Some Simple Economics of AGI (MIT Sloan Research Paper, Feb 2026) 113 pagine.