Risposta in 60 secondi
La divergenza di modelli è lo studio tecnico di quando e perché modelli linguistici indipendenti producono risposte diverse allo stesso input. Dove il disaccordo IA è l'esperienza orientata all'utente della differenza, la divergenza è la lente ingegneristica sulle cause sottostanti — gli schemi che spiegano perché un panel si divide su una domanda particolare. Capire la divergenza è come un sistema di verifica trasforma il disaccordo da rumore in fonte strutturata di informazione.
La divergenza non è casuale. Si raggruppa attorno a cause specifiche — lacune nei dati di addestramento, cutoff di recenza, differenze nell'instruction-tuning, famiglia architettonica — e un sistema che riconosce la causa può fare cose utili con il disaccordo invece di limitarsi a segnalare che esiste.
Una definizione formale
La divergenza di modelli è la differenza misurabile tra gli output di modelli indipendenti sullo stesso input. La misurazione ha tre strati.
Divergenza superficiale. Formulazione diversa, significato possibilmente identico. La divergenza superficiale è per lo più cosmetica e non dovrebbe essere confusa con disaccordo sostanziale.
Divergenza semantica. Affermazioni diverse sulla realtà, anche dopo che la formulazione superficiale è stata normalizzata. La divergenza semantica è lo strato che conta per la verifica — è ciò che dice all'utente che il panel è in disaccordo su qualcosa di reale.
Divergenza evidenziale. Fonti diverse o interpretazioni diverse della stessa fonte. La divergenza evidenziale è lo strato più profondo; punta a un'ambiguità genuina nel registro pubblico sottostante.
Un trattamento serio della divergenza distingue i tre strati. La divergenza superficiale non merita indagine. Quella semantica merita l'attenzione dell'utente. Quella evidenziale merita la consulenza di un esperto.
Le cause strutturali della divergenza di modelli
La divergenza non è casuale. Si raggruppa attorno a cinque cause identificabili.
Composizione dei dati di addestramento. Modelli addestrati su corpora diversi — miscele diverse di web pubblico, letteratura accademica, codice, libri, dati multilingue — sviluppano intuizioni diverse sulle stesse domande. Un modello addestrato pesantemente su fonti statunitensi risponde diversamente sui temi europei rispetto a un modello addestrato su un corpus più equilibrato.
Data di cutoff dell'addestramento. I modelli hanno date diverse di "scadenza della conoscenza". Su temi che sono cambiati di recente — leggi, scoperte scientifiche, regolamentazioni, prezzi — i modelli con cutoff più vecchio divergono prevedibilmente da quelli con cutoff più recente. La divergenza è datata; un sistema attento può identificare da quale parte di un cambiamento noto si trova ogni modello.
Instruction tuning e RLHF. I modelli sono post-addestrati con obiettivi diversi. Alcuni sono regolati per essere più cauti, altri più diretti. Alcuni sono regolati per aggiungere ammonimenti; altri per ometterli. Queste differenze di tuning producono divergenza sullo stile della risposta anche quando l'affermazione sostanziale è la stessa.
Architettura e scala. I modelli più piccoli ragionano meno profondamente su problemi a più passi; i modelli più grandi li gestiscono meglio. Su domande che richiedono di lavorare attraverso diversi passi di inferenza, la divergenza tra modelli piccoli e grandi è strutturale e prevedibile.
Campionamento casuale. Ogni modello ha un'impostazione di temperatura e generazione stocastica. Riestrarre dallo stesso modello produce piccole variazioni che non sono realmente "divergenza" in senso significativo — sono rumore all'interno di una superficie statistica.
Un sistema di verifica che conosce queste cause può etichettare le divergenze utilmente. "I modelli convergono tranne uno con cutoff di addestramento più vecchio" è più utile per la decisione di "il panel si è diviso". L'etichettatura trasforma il disaccordo in una diagnostica.
Come un sistema di verifica usa la divergenza
Un sistema multi-modello ben ingegnerizzato tratta la divergenza come output di prima classe e la usa in tre modi.
Come segnale di calibrazione. Dove la divergenza è alta, la fiducia è corrispondentemente più bassa. Il punteggio di accordo si legge dallo schema di divergenza.
Come segnalazione per la verifica da fonte primaria. Dove la divergenza è alta su affermazioni fattuali specifiche, il sistema segnala quelle affermazioni per l'attenzione dell'utente o per il recupero automatizzato contro fonti autorevoli.
Come indicazione UI. La divergenza è portata in superficie nell'interfaccia esplicitamente — non seppellita in una nota a piè di pagina. L'utente che legge l'output vede quali affermazioni siano convergenti (la maggior parte della risposta) e quali siano divergenti (le parti che necessitano di attenzione extra). Questa è la mossa che converte l'output multi-modello grezzo in un prodotto utile.
Un sistema che non usa la divergenza — che la appiana in una singola risposta sicura — ha fatto il lavoro di far girare più modelli e ha buttato via il segnale più prezioso che quel lavoro ha prodotto.
Esempi pratici
Divergenza di recenza. Un utente chiede di un cambiamento legale recente. Cinque modelli dicono "la legge è X"; uno dice "la legge era X fino all'anno scorso; ora è Y". Lo schema di divergenza è coerente con un modello che ha un cutoff di addestramento più recente. Il sistema può segnalare questo esplicitamente e l'utente può indagare direttamente l'angolo della recenza.
Divergenza geografica. Un utente chiede di un tema con forte variazione geografica — diritto del lavoro, quadri sanitari, struttura fiscale. Modelli addestrati su miscele di dati geografici diversi divergono prevedibilmente. Il sistema può portare in superficie l'angolo geografico e chiedere all'utente di specificare quale giurisdizione conti.
Divergenza architettonica. Un utente fa una domanda di inferenza a più passi. I modelli più grandi raggiungono una conclusione; i modelli più piccoli ne raggiungono una diversa perché troncano la catena di ragionamento. Il sistema può segnalare la domanda come pesante per inferenza e pesare più fortemente i modelli più grandi.
Divergenza di tuning. Un utente chiede di un tema contestato. I modelli regolati per essere cauti aggiungono ammonimenti; i modelli regolati per essere diretti danno il risultato finale. Il contenuto sostanziale è simile; l'inquadramento differisce. Questa è divergenza superficiale travestita da divergenza semantica; un buon sistema la riconosce e la sconta.
Equivoci comuni
"La divergenza significa che i modelli hanno bug." No. La divergenza è una caratteristica dei ragionatori indipendenti. La domanda interessante è cosa la divergenza rivela — non come sopprimerla.
"Tutta la divergenza è ugualmente importante." La divergenza superficiale è cosmetica. Quella semantica è significativa. Quella evidenziale è la più importante. Trattarle allo stesso modo è un fallimento di UX.
"Più divergenza significa output peggiore." Più divergenza significa resoconto più onesto dell'incertezza sottostante. Un tema su cui il panel è in disaccordo era uno che l'utente aveva bisogno di sapere che fosse contestato.
"La divergenza dovrebbe essere rimossa nel riassunto finale." No. Nascondere la divergenza produce una risposta più ordinata e meno utile. La mossa onesta è preservare la divergenza con chiara attribuzione.
Concetti correlati
Il disaccordo IA è l'esperienza orientata all'utente della divergenza. Il consenso IA è il sistema più ampio che porta in superficie sia la convergenza sia la divergenza. La verifica multi-modello è l'ingegneria della misurazione della divergenza su scala. Il punteggio di accordo IA è la lettura quantitativa che complementa l'esibizione qualitativa della divergenza. La fiducia nell'IA è l'inquadramento più ampio di come la divergenza influenzi la fiducia calibrata.
Domande frequenti
La divergenza è la stessa cosa del disaccordo? Disaccordo è la parola orientata all'utente; divergenza è la parola tecnica. Si riferiscono allo stesso fenomeno a livelli di descrizione diversi.
Posso capire quale modello abbia ragione quando divergono? A volte — quando gli schemi di divergenza corrispondono a cause note (recenza, geografia, architettura). Spesso solo ulteriore indagine contro fonti primarie può determinare quale lato abbia la risposta giusta.
Rimuovere la divergenza migliora la risposta? Rimuove informazione utile. Il trattamento onesto è preservare la divergenza e portarla in superficie chiaramente.
Perché non tutti i modelli convergono se sono stati addestrati su testo internet simile? Perché "simile" non è "identico". Miscele diverse di dati di addestramento, obiettivi diversi, tuning post-addestramento diverso e architetture diverse producono tutti intuizioni sistematicamente diverse. Convergenza su domande comuni; divergenza sulla coda lunga.