Come verificare quello che ti dice l'IA

Cosa imparerai

• Cos'è un'allucinazione e perché succede
• Quali parti di una risposta controllare per prime: nomi, numeri, date, citazioni e link
• Come chiedere le fonti e poi verificarle di persona
• Come distinguere i fatti dalle ipotesi dell'IA

L'idea

Gli strumenti di IA scrivono testi fluidi e dal tono sicuro, che il contenuto sia corretto o no. Quando uno strumento produce qualcosa che sembra giusto ma è falso, come un libro che non esiste o una citazione che nessuno ha mai pronunciato, si parla di allucinazione: un output dal tono sicuro ma sbagliato o inventato. Succede perché il modello prevede il testo più probabile. Non sta mentendo, e non sa quando sbaglia.

Non serve controllare ogni parola. Controlla le parti che farebbero danni se fossero sbagliate. Nomi, numeri, date, citazioni e link sono i soliti punti a rischio, insieme a tutto ciò che riguarda questioni legali, mediche o finanziarie. Per ciascuno, vai a una fonte primaria: il documento originale, il sito ufficiale, il testo della legge o la pubblicazione della persona stessa. Un post di blog che ripete l'affermazione non conta come conferma.

Puoi chiedere le fonti all'IA. È utile, ma non è l'ultimo passo. Una fonte citata potrebbe non esistere, parlare d'altro o non dire quello che sostiene l'IA. Aprila e trova la frase che supporta l'affermazione. Se non la trovi, considera l'affermazione non confermata.

Infine, chiedi all'IA di etichettare la propria risposta: quali parti vengono da una fonte o dal materiale che le hai dato, e quali sono conoscenze generali, ipotesi od opinioni. Le etichette non sono sempre giuste, ma ti mostrano dove guardare per prima cosa.

Esempio

La titolare di una piccola impresa chiede:

Qual è la scadenza per presentare la mia dichiarazione trimestrale
dell'imposta sulle vendite, e qual è la sanzione per il ritardo?
Dammi un link alla norma ufficiale.

La risposta indica una data, una sanzione e un link. Si legge bene. Lei controlla ogni parte:

• Il link apre una pagina sul sito dell'ufficio delle imposte, ma riguarda un modulo diverso.
• La pagina dell'ufficio delle imposte dedicata alla sua dichiarazione indica una scadenza diversa per la sua regione.
• La sanzione per il ritardo non compare in nessuna delle pagine ufficiali che riesce a trovare.

Allora aggiunge una domanda:

Quali parti della tua risposta vengono da una fonte che puoi indicare,
e quali sono conoscenze generali o un'ipotesi? Mettile in elenchi
separati.

L'IA sposta la sanzione nell'elenco delle ipotesi. Lei prende la scadenza dalla pagina ufficiale e chiama l'ufficio delle imposte per informarsi sulla sanzione. L'IA l'ha aiutata a capire cosa cercare, ma ogni informazione su cui si è basata veniva dalla fonte primaria.

Esercitati ora

1. Fai a uno strumento di IA qualsiasi una domanda fattuale su qualcosa che conosci bene, come la tua città, il tuo lavoro o un hobby.
2. Chiedigli di includere almeno due fonti con i link.
3. Sottolinea nella risposta ogni nome, numero, data e citazione.
4. Apri ogni fonte e cerca la frase esatta che supporta ciascun elemento sottolineato.
5. Segna ogni elemento come confermato, sbagliato o non trovato.

Alla fine dovresti avere un breve elenco di affermazioni, ognuna con il suo stato, e una prima idea di quanto controllo richieda questo strumento nel tuo campo. Per ricerche più lunghe, continua con Fai ricerche con l'IA e verifica le citazioni.

Copia questo modello

Rispondi a questa domanda: [la tua domanda].

Poi dividi la risposta in tre elenchi:
1. Fatti con una fonte che posso verificare. Per ciascuno indica il
   nome della fonte e il link.
2. Conoscenze generali che non hai preso da una fonte specifica.
3. Ipotesi, supposizioni od opinioni.

Se non sei sicuro di un nome, un numero, una data o una citazione,
scrivilo lì accanto. Non inventare fonti.

Chiedere all'IA di segnalare le incertezze non rende corretta la sua risposta. Continua a verificare le parti importanti.

Controlla il risultato

• Ogni link si apre, e porta alla pagina originale o ufficiale?
• La fonte dice, con parole sue, quello che sostiene l'IA?
• I nomi sono scritti correttamente, e date e numeri corrispondono esattamente alla fonte?
• Le citazioni sono testuali, e sono state dette dalla persona indicata?
• La fonte è abbastanza recente per il tuo scopo? Cerca una data sulla pagina.
• Le ipotesi sono chiaramente separate dai fatti?

Errori comuni

• Controllare solo che il link funzioni. Una pagina vera può comunque parlare d'altro. Trova la frase che supporta l'affermazione.
• Chiedere alla stessa IA se è sicura. Potrebbe dirti di sì, o cambiare risposta, senza nessuna prova nuova. Verifica invece una fonte primaria.
• Prendere un tono sicuro per un segno di accuratezza. Il tono non dice nulla sulla verità. Giudica ogni affermazione in base alla sua fonte.
• Controllare tutto con la stessa cura. Non ti basterà il tempo. Comincia da ciò che farebbe danni se fosse sbagliato: soldi, salute, questioni legali e tutto ciò che pubblicherai o invierai.