Cosa l'IA può e non può fare per te

Cosa imparerai

• In cosa sono bravi gli strumenti di IA generativa e dove sono deboli
• Perché uno strumento di IA può sembrare sicuro e sbagliare comunque
• Come scegliere una prima attività adatta al modo in cui funzionano questi strumenti

L'idea

La maggior parte delle persone inizia con strumenti di chat che rientrano nell'IA generativa, cioè creano nuovi testi, immagini o altri contenuti a partire dalla tua richiesta. Alla base della maggior parte degli strumenti di testo c'è un modello linguistico di grandi dimensioni, un sistema addestrato su una quantità molto grande di testo per prevedere quali parole verranno probabilmente dopo. Non «sa» le cose come le sa un libro di consultazione. Produce una risposta che si adatta allo schema della tua domanda.

Proprio per come funzionano, questi strumenti sono utili quando conta più una buona prima versione che un fatto esatto: scrivere la bozza di un'email, spiegare un'idea con parole più semplici, riassumere un testo lungo che incolli, fare brainstorming di nomi o punti di vista, e riorganizzare appunti disordinati in una tabella o in un elenco.

Lo stesso meccanismo spiega i punti deboli. Fatti esatti, nomi, prezzi e date possono essere sbagliati anche quando vengono presentati con sicurezza. Gli eventi recenti possono mancare, perché le conoscenze del modello si fermano alla sua data limite delle conoscenze, il momento dopo il quale non è stato addestrato su nuove informazioni. Nei calcoli può sbagliare, quindi controlla ogni numero che conta. E non può sapere nulla della tua situazione che tu non gli abbia detto.

Alcuni strumenti possono cercare sul web o leggere i file che carichi. In quel caso lo strumento può lavorare con informazioni più recenti o più specifiche, ma può comunque fraintendere o riportare male quello che ha trovato. La ricerca cambia ciò che l'IA può vedere. Non toglie la necessità di controllare.

Esempio

Uno studente deve scrivere un'email a un docente per un elaborato in ritardo. Ecco un uso poco efficace dell'IA:

Qual è il regolamento della mia università sulle consegne in ritardo?

Lo strumento non ha modo di conoscere il regolamento della tua università, a meno che non cerchi e trovi la pagina giusta. Senza quella pagina, potrebbe scrivere un regolamento che sembra vero ma non lo è. Meglio dividersi il lavoro: trova tu il regolamento e usa l'IA per scrivere:

Aiutami a scrivere un'email breve e cortese al mio docente. Ho mancato di
due giorni la scadenza del mio elaborato a causa di una malattia. Ho un
certificato medico. Voglio chiedere se posso ancora consegnarlo questa
settimana. Non superare le 120 parole.

La seconda richiesta sfrutta ciò che lo strumento fa bene: stesura, tono e struttura. I fatti, come le date, il certificato e la richiesta, li ha forniti lo studente.

Esercitati ora

1. Apri uno strumento di chat con IA a cui hai accesso. Se non ne hai ancora uno, Aiutami a scegliere può suggerirti da dove iniziare.
2. Chiedigli di spiegare in tre brevi paragrafi un argomento che conosci già bene.
3. Leggi la risposta e segna ogni frase come corretta, in parte corretta o sbagliata.
4. Fai allo stesso strumento una domanda su qualcosa che è successo negli ultimi giorni.
5. Confronta le due risposte. Annota dove è stato utile e dove ha tirato a indovinare o ha detto di non saperlo.

Alla fine dovresti avere un breve elenco di ciò che questo strumento ha fatto bene, e almeno una cosa che ha sbagliato o che non poteva sapere.

Copia questo modello

Mi serve aiuto per [attività, per esempio: scrivere una bozza, spiegare,
riassumere, fare brainstorming o riformattare].

Ecco cosa devi sapere: [i fatti e i dettagli che fornisco io].

Per favore, dammi [la forma che vuoi, per esempio: una breve email, cinque
punti elenco, una tabella].

Se una parte della tua risposta dipende da fatti che non ti ho dato, elenca
quelle parti separatamente e di' che non ne sei sicuro.

Chiedere all'IA di segnalare le incertezze non rende corretta la sua risposta. Continua a verificare le parti importanti.

Controlla il risultato

• Si è attenuto ai fatti che gli hai dato o ne ha aggiunti di nuovi?
• Puoi verificare altrove nomi, numeri, date e citazioni?
• Qualcosa dipende da eventi recenti che lo strumento potrebbe non conoscere?
• Se ha fatto dei calcoli, hai controllato tu il risultato?
• Il risultato è davvero utile per la tua attività, o si legge solo bene?

Errori comuni

• Usare l'IA come motore di ricerca per fatti esatti. Una risposta scorrevole non è una risposta verificata. Cerca i fatti in una fonte affidabile e usa l'IA per scrivere e ragionare a partire da quei fatti.
• Dare per scontato che ti conosca. Sa solo quello che c'è nella conversazione. Dagli i dettagli che gli servono, ma lascia fuori i dati privati come numeri di documenti, password o informazioni personali di altre persone.
• Fidarsi dei numeri perché sembrano precisi. Anche cifre che sembrano esatte possono essere sbagliate. Rifai i calcoli di tutto ciò su cui farai affidamento.
• Arrendersi dopo una risposta debole. Una richiesta vaga ottiene un risultato vago. Riprova con un'attività più chiara, come mostrato in Fare la prima domanda.