Cómo comprobar lo que te dice la IA

Lo que aprenderás

• Qué es una alucinación y por qué ocurre
• Qué partes de una respuesta comprobar primero: nombres, cifras, fechas, citas y enlaces
• Cómo pedir fuentes y luego comprobarlas por tu cuenta
• Cómo separar los hechos de las conjeturas de la IA

La idea

Las herramientas de IA escriben textos fluidos y seguros, sea o no correcto el contenido. Cuando una herramienta produce algo que suena bien pero es falso, como un libro que no existe o una cita que nadie dijo, se llama alucinación: una respuesta dada con seguridad que es incorrecta o inventada. Ocurre porque el modelo predice qué texto es probable. No miente y tampoco sabe cuándo se equivoca.

No hace falta comprobar cada palabra. Comprueba las partes que causarían daño si fueran incorrectas. Los nombres, las cifras, las fechas, las citas y los enlaces son los puntos de riesgo habituales, junto con todo lo legal, médico o financiero. Para cada uno, acude a una fuente primaria: el documento original, el sitio web oficial, la propia ley o lo publicado por la persona en cuestión. Una entrada de blog que repite la afirmación no cuenta como confirmación.

Puedes pedirle fuentes a la IA. Eso ayuda, pero no es el último paso. Una fuente citada puede no existir, tratar de otra cosa o no decir lo que afirma la IA. Ábrela y busca la frase que respalda la afirmación. Si no la encuentras, considera que la afirmación no está confirmada.

Por último, pide a la IA que etiquete su propia respuesta: qué partes vienen de una fuente o del material que le diste, y qué partes son conocimiento general, conjeturas u opiniones. Las etiquetas no siempre aciertan, pero te muestran dónde mirar primero.

Ejemplo

La dueña de un pequeño negocio pregunta:

¿Cuál es el plazo para presentar mi declaración trimestral del impuesto sobre las ventas y
cuál es el recargo por presentarla tarde? Dame un enlace a la norma oficial.

La respuesta incluye una fecha, un recargo y un enlace. Se lee bien. Ella comprueba cada parte:

• El enlace abre una página del sitio web de la agencia tributaria, pero trata de otro formulario.
• La propia página de la agencia tributaria sobre su declaración indica otro plazo para su región.
• El recargo no aparece en ninguna página oficial que ella consiga encontrar.

Entonces hace otra pregunta:

¿Qué partes de tu respuesta vienen de una fuente que puedas señalar y
cuáles son conocimiento general o una conjetura? Ponlas en listas
separadas.

La IA pasa el recargo a la lista de conjeturas. Ella toma el plazo de la página oficial y llama a la agencia tributaria para preguntar por el recargo. La IA la ayudó a ver qué tenía que consultar, pero cada dato en el que se basó para actuar salió de la fuente primaria.

Practica ahora

1. Haz a cualquier herramienta de IA una pregunta sobre hechos concretos de algo que conozcas bien, como tu ciudad, tu trabajo o una afición.
2. Pídele que incluya al menos dos fuentes con enlaces.
3. Subraya cada nombre, cifra, fecha y cita de la respuesta.
4. Abre cada fuente y busca la frase exacta que respalda cada elemento subrayado.
5. Marca cada elemento como confirmado, incorrecto o no encontrado.

Al final deberías tener una lista breve de afirmaciones, cada una con su estado, y una primera idea de cuánto hay que comprobar lo que dice esta herramienta en tu campo. Para investigaciones más largas, sigue con Investiga con IA y comprueba las citas.

Copia esta plantilla

Responde a esta pregunta: [tu pregunta].

Después divide tu respuesta en tres listas:
1. Hechos con una fuente que yo pueda comprobar. Indica el nombre de la fuente y el enlace
   de cada uno.
2. Conocimiento general que no hayas sacado de una fuente concreta.
3. Conjeturas, suposiciones u opiniones.

Si no estás seguro de un nombre, una cifra, una fecha o una cita, indícalo
al lado. No inventes fuentes.

Pedirle a la IA que señale lo que no sabe con seguridad no hace que su respuesta sea correcta. Sigue comprobando las partes importantes.

Revisa el resultado

• ¿Se abre cada enlace y es la página original u oficial?
• ¿La fuente dice, con sus propias palabras, lo que afirma la IA?
• ¿Están bien escritos los nombres, y coinciden exactamente las fechas y las cifras con la fuente?
• ¿Las citas son literales y las dijo la persona a la que se atribuyen?
• ¿Es la fuente lo bastante actual para lo que necesitas? Busca una fecha en la página.
• ¿Están las conjeturas claramente separadas de los hechos?

Errores comunes

• Comprobar solo que el enlace funciona. Aunque la página exista, puede tratar de otra cosa. Busca la frase que respalda la afirmación.
• Preguntar a la misma IA si está segura. Puede decir que sí, o cambiar su respuesta, sin ninguna prueba nueva. En su lugar, comprueba una fuente primaria.
• Tomar un tono seguro como señal de exactitud. El tono no dice nada sobre la verdad. Juzga cada afirmación por su fuente.
• Comprobarlo todo con el mismo cuidado. Te quedarás sin tiempo. Empieza por lo que causaría daño si fuera incorrecto: dinero, salud, cuestiones legales y todo lo que vayas a publicar o enviar.