Qué puede y qué no puede hacer la IA por ti

Lo que aprenderás

• En qué son buenas las herramientas de IA generativa y dónde flaquean
• Por qué una herramienta de IA puede sonar segura y aun así equivocarse
• Cómo elegir una primera tarea que encaje con la forma en que funcionan estas herramientas

La idea

Las herramientas de chat con IA con las que empieza la mayoría de la gente son de IA generativa, es decir, crean texto, imágenes u otro contenido nuevo a partir de tu petición. Detrás de la mayoría de las herramientas de texto hay un modelo de lenguaje grande, un sistema entrenado con una cantidad muy grande de texto para predecir qué palabras es probable que vengan después. No «sabe» las cosas como un libro de consulta. Produce una respuesta que encaja con el patrón de tu pregunta.

Ese diseño hace que estas herramientas sean útiles cuando importa más una buena primera versión que un dato exacto: redactar un correo, explicar una idea con palabras más sencillas, resumir un texto largo que pegas, buscar ideas de nombres o enfoques, y pasar notas desordenadas a una tabla o una lista.

El mismo diseño explica sus puntos débiles. Los datos exactos, los nombres, los precios y las fechas pueden salir mal aunque la respuesta suene segura. Puede que falten acontecimientos recientes, porque el conocimiento del modelo se detiene en su fecha de corte del conocimiento, el momento a partir del cual ya no se entrenó con información nueva. Los cálculos pueden fallar, así que comprueba cualquier cifra que importe. Y no puede saber nada de tu situación que no le hayas contado.

Algunas herramientas pueden buscar en la web o leer archivos que subes. Así la herramienta puede trabajar con información más reciente o más específica, pero aun así puede leer mal lo que encuentra o contarlo mal. La búsqueda cambia lo que la IA puede ver. No elimina la necesidad de comprobar.

Ejemplo

Un estudiante tiene que escribir un correo a su profesor por un trabajo que no entregó a tiempo. Este es un uso poco acertado de la IA:

¿Cuál es la política de entregas fuera de plazo de mi universidad?

La herramienta no tiene forma de conocer la política de tu universidad a menos que busque y encuentre la página correcta. Sin eso, puede redactar una política que suena real pero no lo es. Es mejor repartir el trabajo: busca tú mismo la política y usa la IA para la redacción:

Ayúdame a escribir un correo breve y educado a mi profesor. Me pasé
dos días del plazo de entrega de mi ensayo porque estuve enfermo.
Tengo un certificado médico. Quiero preguntarle si todavía puedo
entregarlo esta semana. Que tenga menos de 120 palabras.

La segunda petición aprovecha lo que la herramienta hace bien: la redacción, el tono y la estructura. Los datos, como las fechas, el certificado y la petición, los aportó el estudiante.

Practica ahora

1. Abre cualquier herramienta de chat con IA a la que tengas acceso. Si todavía no tienes ninguna, Ayúdame a elegir puede sugerirte un punto de partida.
2. Pídele que te explique un tema que ya conoces bien, en tres párrafos cortos.
3. Lee la respuesta y marca cada frase como correcta, parcialmente correcta o incorrecta.
4. Hazle a la misma herramienta una pregunta sobre algo que haya pasado en los últimos días.
5. Compara las dos respuestas. Anota dónde fue útil y dónde adivinó o dijo que no lo sabía.

Al final deberías tener una lista breve de lo que esta herramienta hizo bien y al menos una cosa en la que se equivocó o que no podía saber.

Copia esta plantilla

Quiero ayuda para [tarea, por ejemplo: redactar, explicar, resumir,
buscar ideas o cambiar el formato].

Esto es lo que necesitas saber: [los datos y detalles que aporto yo].

Por favor, dame [el formato que quieres, por ejemplo: un correo breve,
cinco viñetas, una tabla].

Si alguna parte de tu respuesta depende de datos que no te he dado,
enumera esas partes por separado e indica que no estás seguro de ellas.

Pedirle a la IA que señale lo que no sabe con seguridad no hace que su respuesta sea correcta. Sigue comprobando las partes importantes.

Revisa el resultado

• ¿Se ciñó a los datos que le diste o añadió otros nuevos?
• ¿Puedes confirmar en otra fuente los nombres, las cifras, las fechas y las citas?
• ¿Depende algo de acontecimientos recientes que la herramienta quizá no conozca?
• Si hizo cálculos, ¿comprobaste tú mismo el resultado?
• ¿El resultado es realmente útil para tu tarea, o solo se lee con fluidez?

Errores comunes

• Usar la IA como buscador de datos exactos. Una respuesta fluida no es una respuesta comprobada. Busca los datos en una fuente fiable y usa la IA para redactar y pensar en torno a ellos.
• Dar por hecho que sabe cosas de ti. Solo sabe lo que hay en la conversación. Dale los detalles que necesita, pero deja fuera datos privados como números de identificación, contraseñas o información personal de otras personas.
• Fiarse de las cifras porque parecen precisas. Una cifra que parece exacta también puede estar mal. Vuelve a calcular todo aquello en lo que vayas a apoyarte.
• Rendirse tras una respuesta floja. Una petición vaga da un resultado vago. Vuelve a intentarlo con una tarea más clara, como se explica en Hacer tu primera pregunta.