O que a IA pode e não pode fazer por você

O que você vai aprender

• No que as ferramentas de IA generativa são boas e onde elas são fracas
• Por que uma ferramenta de IA pode parecer segura e mesmo assim estar errada
• Como escolher uma primeira tarefa que combine com o jeito como essas ferramentas funcionam

A ideia

As ferramentas de chat com IA pelas quais a maioria das pessoas começa são de IA generativa, o que significa que elas criam textos, imagens ou outros conteúdos novos a partir do seu pedido. Por trás da maioria das ferramentas de texto há um modelo de linguagem de grande porte, um sistema treinado com uma quantidade enorme de texto para prever quais palavras provavelmente vêm em seguida. Ele não “sabe” as coisas como um livro de referência. Ele produz uma resposta que se encaixa no padrão da sua pergunta.

Esse funcionamento torna essas ferramentas úteis quando uma boa primeira versão importa mais do que um fato exato: rascunhar um e-mail, explicar uma ideia com palavras mais simples, resumir um texto longo que você cola, ter ideias de nomes ou abordagens, e transformar anotações bagunçadas em uma tabela ou uma lista.

O mesmo funcionamento explica os pontos fracos. Fatos exatos, nomes, preços e datas podem sair errados, mesmo soando seguros. Acontecimentos recentes podem estar faltando, porque o conhecimento do modelo para na sua data de corte do conhecimento, o momento a partir do qual ele não foi treinado com informações novas. A matemática pode falhar, então confira qualquer número que importe. E ela não tem como saber nada sobre a sua situação que você não tenha contado.

Algumas ferramentas conseguem fazer buscas na web ou ler arquivos que você envia. Aí a ferramenta pode trabalhar com informações mais recentes ou mais específicas, mas ainda pode interpretar ou relatar errado o que encontrou. A busca muda o que a IA consegue ver. Ela não elimina a necessidade de conferir.

Exemplo

Um estudante precisa mandar um e-mail para um professor sobre um trabalho atrasado. Aqui está um uso fraco da IA:

Qual é a política de entrega atrasada na minha universidade?

A ferramenta não tem como saber a política da sua universidade, a menos que faça uma busca e encontre a página certa. Sem isso, ela pode escrever uma política que parece real, mas não é. Uma divisão melhor é você mesmo encontrar a política e usar a IA para a escrita:

Me ajude a escrever um e-mail curto e educado para o meu professor.
Perdi o prazo do meu trabalho por dois dias porque fiquei doente.
Tenho um atestado médico. Quero perguntar se ainda posso entregar
esta semana. Use menos de 120 palavras.

O segundo pedido usa o que a ferramenta faz bem: rascunho, tom e estrutura. Os fatos, como as datas, o atestado e o pedido, vieram do estudante.

Pratique agora

1. Abra qualquer ferramenta de chat com IA a que você tenha acesso. Se ainda não tiver uma, o Ajuda para escolher pode sugerir um ponto de partida.
2. Peça que ela explique um tema que você já conhece bem, em três parágrafos curtos.
3. Leia a resposta e marque cada frase como correta, parcialmente correta ou errada.
4. Faça à mesma ferramenta uma pergunta sobre algo que aconteceu nos últimos dias.
5. Compare as duas respostas. Anote onde ela foi útil e onde chutou ou disse que não sabia.

No fim, você deve ter uma lista curta do que essa ferramenta fez bem e pelo menos uma coisa que ela errou ou não tinha como saber.

Copie este modelo

Quero ajuda com [tarefa, por exemplo: rascunhar, explicar, resumir,
ter ideias ou reorganizar um texto].

Aqui está o que você precisa saber: [os fatos e detalhes que eu dou].

Me dê [o formato que você quer, por exemplo: um e-mail curto, cinco
tópicos, uma tabela].

Se alguma parte da sua resposta depender de fatos que eu não dei,
liste essas partes separadamente e diga que você não tem certeza
sobre elas.

Pedir à IA que aponte suas incertezas não torna a resposta correta. Continue conferindo as partes que importam.

Confira o resultado

• Ela se limitou aos fatos que você deu, ou acrescentou outros?
• Você consegue confirmar os nomes, números, datas e citações em outro lugar?
• Alguma coisa depende de acontecimentos recentes que a ferramenta talvez não conheça?
• Se ela fez contas, você conferiu o resultado por conta própria?
• O resultado é realmente útil para a sua tarefa, ou só tem uma leitura agradável?

Erros comuns

• Usar a IA como buscador de fatos exatos. Uma resposta fluente não é uma resposta conferida. Procure os fatos em uma fonte confiável e use a IA para a escrita e o raciocínio em torno deles.
• Achar que ela sabe sobre você. Ela só sabe o que está na conversa. Dê os detalhes de que ela precisa, mas deixe de fora dados privados, como números de documentos, senhas ou informações pessoais de outras pessoas.
• Confiar em números porque parecem precisos. Números com aparência exata ainda podem estar errados. Refaça as contas de tudo em que você vai se apoiar.
• Desistir depois de uma resposta fraca. Um pedido vago gera um resultado vago. Tente de novo com uma tarefa mais clara, como mostra Sua primeira pergunta.