AIにできること、できないこと

このレッスンで学ぶこと

• 生成AIツールが得意なことと、苦手なこと
• AIツールが自信ありげなのに間違えることがある理由
• こうしたツールのしくみに合った、最初のタスクの選び方

考え方

多くの人が最初に使うAIチャットツールは生成AIです。依頼に応じて、新しい文章、画像などのコンテンツを作り出すということです。文章を扱うツールの多くの中には大規模言語モデルがあります。これは、非常に大量の文章で学習し、次にどんな言葉が来そうかを予測するシステムです。参考書のように物事を「知っている」わけではありません。質問のパターンに合う答えを作り出しているのです。

このしくみのおかげで、こうしたツールは、正確な事実よりも良い最初の案が大事な場面で役に立ちます。メールの下書き、考えをもっとやさしい言葉で説明すること、貼り付けた長い文章の要約、名前や切り口のアイデア出し、まとまりのないメモを表や一覧に整え直すこと、などです。

同じしくみが、弱点の理由でもあります。正確な事実、名前、価格、日付は、自信ありげなまま間違って出てくることがあります。最近の出来事が抜けていることもあります。モデルの知識はナレッジカットオフ、つまりそれ以降の新しい情報では学習していない時点で止まっているからです。計算を間違えることもあるので、大事な数字は確認してください。また、あなたが伝えていないあなたの状況については、何も知りようがありません。

ツールによっては、ウェブを検索したり、アップロードしたファイルを読んだりできます。その場合は、より新しい情報やより具体的な情報をもとに作業できますが、見つけた内容を読み違えたり、間違って伝えたりすることはあります。検索によって、AIが見られる範囲は変わります。でも、確認が不要になるわけではありません。

例

ある学生が、課題の提出が遅れたことについて、講師にメールを送る必要があります。AIの使い方としてうまくない例はこうです。

私の大学の提出遅れに関する規定はどうなっていますか？

ツールが検索して正しいページを見つけない限り、あなたの大学の規定を知る方法はありません。そうでなければ、本物らしく聞こえるけれど実際には存在しない規定を書いてしまうことがあります。もっと良い分担は、規定は自分で調べ、文章を書くことにAIを使うことです。

講師に送る、短くて丁寧なメールを書くのを手伝ってください。体調を崩して
いたため、レポートの締め切りに2日遅れてしまいました。医師の診断書が
あります。今週中にまだ提出できるかどうかを尋ねたいです。120語以内で
お願いします。

2つ目の依頼は、ツールが得意なこと、つまり下書き、トーン、構成を活かしています。日付、診断書、お願いの内容といった事実は、学生本人から出たものです。

やってみましょう

1. 使えるAIチャットツールを何か開きます。まだ持っていない場合は、ツール選びサポートで最初の候補を提案してもらえます。
2. すでによく知っているテーマについて、短い段落3つで説明するよう頼みます。
3. 答えを読み、各文に「正しい」「一部正しい」「誤り」の印をつけます。
4. 同じツールに、ここ数日に起きた出来事について質問します。
5. 2つの答えを比べます。どこで役に立ったか、どこで推測したり、わからないと言ったりしたかを書き留めます。

終わったときには、このツールがうまくできたことの短い一覧と、間違えたことや知りようがなかったことを少なくとも1つ、書き出せているはずです。

このテンプレートをコピー

[タスク。例：下書き、説明、要約、アイデア出し、形式の整え直し]を手伝ってほしいです。

知っておいてほしいことは次のとおりです：[私からの事実と詳細]。

[希望する形式。例：短いメール、箇条書き5つ、表]で答えてください。

答えの中に、私が伝えていない事実にもとづく部分があれば、その部分を別に
一覧にして、確信が持てないことを伝えてください。

AIに不確かな点を示すよう頼んでも、答えが正しくなるわけではありません。大事な部分は引き続き確認してください。

結果を確認する

• あなたが伝えた事実だけを使っていますか？それとも、新しい事実を加えていますか？
• 名前、数字、日付、引用を、ほかのところで確認できますか？
• ツールが知らないかもしれない最近の出来事に左右される部分はありませんか？
• 計算をしている場合、その結果を自分で確認しましたか？
• 結果はタスクに本当に役立ちますか？それとも、読みやすいだけですか？

よくある間違い

• 正確な事実を調べる検索エンジンとしてAIを使う。流暢な答えは、確認済みの答えではありません。事実は信頼できる情報源で調べ、その周りの文章を書いたり考えたりすることにAIを使いましょう。
• AIが自分のことを知っていると思い込む。AIが知っているのは、会話の中にあることだけです。必要な詳細は伝えつつ、ID番号、パスワード、他人の個人情報などのプライベートなデータは入れないでください。
• 正確そうに見えるからといって数字を信じる。細かく正確そうに見える数字でも、間違っていることがあります。頼るつもりの数字は計算し直してください。
• 一度答えがいまひとつだっただけで、あきらめる。あいまいな依頼には、あいまいな結果が返ってきます。最初の質問をするで紹介しているように、もっと明確なタスクでもう一度試してください。