Cara memeriksa apa yang dikatakan AI

Yang akan Anda pelajari

• Apa itu halusinasi dan mengapa itu terjadi
• Bagian jawaban mana yang perlu diperiksa lebih dulu: nama, angka, tanggal, kutipan, dan tautan
• Cara meminta sumber lalu memeriksanya sendiri
• Cara memisahkan fakta dari tebakan AI

Gagasannya

Alat AI menulis teks yang lancar dan meyakinkan, entah isinya benar atau tidak. Ketika sebuah alat menghasilkan sesuatu yang terdengar benar padahal salah, seperti buku yang tidak ada atau kutipan yang tidak pernah diucapkan siapa pun, itu disebut halusinasi: keluaran meyakinkan yang salah atau dikarang. Ini terjadi karena model memprediksi teks yang paling mungkin. Model tidak berbohong, dan ia tidak tahu kapan dirinya salah.

Anda tidak perlu memeriksa setiap kata. Periksa bagian-bagian yang akan merugikan jika salah. Nama, angka, tanggal, kutipan, dan tautan adalah titik rawan yang biasa, begitu juga apa pun yang menyangkut hukum, kesehatan, atau keuangan. Untuk masing-masing, buka sumber primer: dokumen aslinya, situs web resminya, teks undang-undangnya, atau publikasi orang itu sendiri. Artikel blog yang mengulang klaim tersebut tidak dihitung sebagai konfirmasi.

Anda bisa meminta sumber kepada AI. Itu membantu, tetapi bukan langkah terakhir. Sumber yang dikutip mungkin tidak ada, mungkin membahas hal lain, atau mungkin tidak mengatakan apa yang diklaim AI. Bukalah sumber itu dan temukan kalimat yang mendukung klaimnya. Jika Anda tidak menemukannya, anggap klaim itu belum dikonfirmasi.

Terakhir, minta AI memberi label pada jawabannya sendiri: bagian mana yang berasal dari sumber atau dari bahan yang Anda berikan, dan bagian mana yang merupakan pengetahuan umum, tebakan, atau opini. Labelnya tidak selalu benar, tetapi menunjukkan di mana Anda perlu melihat lebih dulu.

Contoh

Seorang pemilik usaha kecil bertanya:

Kapan batas waktu penyampaian laporan pajak penjualan triwulanan saya,
dan berapa denda keterlambatannya? Berikan tautan ke aturan resminya.

Jawabannya memberi tanggal, besaran denda, dan tautan. Kedengarannya bagus. Ia memeriksa setiap bagian:

• Tautannya membuka halaman di situs web kantor pajak, tetapi halaman itu membahas formulir lain.
• Halaman resmi kantor pajak untuk laporannya mencantumkan batas waktu yang berbeda untuk wilayahnya.
• Denda keterlambatan tidak disebut di halaman resmi mana pun yang bisa ia temukan.

Ia mengirim pesan lanjutan:

Bagian mana dari jawaban Anda yang berasal dari sumber yang bisa Anda
tunjukkan, dan bagian mana yang merupakan pengetahuan umum atau
tebakan? Pisahkan ke dalam daftar yang berbeda.

AI memindahkan denda ke daftar tebakan. Ia mengambil batas waktunya dari halaman resmi dan menelepon kantor pajak untuk menanyakan dendanya. AI membantunya melihat apa yang perlu dicari, tetapi setiap fakta yang menjadi dasar tindakannya berasal dari sumber primer.

Berlatih sekarang

1. Ajukan kepada alat AI apa pun pertanyaan faktual tentang sesuatu yang Anda kuasai, seperti kota Anda, pekerjaan Anda, atau hobi Anda.
2. Minta alat itu menyertakan setidaknya dua sumber dengan tautan.
3. Garis bawahi setiap nama, angka, tanggal, dan kutipan dalam jawabannya.
4. Buka setiap sumber dan cari kalimat persis yang mendukung setiap butir yang digarisbawahi.
5. Tandai setiap butir sebagai terkonfirmasi, salah, atau tidak ditemukan.

Di akhir latihan, Anda seharusnya memiliki daftar singkat klaim beserta status masing-masing, dan gambaran awal seberapa banyak alat ini perlu diperiksa di bidang Anda. Untuk riset yang lebih panjang, lanjutkan dengan Riset dengan AI dan memeriksa kutipan.

Salin templat ini

Jawab pertanyaan ini: [pertanyaan saya].

Lalu bagi jawaban Anda menjadi tiga daftar:
1. Fakta dengan sumber yang bisa saya periksa. Sebutkan nama sumber
   dan tautannya untuk masing-masing.
2. Pengetahuan umum yang tidak Anda ambil dari sumber tertentu.
3. Tebakan, asumsi, atau opini.

Jika Anda tidak yakin tentang suatu nama, angka, tanggal, atau kutipan,
katakan di sebelahnya. Jangan mengarang sumber.

Meminta AI menandai ketidakpastian tidak membuat jawabannya benar. Tetap periksa bagian-bagian yang penting.

Periksa hasilnya

• Apakah setiap tautan bisa dibuka, dan apakah itu halaman asli atau resmi?
• Apakah sumbernya mengatakan apa yang diklaim AI, dengan kata-katanya sendiri?
• Apakah nama ditulis dengan benar, dan apakah tanggal serta angka persis sama dengan sumbernya?
• Apakah kutipannya kata demi kata, dan memang diucapkan oleh orang yang disebut?
• Apakah sumbernya cukup baru untuk keperluan Anda? Cari tanggal di halamannya.
• Apakah tebakan dipisahkan dengan jelas dari fakta?

Kesalahan umum

• Hanya memeriksa apakah tautannya berfungsi. Halaman yang nyata tetap bisa membahas hal lain. Temukan kalimat yang mendukung klaimnya.
• Menanyakan kepada AI yang sama apakah ia yakin. AI bisa saja setuju, atau mengubah jawabannya, tanpa bukti baru apa pun. Sebagai gantinya, periksa sumber primer.
• Menganggap nada yakin sebagai tanda ketepatan. Nada tidak memberi tahu apa pun tentang kebenaran. Nilai setiap klaim dari sumbernya.
• Memeriksa semuanya dengan kecermatan yang sama. Waktu Anda tidak akan cukup. Mulailah dari yang akan merugikan jika salah: uang, kesehatan, soal hukum, dan apa pun yang akan Anda terbitkan atau kirim.