Yapay zekanın söylediklerini nasıl kontrol edersiniz

Neler öğreneceksiniz

• Halüsinasyonun ne olduğu ve neden ortaya çıktığı
• Bir yanıtın önce hangi kısımlarını kontrol etmeniz gerektiği: isimler, sayılar, tarihler, alıntılar ve bağlantılar
• Nasıl kaynak isteyeceğiniz ve bu kaynakları nasıl kendiniz kontrol edeceğiniz
• Bilgileri yapay zekanın tahminlerinden nasıl ayıracağınız

Fikir

Yapay zeka araçları, içerik doğru olsun ya da olmasın akıcı ve kendinden emin metinler yazar. Bir araç kulağa doğru gelen ama yanlış olan bir şey ürettiğinde, örneğin var olmayan bir kitap ya da kimsenin söylemediği bir alıntı, buna halüsinasyon denir: yanlış ya da uydurma olan, kendinden emin bir çıktı. Bunun nedeni modelin olası metni tahmin etmesidir. Yalan söylemez ve ne zaman yanıldığını bilmez.

Her kelimeyi kontrol etmeniz gerekmez. Yanlış olduğunda zarar verecek kısımları kontrol edin. İsimler, sayılar, tarihler, alıntılar ve bağlantılar, hukuki, tıbbi veya mali her konuyla birlikte, genellikle risk noktalarıdır. Her biri için birincil kaynağa gidin: orijinal belgeye, resmi web sitesine, yasanın kendisine veya kişinin kendi yayınına. İddiayı tekrarlayan bir blog yazısı doğrulama sayılmaz.

Yapay zekadan kaynak isteyebilirsiniz. Bu yardımcı olur ama son adım değildir. Gösterilen bir kaynak var olmayabilir, başka bir konuyla ilgili olabilir veya yapay zekanın iddia ettiğini söylemiyor olabilir. Kaynağı açın ve iddiayı destekleyen cümleyi bulun. Bulamazsanız iddiayı doğrulanmamış kabul edin.

Son olarak yapay zekadan kendi yanıtını etiketlemesini isteyin: hangi kısımlar bir kaynaktan ya da sizin verdiğiniz materyalden geliyor, hangileri genel bilgi, tahmin veya görüş. Etiketler her zaman doğru değildir, ama önce nereye bakmanız gerektiğini gösterir.

Örnek

Küçük bir işletme sahibi şunu soruyor:

Üç aylık satış vergisi beyannamemi vermenin son tarihi ne zaman ve
gecikme cezası ne kadar? Bana resmi kurala bir bağlantı ver.

Yanıtta bir tarih, bir ceza tutarı ve bir bağlantı var. İyi okunuyor. Her kısmı tek tek kontrol ediyor:

• Bağlantı vergi dairesinin web sitesinde bir sayfa açıyor, ama sayfa başka bir formla ilgili.
• Vergi dairesinin onun beyannamesine ait kendi sayfası, bölgesi için farklı bir son tarih gösteriyor.
• Gecikme cezası, bulabildiği hiçbir resmi sayfada geçmiyor.

Bir takip sorusu soruyor:

Yanıtının hangi kısımları gösterebileceğin bir kaynaktan geliyor, hangi
kısımları genel bilgi ya da tahmin? Bunları ayrı listelere koy.

Yapay zeka cezayı tahmin listesine taşıyor. İşletme sahibi son tarihi resmi sayfadan alıyor ve ceza için vergi dairesini arıyor. Yapay zeka neye bakması gerektiğini görmesine yardım etti, ama dayanarak hareket ettiği her bilgi birincil kaynaktan geldi.

Şimdi pratik yapın

1. Herhangi bir yapay zeka aracına iyi bildiğiniz bir konuda, örneğin şehriniz, işiniz veya bir hobiniz hakkında, bilgiye dayalı bir soru sorun.
2. Bağlantılarıyla birlikte en az iki kaynak eklemesini isteyin.
3. Yanıttaki her ismin, sayının, tarihin ve alıntının altını çizin.
4. Her kaynağı açın ve altını çizdiğiniz her öğeyi destekleyen cümleyi birebir arayın.
5. Her öğeyi doğrulandı, yanlış veya bulunamadı olarak işaretleyin.

Sonunda her biri için bir durum belirtilmiş kısa bir iddia listeniz ve bu aracın sizin alanınızda ne kadar kontrol gerektirdiğine dair ilk bir fikriniz olmalı. Daha uzun araştırmalar için Yapay zekayla araştırma yapın ve kaynakları kontrol edin dersiyle devam edin.

Bu şablonu kopyalayın

Şu soruyu yanıtla: [sorunuz].

Ardından yanıtını üç listeye ayır:
1. Kontrol edebileceğim bir kaynağı olan bilgiler. Her biri için
   kaynağın adını ve bağlantısını ver.
2. Belirli bir kaynaktan almadığın genel bilgiler.
3. Tahminler, varsayımlar veya görüşler.

Bir isim, sayı, tarih veya alıntıdan emin değilsen bunu hemen yanına
yaz. Kaynak uydurma.

Yapay zekadan emin olmadığı yerleri belirtmesini istemek, yanıtını doğru yapmaz. Önemli kısımları kontrol etmeye devam edin.

Sonucu kontrol edin

• Her bağlantı açılıyor mu ve açılan sayfa orijinal ya da resmi sayfa mı?
• Kaynak, yapay zekanın iddia ettiği şeyi kendi kelimeleriyle söylüyor mu?
• İsimler doğru yazılmış mı, tarihler ve sayılar kaynakla birebir uyuşuyor mu?
• Alıntılar kelimesi kelimesine mi ve adı geçen kişi tarafından mı söylenmiş?
• Kaynak, amacınız için yeterince güncel mi? Sayfada bir tarih arayın.
• Tahminler bilgilerden açıkça ayrılmış mı?

Sık yapılan hatalar

• Yalnızca bağlantının çalışıp çalışmadığını kontrol etmek. Gerçek bir sayfa da başka bir konuyla ilgili olabilir. İddiayı destekleyen cümleyi bulun.
• Aynı yapay zekaya emin olup olmadığını sormak. Hiçbir yeni kanıt olmadan size hak verebilir ya da yanıtını değiştirebilir. Bunun yerine birincil bir kaynağı kontrol edin.
• Kendinden emin bir tonu doğruluk işareti saymak. Ton, doğruluk hakkında hiçbir şey söylemez. Her iddiayı kaynağına göre değerlendirin.
• Her şeyi aynı özenle kontrol etmek. Zamanınız yetmez. Yanlış olduğunda zarar verecek şeylerle başlayın: para, sağlık, hukuki konular ve yayımlayacağınız ya da göndereceğiniz her şey.