Yapay zekâ neden uyduruyor? Halüsinasyonu yakalamanın 6 yolu
ChatGPT'nin var olmayan kitap, yanlış tarih ya da hayali kaynak vermesinin sebebi ne? Halüsinasyonun nedenini ve uydurulmuş bilgiyi nasıl yakalayacağını anlattık.
Yapay TU Editör · 3 dk okuma
Yapay zekâ bilgiyi bir veritabanından okumaz; öğrendiği kalıplara bakarak en olası cevabı üretir. Bilmediği ya da az gördüğü bir konuda da akıcı ve kendinden emin bir cevap üretebilir; buna halüsinasyon denir. Kaynak istemek, kaynağı kendin açıp kontrol etmek ve kritik bilgiyi ikinci bir kaynaktan doğrulamak en etkili korunma yollarıdır.
Bir arkadaşın ChatGPT'ye bir kitap önerisi sordu, yapay zekâ ona yazarı, yayınevi ve basım yılıyla birlikte harika bir kitap önerdi. Tek sorun: öyle bir kitap yok. Hiç yazılmamış.
Bu durumun bir adı var: halüsinasyon. Yapay zekâ kullanan herkesin er ya da geç karşılaşacağı bir şey. İyi haber şu ki neden olduğunu anlayınca yakalamak da kolaylaşıyor.
Yapay zekâ bilgiyi nereden alıyor
Çoğu kişi ChatGPT'yi devasa bir ansiklopedi gibi düşünüyor: soruyu soruyorsun, o da bir yerden doğru cevabı bulup getiriyor. Gerçekte öyle çalışmıyor.
Bir dil modeli eğitim sırasında çok büyük miktarda metin okur ve bu metinlerdeki kalıpları öğrenir. Sonra sen bir soru sorduğunda, bu kalıplara bakarak cevabı kelime kelime üretir. Her adımda sorduğu soru şudur: "Buradan sonra gelmesi en olası kelime ne?"
Bunu bir öğrenciye benzetebilirsin. Konuyu çok iyi çalışmış bir öğrenci sınavda doğru cevabı yazar. Ama hiç çalışmadığı bir soru geldiğinde bazı öğrenciler boş bırakmak yerine kulağa doğru gelen bir şeyler yazar. Yapay zekâ o ikinci öğrenci gibi davranmaya çok yatkın, üstelik yazdığı şey her zaman çok akıcı ve kendinden emin oluyor.
Neden "bilmiyorum" demiyor
Çünkü model "biliyorum" ile "bilmiyorum" arasındaki farkı her zaman net olarak ayırt edemiyor. Onun için her cevap bir olasılık hesabı. Gerçek bir kitap adı da, uydurma bir kitap adı da dil kalıplarına aynı derecede uygun olabilir.
Bir başka sebep de eğitim şekli. Modeller kullanıcıya yardımcı olmaya yönelik eğitiliyor ve "yardımcı olmak" bazen "bir cevap vermek" ile karışabiliyor. Yeni modeller bu konuda daha temkinli hale geliyor; emin olmadığında bunu söylemeye daha yatkınlar. Ama sorun tamamen çözülmüş değil.
En çok nerede uyduruyor
Tecrübeyle sabit bir desen ortaya çıkıyor. Şu konularda ekstra dikkatli ol:
- Kaynaklar ve alıntılar: Akademik makale adları, kitaplar, "falanca şöyle demiştir" türü alıntılar.
- Kesin sayılar: İstatistikler, yüzdeler, fiyatlar, nüfus bilgileri.
- Tarihler ve isimler: Özellikle az tanınan kişiler ve olaylar.
- Kanun ve yönetmelik maddeleri: Madde numaraları ve tam metinler.
- Yerel ve güncel bilgiler: Mahallendeki bir işletme, geçen ay çıkan bir karar.
- Linkler: Var gibi görünen ama açınca hata veren adresler.
Genel kültür, yaygın bilinen kavramlar ve dil işleri (yazma, düzeltme, özetleme) ise çok daha güvenli bölge.
Halüsinasyonu yakalamanın 6 yolu
1. Kaynak iste, sonra kaynağı aç. Önemli bir bilgi için "Bu bilginin kaynağını link olarak ver" de. Ama işin asıl kısmı linke tıklamak. Uydurma bilgiler çoğu zaman uydurma linklerle gelir.
2. Aynı soruyu farklı şekilde sor. Yeni bir sohbet açıp soruyu başka kelimelerle sor. Model doğru bir bilgiyi genelde tutarlı şekilde tekrarlar. Uydurduğu bilgide ise her seferinde farklı bir isim ya da sayı çıkabilir.
3. "Bilmiyorsan söyle" izni ver. Mesajına şunu eklemek fark yaratıyor:
Emin olmadığın bir bilgi varsa uydurma, "emin değilim" diye belirt.
Hangi kısımların kesin, hangilerinin tahmin olduğunu ayrı ayrı yaz.
4. Metni sen ver. Bir belge, kanun ya da makale hakkında soru soracaksan, o metni kendin yapıştır ve "sadece bu metne dayanarak cevap ver" de. Model kendi hafızası yerine senin verdiğin metne bakınca uydurma ihtimali ciddi şekilde düşüyor. PDF ile bunu nasıl yapacağını yapay zekâya PDF okutmak yazısında anlattık.
5. İnternette arayan araçları kullan. Arama yaparak cevap veren araçlar ve modlar, cevabın yanında kaynak gösterir. Bu kaynakların doğruluğunu da kontrol etmen gerekiyor, ama en azından nereden geldiğini görebiliyorsun.
6. Kritik konuda ikinci kaynak şart. Sağlık, hukuk, para ve resmi işlerde yapay zekânın cevabını başlangıç noktası olarak kullan, son karar olarak değil. Bir doktorun, avukatın ya da resmi kurumun sitesinden doğrula.
Uyduruyor diye kullanmamak mı gerekiyor
Hayır. Bir hesap makinesinin her zaman doğru olduğuna güveniriz; yapay zekâ ise daha çok çok bilgili ama arada bir atan bir arkadaş gibi. Fikir almak, taslak yazmak, bir konuyu anlamak ve metin düzenlemek için çok değerli. Sadece "kesin bilgi" gereken yerlerde kontrol etme alışkanlığı edinmen yeterli.
Kısa bir kural: yapay zekânın cevabı yanlış çıkarsa başına ne gelir? Cevap "hiçbir şey, sadece biraz zaman kaybederim" ise rahat kullan. Cevap "para kaybederim, sağlığım etkilenir, resmi bir hata yaparım" ise mutlaka doğrula.
Sık sorulanlar
Halüsinasyon tamamen ortadan kalkacak mı?
Azalıyor ama sıfırlanması zor görünüyor, çünkü modelin çalışma şekli 'en olası cevabı üretmek' üzerine kurulu. İnternette arama yapan ve kaynak gösteren araçlar riski düşürüyor, ama o kaynakları da kontrol etmek gerekiyor.
Hangi konularda daha çok uyduruyor?
Az bilinen kişiler, küçük şirketler, yerel konular, kesin sayılar, tarihler, akademik kaynaklar ve kanun maddeleri. Kısacası internette az yazılmış ya da çok ayrıntılı bilgi gerektiren her şey.
Yapay zekâya 'emin misin' diye sormak işe yarar mı?
Bazen. Model bazen hatasını fark edip düzeltir, ama bazen de doğru cevabı gereksiz yere değiştirir. 'Emin misin' yerine 'bu bilginin kaynağını göster' demek daha güvenilir sonuç verir.
Haftada bir e-posta. Sadece işe yarayanlar.
Haftanın en iyi yapay zekâ araçları ve yeni rehberler. Reklam yok, istediğin an çık.
GitHub nedir, yapay zekâ repoları neden bu kadar önemli?
