Yapay zekâ, veri ve güvenlik · Ayrıntılı terim
Yapay Zekâ Halüsinasyonu nedir?
Yapay zekâ halüsinasyonu, üretken bir sistemin yanlış veya var olmayan bilgiyi ikna edici ve kendinden emin biçimde sunmasıdır. Hukukta uydurma karar, hatalı madde numarası veya kaynağın söylemediği bir sonucu üretme şeklinde görülebilir.
Tanım
Yapay Zekâ Halüsinasyonu
Halüsinasyon, NIST’in daha teknik karşılık olarak kullandığı confabulation kavramıyla, üretken yapay zekânın gerçeğe aykırı veya hatalı içeriği güvenli bir dille oluşturmasını anlatır. Model metnin olası devamını tahmin ettiği için biçimsel olarak inandırıcı fakat maddi olarak yanlış bir çıktı verebilir.
Hukuki işlerde risk daha yüksektir; var olmayan karar numarası, yürürlükten kalkmış hüküm, yanlış taraf veya kaynağa eklenmiş sahte alıntı doğrudan hak kaybına yol açabilir. Kaynak bağlantısı, belge içi pasaj kontrolü, kapsam sınırlaması ve uzman incelemesi riski azaltır fakat sıfırlamaz.
Halüsinasyon farklı biçimlerde ortaya çıkabilir. Sistem tamamen var olmayan bir kaynak üretebilir, gerçek bir kararın künyesini başka bir içerikle birleştirebilir, verilen belgenin söylemediği sonucu ona atfedebilir veya aynı konuşmanın farklı yerlerinde çelişkili cevaplar verebilir. Bu nedenle yalnız kaynak linkinin bulunması yetmez; iddia ile gösterilen pasajın gerçekten örtüşmesi gerekir.
Risk, açık uçlu ve uzun cevap isteyen sorularda, yetersiz bağlamda, güncel bilgi gerektiren konularda ve modelin erişemediği kaynağı biliyormuş gibi yanıtlamasında artabilir. Kullanıcı talimatı da önemlidir: kesin cevap vermeye zorlayan bir prompt, sistemin belirsizliği göstermesini engelleyebilir. Güvenilir uygulama gerektiğinde cevap vermemeyi veya ek belge istemeyi desteklemelidir.
Kontroller savunma katmanları hâlinde kurulabilir. Arama kapsamı sınırlandırılır, cevapta kaynak ve pasaj zorunlu tutulur, künye ve tarih alanları yapılandırılmış kayıttan alınır, kritik iddialar ikinci bir kontrolle karşılaştırılır ve dış kullanımdan önce uzman onayı istenir. Hatalı örnekler saklanarak tekrar test kümesine eklenmeli; model veya veri değiştiğinde aynı sorular yeniden çalıştırılmalıdır.
Sınırlar
Ne değildir?
- Yalnız yazım yanlışı veya kullanıcının cevabı beğenmemesi değildir.
- RAG kullanıldığında otomatik olarak ortadan kalkan bir sorun değildir.
- Akıcı ve ayrıntılı bir yanıtın doğruluğuna ilişkin kanıt değildir.
- Her yanlış cevap yalnız modelden kaynaklanmaz; eksik belge, kötü arama, hatalı kullanıcı girdisi ve güncel olmayan veri de yanlış sonuca yol açabilir.
Yerel çerçeve
Türkiye bağlamı
Türk hukukunda kaynakların sürüm, tarih ve karar künyesiyle doğrulanması gerekir. Dilekçe, mütalaa veya müvekkile verilen bilgi içinde yapay zekâ çıktısının kullanılması, mesleki kontrol ve sorumluluğu sisteme devretmez.
Bir kararın resmî arama sisteminde bulunması da tek başına somut olaya uygulanabilir olduğunu göstermez. Daire, tarih, esas ve karar numarası, kararın tam metni, ilgili mevzuatın o tarihteki hâli ve sonraki içtihat gelişmeleri birlikte incelenmelidir. Yapay zekâ çıktısı çalışma notu olarak kullanılsa bile doğrulama adımlarının kim tarafından ve hangi kaynakta yapıldığı kaydedilebilir.
Pratik örnek
Günlük işte nasıl görünür?
Bir model sözleşmedeki cezai şartın geçersiz olduğunu söyler ve gerçekmiş gibi daire, esas ve karar numarası üretir. Kullanıcı önce bu künyeyi resmî karar arama kaynağında arar; karar bulunursa tam metni açarak modelin aktardığı ilkenin gerçekten kararda yer alıp almadığını kontrol eder. Karar bulunamıyor, taraflar veya konu uyuşmuyor ya da metin iddiayı desteklemiyorsa çıktı hukuki dayanak olarak kullanılmaz. Hata, aynı tür soruların gelecekteki testine eklenir ve sistemin kaynak göstermeden kesin hüküm kurması engellenir.
İlişkili kavramlar
Buradan devam edin
Kaynaklar