Yapay zekâ halüsinasyonu
Bir yapay zekâ modelinin gerçeğe dayanmayan bilgiyi, örneğin var olmayan bir kaynak ya da yanlış bir rakamı, kendinden emin bir dille üretmesi.
- 01
Neden önemli?
Dil modelleri doğrulanmış bilgi değil, en olası görünen metni üretir; bu yüzden akıcı ama yanlış yanıtlar verebilir. Hukuki, tıbbi, mali ya da teknik içerikte bu hatalar gerçek zarara yol açabilir. Önemli her iddia, yayımlanmadan veya kullanılmadan önce güvenilir bir kaynakla doğrulanmalıdır.
- 02
Örnek
Yapay zekâyla hazırlanan bir blog yazısı, var olmayan bir yönetmelik maddesine atıf yapar. Editör kaynağı kontrol ederken maddeyi bulamaz ve yazı yayından önce düzeltilir.
- 03
Sık yapılan hata
Yapay zekânın verdiği kaynakları, rakamları ve alıntıları kontrol etmeden yayımlamak. Uydurma bir kaynak, içeriğin bütün güvenilirliğini zedeler.
- 04
İlgili terimler
- LLM · Büyük dil modeli
- RAG · Erişimle güçlendirilmiş üretim
- E-E-A-T · Deneyim, uzmanlık, otorite ve güvenilirlik
İlgili hizmet ve rehberler
Projenizi konuşalım.
İhtiyacınızı dinleyelim, kapsamı birlikte netleştirelim.