Soru
Modelin uydurma bilgi üretmesini (halüsinasyon) engellemek için sistem prompt tasarımı, Chain-of-Thought ve yapılandırılmış çıktı kısıtlamaları hayati önem taşır.
Üretken Yapay Zekada Halüsinasyonu Minimuma İndiren İleri Düzey Prompt Mühendisliği Teknikleri
Büyük dil modellerinin en büyük handikapı, emin olmadığı konularda dahi son derece ikna edici yalanlar veya uydurma kaynaklar üretebilmesidir (hallucination). Kurumsal projelerde bu durum hukuki ve operasyonel riskler doğurur.
Halüsinasyonu Azaltan Temel Yöntemler:
- Chain-of-Thought (CoT) ve "Adım Adım Düşün" yönergeleri.
- Self-Consistency (Kendi Kendini Doğrulama) ve Majority Voting.
- Negative Prompting ve "Bilmediğini Açıkça İtiraf Et" kuralları.
- Pydantic ve Instructor kütüphaneleriyle katı JSON Schema çıktısı alma.
İbrahim Cingil
06.10.2026 05:42
0
Halüsinasyon Önleyici Altın Kurallar ve Prompt Mimarisi
1. Kapsam ve Bilgi Sınırı (Grounding) Tanımlama
Modele açıkça bilgi sınırları çizilmeli ve kaynakta yer almayan hiçbir varsayımda bulunmaması tembihlenmelidir:
### KİMLİK VE ROL
Sen sadece aşağıdaki [BAĞLAM] bloğunda verilen bilgilere dayanarak yanıt veren analitik bir asistansın.
### KATİ KURALLAR
1. [BAĞLAM] içinde cevabı doğrudan bulunmayan hiçbir soruya tahminle cevap verme.
2. Bilgi eksikse doğrudan: "Verilen belgelerde bu bilgi yer almamaktadır." de.
3. Asla bağlam dışı web bilgisi veya kendi eğitim verini karıştırma.
4. Yanıtındaki her iddia için [Kaynak Belge Adı: Sayfa No] şeklinde alıntı yap.2. Chain-of-Verification (CoVe - Doğrulama Zinciri)
Model önce cevabı taslak olarak yazar, ardından cevaptaki her bir iddiayı doğrulayan bağımsız sorular sorar, bu soruları cevaplar ve nihai tutarlı metni üretir.
hakan öztürk
06.10.2026 09:32
0
Prompt mühendisliğinde en etkili şey "Lütfen dikkatli ol" demek değil, yapılandırılmış JSON çıktı zorunlu kılmaktır. Örneğin modelden doğrudan metin istemek yerine {"answer": "...", "confidence_score": 0.95, "cited_snippets": [...]} şeması isterseniz, model yanıtını kanıtlara dayandırmak zorunda kaldığı için halüsinasyon oranı %80 oranında düşer.
Kudret Eren KARA
07.10.2026 02:32
0
Hukuk metinlerini özetletirken "Her cümlenin sonuna ilgili kanun maddesini parantez içinde yaz, bulamazsan madde yok de" kuralı koyduk. Önceden uydurma kanun numaraları üreten model artık birebir doğru maddeleri eşleştiriyor.
