AI glossary
उद्धरण / आधार
प्रत्येक दावे के लिए AI को पुनर्प्राप्त दस्तावेज़ से स्रोत का हवाला देना आवश्यक बनाना। RAG systems में hallucination के खिलाफ सबसे प्रभावी उपाय।
The longer version
पैटर्न: रिट्रीव किए गए context में नंबर वाले chunks, system prompt में हर factual claim के लिए inline citations जैसे [1] [2] की आवश्यकता, जब कोई source उत्तर का समर्थन न करे तो मना करना। हमारे deployments में इस पैटर्न से hallucination rate में 80%+ की गिरावट आती है। हमारे द्वारा उपयोग किए जाने वाले सटीक prompt के लिए /templates/rag-citation-prompt देखें।
Related terms
RAG (Retrieval-Augmented Generation)
डेटाबेस से पहले संबंधित दस्तावेज़ लाना, फिर मॉडल से केवल उन दस्तावेज़ों का उपयोग करके जवाब देने के लिए कहना। आधारित chatbots और ज्ञान सहायकों के लिए डिफ़ॉल्ट आर्किटेक्चर।
हैलूसिनेशन
जब एक मॉडल विश्वसनीय लगने वाली लेकिन गलत content उत्पन्न करता है। RAG के माध्यम से citations, refusal patterns, retrieval-confidence thresholds और eval coverage द्वारा कम किया जाता है। शून्य नहीं, कभी भी शून्य नहीं।
