3 में से पाठ 3 · 7 मिनट

आउटपुट जाँचें

मॉडल पक्के लग सकते हैं और फिर भी ग़लत हो सकते हैं, इसलिए उनके जवाबों को असली स्रोतों पर टिकाएँ और भरोसा करने से पहले टेस्ट करें।

मॉडल वह टेक्स्ट लिखता है जिसके आगे आने की सबसे ज़्यादा संभावना हो। ज़्यादातर समय वह सही भी होता है। लेकिन जब वह कुछ नहीं जानता, तब भी वह एक धाराप्रवाह, आत्मविश्वास भरा जवाब लिख सकता है जो ग़लत हो। इसे hallucination (मनगढ़ंत जवाब) कहते हैं। गढ़े हुए तथ्य, उद्धरण, लिंक और संख्याएँ इसके आम उदाहरण हैं।

जवाबों को असली डेटा पर टिकाएँ, और स्रोत जाँचें। जब तथ्य मॉडल के सामने हों, तो वह कहीं ज़्यादा भरोसेमंद होता है। अपने दस्तावेज़ प्रॉम्प्ट में डालें और उससे कहें कि सिर्फ़ उन्हीं से जवाब दे, और बताए कि हर तथ्य कहाँ से आया। मौजूदा जानकारी के लिए phaseo:web_search सर्वर टूल (बीटा में) जोड़ें: मॉडल वेब पर खोजता है और नतीजों से जवाब लिखता है, जिनमें ऐसे URL होते हैं जिन्हें आप खोल सकते हैं। उन्हें ज़रूर खोलें, क्योंकि मॉडल असली दिखने वाला लिंक भी गढ़ सकता है।

संरचित आउटपुट से भरोसेमंद ढाँचा पाएँ। अगर आपके कोड को जवाब पढ़ना है, तो अनुरोध के साथ JSON Schema भेजें। तब मॉडल खुले टेक्स्ट के बजाय उसी ढाँचे में JSON लौटाता है। इस्तेमाल से पहले आपके कोड को नतीजा फिर भी जाँचना चाहिए, क्योंकि ढाँचा सही होते हुए भी सामग्री ग़लत हो सकती है।

एकरूपता के लिए temperature कम करें। temperature तय करता है कि मॉडल कितनी विविधता जोड़े। कम मान ज़्यादा स्थिर, दोहराए जा सकने वाले जवाब देते हैं। जानकारी निकालने, वर्गीकरण और JSON के लिए दस्तावेज़ 0.0 से 0.2 सुझाते हैं।

शिप करने से पहले असली उदाहरणों पर टेस्ट करें। असली इनपुट इकट्ठा करें, बिखरे और असामान्य इनपुट भी, और जवाब हाथ से जाँचें। जब भी प्रॉम्प्ट या मॉडल बदलें, यह दोबारा करें।

अपनी समझ जाँचें

आपका ऐप एक मॉडल से किसी कंपनी की स्थापना का साल पूछता है, और आपको सही जवाब चाहिए। सबसे अच्छा तरीका क्या है?

इसे लागू करें

आपने एक टूल बनाया जो इनवॉइस से कुल रकम, तारीख और सप्लायर निकालता है। डेमो में यह चला, लेकिन प्रोडक्शन में आपका कोड कभी-कभी क्रैश हो जाता है क्योंकि मॉडल फ़ील्ड के बजाय एक वाक्य में जवाब देता है। आप क्या बदलेंगे?

जवाब दिखाएँ

संरचित आउटपुट इस्तेमाल करें: ज़रूरी फ़ील्ड के साथ JSON Schema भेजें, ताकि मॉडल उसी ढाँचे में JSON लौटाए। temperature कम रखें, जैसे 0.0 से 0.2। इस्तेमाल से पहले अपने कोड में JSON की जाँच करें, और शिप करने से पहले असली इनवॉइस के एक सेट पर टेस्ट करें, बिखरे हुए इनवॉइस भी।

मुख्य बात

मॉडल के जवाबों को मसौदा मानें: उन्हें असली स्रोतों पर टिकाएँ, तय ढाँचा माँगें, एकरूपता के लिए temperature कम रखें, और असली उदाहरणों पर टेस्ट करें।

संबंधित लिंक

प्रगति इसी ब्राउज़र में सेव होती है।

आखिरी बार जाँचा गया 17 नवंबर 2026