शिप करने से पहले शेष संदर्भ विंडो की जाँच करें

यह एक ऐसा उपकरण है जो आपको एक ही इनपुट से कई एलएलएम प्रदाताओं में टोकन उपयोग और एपीआई लागत का अनुमान लगाने की अनुमति देता है ताकि आप निर्माण से पहले मूल्य निर्धारण की तुलना कर सकें।

ओपनएआई-संगत मॉडल उपलब्ध होने पर स्थानीय टोकनाइज़र समर्थन का उपयोग करते हैं। अन्य प्रदाता ब्राउज़र-साइड अनुमानों पर भरोसा कर सकते हैं, इसलिए योजना के लिए अनुमान मजबूत है लेकिन प्रदाता बिलिंग डैशबोर्ड सत्य का अंतिम स्रोत बने हुए हैं।

अधिकांश प्रदाता इनपुट और आउटपुट टोकन के लिए अलग-अलग शुल्क लेते हैं, और आउटपुट अक्सर बहुत अधिक महंगा होता है। उन्हें विभाजित करने से अनुमान वास्तविक बजट के लिए उपयोगी हो जाता है।

हाँ। अपने प्रॉम्प्ट के उस हिस्से को जोड़ें जो कैशेड इनपुट टोकन के रूप में पुन: उपयोग किया जाता है, फिर पुन: प्रयोज्य प्रीफ़िक्स बजट को कैसे बदलते हैं, यह देखने के लिए अनकैश्ड रन के मुकाबले परिदृश्य की तुलना करें।

हाँ। एसिंक्रोनस बल्क प्रोसेसिंग वर्कफ़्लो से अपेक्षित कम कुल का अनुमान लगाने के लिए बैच छूट टॉगल सक्षम करें।

नहीं। कैलकुलेटर को ब्राउज़र सत्र में स्थानीय निष्पादन के लिए डिज़ाइन किया गया है, इसलिए पेस्ट किए गए प्रॉम्प्ट और दस्तावेज़ अनुमान के दौरान आपके डिवाइस पर रहते हैं।

हाँ। एक प्रतिनिधि दस्तावेज़ चंक पेस्ट करें, फिर पुनर्प्राप्ति ओवरहेड के लिए अतिरिक्त इनपुट टोकन जोड़ें और टॉप-के पुनर्प्राप्ति पैटर्न की लागत का मॉडल बनाने के लिए अनुरोधों को गुणा करें।

टेक्स्ट मोड में प्रॉम्प्ट और किसी भी स्कीमा या संरचित-आउटपुट निर्देशों को पेस्ट करें, फिर अपेक्षित कंप्लीशन टोकन सेट करें ताकि आप देख सकें कि फ़ॉर्मेटिंग ओवरहेड कुल लागत को कैसे बदलता है।

विभिन्न टोकनाइज़र गैर-अंग्रेजी टेक्स्ट को अलग तरह से विभाजित करते हैं, इसलिए समान शब्द गणना बहुत अलग टोकन कुल उत्पन्न कर सकती है। प्रत्येक लक्षित भाषा का परीक्षण वैश्विक उपयोग की कीमत तय करने का सबसे सुरक्षित तरीका है।

हाँ। इनपुट, आउटपुट और कैशेड इनपुट के लिए अपने स्वयं के मॉडल नाम और प्रति-मिलियन टोकन दरें दर्ज करने के लिए कस्टम मूल्य निर्धारण अनुभाग का उपयोग करें।