CogVLM

अब समर्थित नहीं! एक self-hosted vision language model चलाएँ।

CogVLM का End Of Life हो चुका है

नए मॉडलों के साथ निर्भरता संबंधी टकराव और transformers लाइब्रेरी को उन संस्करणों में पैच किया गया है जो उस मॉडल के साथ असंगत हैं, जिसके लिए हमने CogVLM समर्थन के End Of Life की घोषणा की थी inference, रिलीज़ से प्रभावी 0.38.0.

हम इस ब्लॉक को ecosystem में तब तक छोड़ रहे हैं जब तक रिलीज़ नहीं हो जाती 0.42.0 ताकि क्लाइंट्स को किए गए बदलाव के बारे में सूचित किया जा सके।

अब से, ब्लॉक का उपयोग करने वाले सभी Workflows काम करना बंद कर देंगे (runtime error उत्पन्न होगा), inference release के बाद 0.42.0 - यह ब्लॉक हटा दिया जाएगा और Execution Engine, Workflow definition में इस ब्लॉक को देखकर compilation error देगा।

CogVLM, एक ओपन-सोर्स विज़न-लैंग्वेज मॉडल, से एक प्रश्न पूछें।

इस मॉडल के लिए GPU की आवश्यकता है और इसे केवल self-hosted डिवाइसों पर चलाया जा सकता है, तथा यह Roboflow Hosted API पर उपलब्ध नहीं है।

यह मॉडल पहले LMM ब्लॉक का हिस्सा था।

प्रकार पहचानकर्ता

स्टेप में निम्नलिखित पहचानकर्ता का उपयोग करें "type" फ़ील्ड: roboflow_core/cog_vlm@v1 अपने वर्कफ़्लो में ब्लॉक को एक स्टेप के रूप में जोड़ने के लिए।

गुण

नाम	प्रकार	विवरण	संदर्भ
name	str	इस स्टेप के लिए एक विशिष्ट पहचानकर्ता दर्ज करें..	❌
प्रॉम्प्ट	str	CogVLM मॉडल के लिए टेक्स्ट प्रॉम्प्ट।	✅
json_output_format	Dict[str, str]	अनुरोधित आउटपुट फ़ील्ड के नाम को उसके विवरण से मैप करने वाली डिक्शनरी रखता है।	❌

यह संदर्भ स्तंभ यह इंगित करता है कि संपत्ति को वर्कफ़्लो रनटाइम में उपलब्ध गतिशील मानों के साथ पैरामीटराइज़ किया जा सकता है वर्कफ़्लो रनटाइम। देखें बाइंडिंग्स अधिक जानकारी के लिए।

रनटाइम संगतता

requires_internet - air-gapped / offline deployments : यह ब्लॉक ऐसी सेवा पर निर्भर करता है जो पूरी तरह ऑफ़लाइन / air-gapped deployments से पहुँचा नहीं जा सकता।

कठिन - रनटाइम self_hosted_cpu; निष्पादन स्थानीय : एक GPU की आवश्यकता है; run_locally() एक ऐसा मॉडल लोड करता है जिसे CUDA की आवश्यकता होती है।

कठिन - रनटाइम hosted_serverless; निष्पादन दूरस्थ : Roboflow Hosted Serverless पर LMM_ENABLED=False: /llm_v1 और /infer/cog_vlm endpoints पंजीकृत नहीं हैं, इसलिए run_remotely() 404 लौटाता है।

इनपुट और आउटपुट बाइंडिंग्स

उपलब्ध कनेक्शन उसके बाइंडिंग प्रकारों पर निर्भर करते हैं। देखें कि कौन-से बाइंडिंग प्रकार CogVLM संस्करण v1 है।

इनपुट और आउटपुट बाइंडिंग्स

• इनपुट

  • छवियाँ (छवि): जिस छवि पर अनुमान लगाना है..

  • प्रॉम्प्ट (string): CogVLM मॉडल के लिए टेक्स्ट प्रॉम्प्ट।

• आउटपुट

  • parent_id (parent_id): स्टेप आउटपुट के लिए पैरेंट का पहचानकर्ता।

  • root_parent_id (parent_id): स्टेप आउटपुट के लिए पैरेंट का पहचानकर्ता।

  • छवि (image_metadata): सुपरविज़न द्वारा आवश्यक छवि मेटाडेटा वाली डिक्शनरी।

  • structured_output (शब्दकोश): शब्दकोश।

  • raw_output (string): स्ट्रिंग मान.

  • * (*): किसी भी तत्व का समतुल्य।

उदाहरण JSON परिभाषा

{
	    "name": "<your_step_name_here>",
	    "type": "roboflow_core/cog_vlm@v1",
	    "images": "$inputs.image",
	    "prompt": "my prompt",
	    "json_output_format": {
	        "count": "तस्वीर में बिल्लियों की संख्या"
	    }
	}