Llama 3.2 Vision

OpenRouter के माध्यम से Llama 3.2 Vision चलाएँ।

v2

Llama 3.2 Vision मॉडल से एक प्रश्न पूछें।

आप मनचाहे टेक्स्ट प्रॉम्प्ट या पूर्वनिर्धारित प्रॉम्प्ट निर्दिष्ट कर सकते हैं, यह ब्लॉक निम्नलिखित प्रकार के प्रॉम्प्ट का समर्थन करता है:

• ओपन प्रॉम्प्ट (अप्रतिबंधित) - कच्चा उत्तर जनरेट करने के लिए कोई भी प्रॉम्प्ट उपयोग करें

• टेक्स्ट पहचान (OCR) (ocr) - मॉडल छवि में टेक्स्ट को पहचानता है

• दृश्य प्रश्नोत्तर (visual-question-answering) - मॉडल आपके द्वारा प्रॉम्प्ट में सबमिट किए गए प्रश्न का उत्तर देता है

• कैप्शनिंग (संक्षिप्त) (caption) - मॉडल छवि का संक्षिप्त विवरण प्रदान करता है

• कैप्शनिंग (detailed-caption) - मॉडल छवि का विस्तृत विवरण प्रदान करता है

• एकल-लेबल वर्गीकरण (classification) - मॉडल छवि की सामग्री को दिए गए वर्गों में से एक के रूप में वर्गीकृत करता है

• बहु-लेबल वर्गीकरण (multi-label-classification) - मॉडल छवि की सामग्री को दिए गए वर्गों में से एक या अधिक के रूप में वर्गीकृत करता है

• बिना प्रॉम्प्ट के ऑब्जेक्ट डिटेक्शन (object-detection) - मॉडल छवि में प्रमुख ऑब्जेक्ट्स के लिए बाउंडिंग बॉक्स का पता लगाता है और उन्हें लौटाता है

• संरचित आउटपुट जनरेशन (structured-answering) - मॉडल निर्दिष्ट फ़ील्ड्स के साथ एक JSON प्रतिक्रिया लौटाता है

🛠️ API प्रदाता और मॉडल वेरिएंट

Llama 3.2 Vision के माध्यम से उपलब्ध है OpenRouter. डिफ़ॉल्ट रूप से यह ब्लॉक उपयोग करता है Roboflow-प्रबंधित OpenRouter कुंजी और आपके Roboflow क्रेडिट्स से शुल्क लेता है - किसी अतिरिक्त सेटअप की आवश्यकता नहीं। Roboflow बिलिंग को बायपास करने के लिए, अपनी स्वयं की sk-or-... कुंजी को api_key फ़ील्ड में चिपकाएँ।

यह privacy_level फ़ील्ड नियंत्रित करता है कि कौन से OpenRouter प्रदाता अनुरोध को सेवा दे सकते हैं:

• कोई डेटा संग्रह नहीं (डिफ़ॉल्ट) – प्रदाता आपके इनपुट पर प्रशिक्षण नहीं दे सकते।

• डेटा संग्रह की अनुमति दें – प्रदाताओं का व्यापक समूह।

• शून्य डेटा प्रतिधारण – सबसे सख्त, केवल उन प्रदाताओं तक सीमित करता है जो कुछ भी संग्रहीत नहीं रखते।

💡 आगे पढ़ने के लिए और स्वीकार्य उपयोग नीति

मॉडल लाइसेंस

देखें Llama 3.2 लाइसेंस उपयोग से पहले।

प्रकार पहचानकर्ता

स्टेप में निम्नलिखित पहचानकर्ता का उपयोग करें "type" फ़ील्ड: roboflow_core/llama_vision@v2 अपने वर्कफ़्लो में ब्लॉक को एक स्टेप के रूप में जोड़ने के लिए।

गुण

नाम	प्रकार	विवरण	संदर्भ
name	str	इस स्टेप के लिए एक विशिष्ट पहचानकर्ता दर्ज करें..	❌
api_key	str	OpenRouter API कुंजी। डिफ़ॉल्ट रूप से यह Roboflow की प्रबंधित कुंजी का उपयोग करता है, और Roboflow के माध्यम से क्रेडिट्स में बिल किया जाता है। अपनी स्वयं की sk-or-... कुंजी का उपयोग करके Roboflow बिलिंग के बिना सीधे OpenRouter को कॉल करें..	✅
privacy_level	str	प्रदाता गोपनीयता फ़िल्टर। अधिक सख्त स्तर प्रदाताओं के समूह को कम करते हैं और प्रबंधित कुंजी पर प्रति-कॉल लागत बढ़ा सकते हैं..	❌
max_tokens	int	मॉडल अपने उत्तर में अधिकतम कितने टोकन उत्पन्न कर सकता है..	❌
temperature	float	मॉडल से सैंपल करने के लिए तापमान - मान 0.0-2.0 की सीमा में, जितना अधिक होगा - जनरेशन उतनी ही अधिक यादृच्छिक / "रचनात्मक" होंगी..	✅
max_concurrent_requests	int	चित्रों के बैच के लिए समकालिक अनुरोधों की संख्या। यदि नहीं दी गई - तो ब्लॉक डिफ़ॉल्ट रूप से Workflows Execution Engine में वैश्विक रूप से कॉन्फ़िगर किए गए मान का उपयोग करता है। यदि आपको rate limits का सामना करना पड़े तो इसे सीमित करें..	❌
task_type	str	मॉडल द्वारा निष्पादित किया जाने वाला कार्य प्रकार। मान आवश्यक पैरामीटर और आउटपुट प्रतिक्रिया निर्धारित करता है..	❌
प्रॉम्प्ट	str	Llama मॉडल के लिए टेक्स्ट प्रॉम्प्ट।	✅
output_structure	Dict[str, str]	अपेक्षित JSON प्रतिक्रिया की संरचना वाली डिक्शनरी।	❌
classes	List[str]	उपयोग की जाने वाली वर्गों की सूची।	✅
मॉडल संस्करण	str	उपयोग किया जाने वाला मॉडल।	✅

यह संदर्भ स्तंभ यह इंगित करता है कि संपत्ति को वर्कफ़्लो रनटाइम में उपलब्ध गतिशील मानों के साथ पैरामीटराइज़ किया जा सकता है वर्कफ़्लो रनटाइम। देखें बाइंडिंग्स अधिक जानकारी के लिए।

रनटाइम संगतता

requires_internet - air-gapped / offline deployments : यह ब्लॉक ऐसी सेवा पर निर्भर करता है जो पूरी तरह ऑफ़लाइन / air-gapped deployments से पहुँचा नहीं जा सकता।

इनपुट और आउटपुट बाइंडिंग्स

उपलब्ध कनेक्शन उसके बाइंडिंग प्रकारों पर निर्भर करते हैं। देखें कि कौन-से बाइंडिंग प्रकार Llama 3.2 Vision संस्करण v2 है।

इनपुट और आउटपुट बाइंडिंग्स

• इनपुट

  • api_key (Union[ROBOFLOW_MANAGED_KEY, secret, string]): OpenRouter API कुंजी। डिफ़ॉल्ट रूप से यह Roboflow की प्रबंधित कुंजी का उपयोग करता है, और Roboflow के माध्यम से क्रेडिट्स में बिल किया जाता है। अपनी स्वयं की sk-or-... कुंजी का उपयोग करके Roboflow बिलिंग के बिना सीधे OpenRouter को कॉल करें..

  • temperature (float): मॉडल से सैंपल करने के लिए तापमान - मान 0.0-2.0 की सीमा में, जितना अधिक होगा - जनरेशन उतनी ही अधिक यादृच्छिक / "रचनात्मक" होंगी..

  • छवियाँ (छवि): जिस छवि पर अनुमान लगाना है..

  • प्रॉम्प्ट (string): Llama मॉडल के लिए टेक्स्ट प्रॉम्प्ट।

  • classes (list_of_values): उपयोग की जाने वाली वर्गों की सूची।

  • मॉडल संस्करण (string): उपयोग किया जाने वाला मॉडल।

• आउटपुट

  • आउटपुट (Union[string, language_model_output]): स्ट्रिंग मान यदि string या LLM / VLM आउटपुट यदि language_model_output.

  • classes (list_of_values): किसी भी प्रकार के मानों की सूची।

उदाहरण JSON परिभाषा

{
	    "name": "<your_step_name_here>",
	    "type": "roboflow_core/llama_vision@v2",
	    "api_key": "rf_key:account",
	    "privacy_level": "<block_does_not_provide_example>",
	    "max_tokens": "<block_does_not_provide_example>",
	    "temperature": "<block_does_not_provide_example>",
	    "max_concurrent_requests": "<block_does_not_provide_example>",
	    "images": "$inputs.image",
	    "task_type": "<block_does_not_provide_example>",
	    "prompt": "my prompt",
	    "output_structure": {
	        "my_key": "description"
	    },
	    "classes": [
	        "class-a",
	        "class-b"
	    ],
	    "model_version": "11B - OpenRouter"
	}

v1

दृश्य क्षमताओं वाले Llama 3.2 Vision मॉडल से एक प्रश्न पूछें।

आप मनचाहे टेक्स्ट प्रॉम्प्ट या पूर्वनिर्धारित प्रॉम्प्ट निर्दिष्ट कर सकते हैं, यह ब्लॉक निम्नलिखित प्रकार के प्रॉम्प्ट का समर्थन करता है:

• ओपन प्रॉम्प्ट (अप्रतिबंधित) - कच्चा उत्तर जनरेट करने के लिए कोई भी प्रॉम्प्ट उपयोग करें

• टेक्स्ट पहचान (OCR) (ocr) - मॉडल छवि में टेक्स्ट को पहचानता है

• दृश्य प्रश्नोत्तर (visual-question-answering) - मॉडल आपके द्वारा प्रॉम्प्ट में सबमिट किए गए प्रश्न का उत्तर देता है

• कैप्शनिंग (संक्षिप्त) (caption) - मॉडल छवि का संक्षिप्त विवरण प्रदान करता है

• कैप्शनिंग (detailed-caption) - मॉडल छवि का विस्तृत विवरण प्रदान करता है

• एकल-लेबल वर्गीकरण (classification) - मॉडल छवि की सामग्री को दिए गए वर्गों में से एक के रूप में वर्गीकृत करता है

• बहु-लेबल वर्गीकरण (multi-label-classification) - मॉडल छवि की सामग्री को दिए गए वर्गों में से एक या अधिक के रूप में वर्गीकृत करता है

• संरचित आउटपुट जनरेशन (structured-answering) - मॉडल निर्दिष्ट फ़ील्ड्स के साथ एक JSON प्रतिक्रिया लौटाता है

संरचित प्रॉम्प्टिंग के साथ समस्याएँ

जब संरचित आउटपुट (हमारे मामले में JSON दस्तावेज़) अपेक्षित होता है, तो मॉडल काफी अप्रत्याशित होने लगता है। यह समस्या इस तरह के कार्यों को प्रभावित कर सकती है जैसे structured-answering, classification या multi-label-classification.

कारण मॉडल में अंतर्निहित अनुचित सामग्री के काफी संवेदनशील "फ़िल्टरों" से जुड़ा प्रतीत होता है।

🛠️ API प्रदाता और मॉडल वेरिएंट

Llama Vision 3.2 मॉडल के माध्यम से उपलब्ध है OpenRouter API और हमें पास करना आवश्यक है OpenRouter API कुंजी पास करना आवश्यक है ताकि यह चल सके।

मॉडल के अलग-अलग संस्करण समर्थित हैं:

• छोटा संस्करण (11B) तेज़ और सस्ता है, फिर भी आप बेहतर परिणामों की गुणवत्ता की उम्मीद कर सकते हैं यदि आप उपयोग करें 90B version

• Regular संस्करण एक सशुल्क (और आमतौर पर तेज़) API है, जबकि Free OpenRouter क्लाइंट्स के लिए उपयोग हेतु निःशुल्क है (स्थिति 01.01.2025)

फिलहाल, OpenRouter Llama 3.2 Vision मॉडल के लिए एकमात्र प्रदाता है, लेकिन यदि स्थिति बदलती है तो हम आपको सूचित करते रहेंगे।

API उपयोग शुल्क

OpenRouter एक बाहरी तृतीय-पक्ष है जो मॉडल तक पहुँच प्रदान करता है और उपयोग पर शुल्क लगाता है। कृपया उपयोग से पहले मूल्य निर्धारण देखें:

• Llama 3.2 Vision 11B (Regular)

• Llama 3.2 Vision 90B (Regular)

💡 आगे पढ़ने के लिए और स्वीकार्य उपयोग नीति

मॉडल लाइसेंस

देखें मॉडल लाइसेंस उपयोग से पहले।

यहाँ क्लिक करें मूल मॉडल कार्ड के लिए।

इस मॉडल का उपयोग Meta की स्वीकार्य उपयोग नीति.

प्रकार पहचानकर्ता

स्टेप में निम्नलिखित पहचानकर्ता का उपयोग करें "type" फ़ील्ड: roboflow_core/llama_3_2_vision@v1 अपने वर्कफ़्लो में ब्लॉक को एक स्टेप के रूप में जोड़ने के लिए।

गुण

नाम	प्रकार	विवरण	संदर्भ
name	str	इस स्टेप के लिए एक विशिष्ट पहचानकर्ता दर्ज करें..	❌
task_type	str	मॉडल द्वारा निष्पादित किया जाने वाला कार्य प्रकार। मान आवश्यक पैरामीटर और आउटपुट प्रतिक्रिया निर्धारित करता है..	❌
प्रॉम्प्ट	str	Llama मॉडल के लिए टेक्स्ट प्रॉम्प्ट।	✅
output_structure	Dict[str, str]	अपेक्षित JSON प्रतिक्रिया की संरचना वाली डिक्शनरी।	❌
classes	List[str]	उपयोग की जाने वाली वर्गों की सूची।	✅
api_key	str	आपकी Llama Vision API कुंजी (प्रदाता पर निर्भर, जैसे: OpenRouter API कुंजी)।	✅
मॉडल संस्करण	str	उपयोग किया जाने वाला मॉडल।	✅
max_tokens	int	टोकनों की अधिकतम संख्या जो मॉडल अपनी response में जनरेट कर सकता है..	❌
temperature	float	मॉडल से सैंपल करने के लिए तापमान - मान 0.0-2.0 की सीमा में, जितना अधिक होगा - जनरेशन उतनी ही अधिक यादृच्छिक / "रचनात्मक" होंगी..	✅
max_concurrent_requests	int	इनपुट चित्रों का बैच दिए जाने पर ब्लॉक द्वारा निष्पादित किए जा सकने वाले समकालिक अनुरोधों की संख्या। यदि नहीं दी गई - तो ब्लॉक डिफ़ॉल्ट रूप से Workflows Execution Engine में वैश्विक रूप से कॉन्फ़िगर किए गए मान का उपयोग करता है। यदि आप सीमाओं तक पहुँचें तो कृपया इसे सीमित करें..	❌

यह संदर्भ स्तंभ यह इंगित करता है कि संपत्ति को वर्कफ़्लो रनटाइम में उपलब्ध गतिशील मानों के साथ पैरामीटराइज़ किया जा सकता है वर्कफ़्लो रनटाइम। देखें बाइंडिंग्स अधिक जानकारी के लिए।

रनटाइम संगतता

requires_internet - air-gapped / offline deployments : यह ब्लॉक ऐसी सेवा पर निर्भर करता है जो पूरी तरह ऑफ़लाइन / air-gapped deployments से पहुँचा नहीं जा सकता।

इनपुट और आउटपुट बाइंडिंग्स

उपलब्ध कनेक्शन उसके बाइंडिंग प्रकारों पर निर्भर करते हैं। देखें कि कौन-से बाइंडिंग प्रकार Llama 3.2 Vision संस्करण v1 है।

इनपुट और आउटपुट बाइंडिंग्स

• इनपुट

  • छवियाँ (छवि): जिस छवि पर अनुमान लगाना है..

  • प्रॉम्प्ट (string): Llama मॉडल के लिए टेक्स्ट प्रॉम्प्ट।

  • classes (list_of_values): उपयोग की जाने वाली वर्गों की सूची।

  • api_key (string): आपकी Llama Vision API कुंजी (प्रदाता पर निर्भर, जैसे: OpenRouter API कुंजी)।

  • मॉडल संस्करण (string): उपयोग किया जाने वाला मॉडल।

  • temperature (float): मॉडल से सैंपल करने के लिए तापमान - मान 0.0-2.0 की सीमा में, जितना अधिक होगा - जनरेशन उतनी ही अधिक यादृच्छिक / "रचनात्मक" होंगी..

• आउटपुट

  • आउटपुट (Union[string, language_model_output]): स्ट्रिंग मान यदि string या LLM / VLM आउटपुट यदि language_model_output.

  • classes (list_of_values): किसी भी प्रकार के मानों की सूची।

उदाहरण JSON परिभाषा

{
	    "name": "<your_step_name_here>",
	    "type": "roboflow_core/llama_3_2_vision@v1",
	    "images": "$inputs.image",
	    "task_type": "<block_does_not_provide_example>",
	    "prompt": "my prompt",
	    "output_structure": {
	        "my_key": "description"
	    },
	    "classes": [
	        "class-a",
	        "class-b"
	    ],
	    "api_key": "xxx-xxx",
	    "model_version": "11B (Free) - OpenRouter",
	    "max_tokens": "<block_does_not_provide_example>",
	    "temperature": "<block_does_not_provide_example>",
	    "max_concurrent_requests": "<block_does_not_provide_example>"
	}