Microsoft Foundry

Status200 की AI सुविधाओं को उन मॉडलों पर चलाएँ जिन्हें आप Microsoft Foundry (पहले Azure AI Foundry) या Azure OpenAI में डिप्लॉय करते हैं। Status200 हर अनुरोध सीधे आपकी Azure सदस्यता में मौजूद आपके रिसोर्स को भेजता है, इसलिए प्रॉम्प्ट और जवाब उसी डिप्लॉयमेंट द्वारा प्रोसेस होते हैं जिसे आपने चुना, उसी जगह जहाँ आपने चुना। यह पेज आपको एक खाली सदस्यता से एक काम करते प्रदाता तक ले जाता है: Azure रिसोर्स, मॉडल का डिप्लॉयमेंट, एंडपॉइंट और कुंजी, Status200 की सेटिंग्स, नेटवर्क, और कोई अनुरोध विफल होने पर क्या करें।

यह कैसे काम करता है#

Status200 आपके Foundry रिसोर्स को HTTPS पर Status200 सर्वर से कॉल करता है, कभी भी लोगों के ब्राउज़र से नहीं। हर अनुरोध में रिसोर्स की API कुंजियों में से एक होती है और वह उस डिप्लॉयमेंट का नाम बताता है जिसे जवाब देना है।

एक ही प्रदाता प्रकार, Azure OpenAI / Microsoft Foundry, रिसोर्स के हर डिप्लॉयमेंट को कवर करता है। बेस URL Status200 को बताता है कि कौन-सा API कॉल करना है:

शुरू करने से पहले#

आपको एक Azure सदस्यता चाहिए, ऐसी भूमिका जिससे आप रिसोर्स बना और पढ़ सकें, और Status200 की ऐसी भूमिका जो LLM प्रदाता जोड़ सके।

Status200 को खुद किसी Azure भूमिका की ज़रूरत नहीं है। एक कुंजी अपने आप में, बिना भूमिका जाँच के, रिसोर्स के हर डिप्लॉयमेंट तक पहुँच देती है, इसलिए इसे पासवर्ड की तरह सँभालें।

Status200 में किसी प्रोजेक्ट में प्रदाता जोड़ने के लिए Project Owner, Project Admin, Project Member, Settings Admin, Settings Member या Create LLM चाहिए। इसके बजाय, एक सेल्फ-होस्टेड इंस्टेंस एनवायरनमेंट वेरिएबल से सभी प्रोजेक्ट के लिए एक प्रदाता रजिस्टर कर सकता है, जिसके लिए सर्वर तक पहुँच चाहिए।

Microsoft Foundry सेट अप करें#

1. रिसोर्स बनाएँ#

   Foundry पोर्टल में एक Foundry रिसोर्स बनाएँ, या कोई मौजूदा रिसोर्स चुनें। Azure OpenAI रिसोर्स भी इसी तरह काम करता है। रिसोर्स का नाम लिख लें: यह उसके एंडपॉइंट का पहला हिस्सा है, जैसे https://contoso-ai.openai.azure.com में contoso-ai।

   ऐसा क्षेत्र चुनें जिसमें आपका चाहा मॉडल उपलब्ध हो। अभी के लिए रिसोर्स की नेटवर्क पहुँच सभी नेटवर्क के लिए खुली रहने दें; नेटवर्क आवश्यकताएँ बताती हैं कि इसे कब और कैसे बंद करें।

2. मॉडल डिप्लॉय करें#

   Foundry पोर्टल में Discover, फिर Models चुनें, और एक मॉडल चुनें, जैसे gpt-5.1 या claude-sonnet-5-5। Deploy, फिर Custom settings चुनें:

   • Deployment name: Foundry मॉडल का नाम भर देता है। Status200 इसी नाम से डिप्लॉयमेंट माँगता है, इसलिए इसे ठीक-ठीक लिख लें।
   • Deployment type: तय करता है कि प्रॉम्प्ट कहाँ प्रोसेस होंगे। देखें आपका डेटा कहाँ प्रोसेस होता है।

   Deploy चुनें और डिप्लॉयमेंट की स्थिति Succeeded होने तक प्रतीक्षा करें।

3. एंडपॉइंट और एक कुंजी कॉपी करें#

   Azure पोर्टल में रिसोर्स खोलें, फिर Resource Management > Keys and Endpoint पर जाएँ। Endpoint और KEY 1 कॉपी करें। KEY 2 को रोटेशन के लिए रखें: Status200 को उस पर बदलें, फिर KEY 1 दोबारा बनाएँ।

   Foundry पोर्टल में यही कुंजी डिप्लॉयमेंट के Details टैब पर, उसके Target URI के बगल में मिलती है।

az cognitiveservices account create \
  --name contoso-ai --resource-group oneuptime-ai \
  --kind AIServices --sku S0 --location eastus2 \
  --custom-domain contoso-ai

az cognitiveservices account deployment create \
  --name contoso-ai --resource-group oneuptime-ai \
  --deployment-name gpt-5.1 \
  --model-name gpt-5.1 --model-version <version> --model-format OpenAI \
  --sku-name GlobalStandard --sku-capacity 50

# KEY 1
az cognitiveservices account keys list \
  --name contoso-ai --resource-group oneuptime-ai \
  --query key1 --output tsv

Status200 कनेक्ट करें#

1. LLM प्रदाता खोलें#

   प्रोजेक्ट सेटिंग्स > एआई > LLM प्रदाता पर जाएँ और LLM प्रदाता बनाएँ पर क्लिक करें।

2. प्रदाता चुनें#

   प्रदाता में LLM प्रदाता के रूप में Azure OpenAI / Microsoft Foundry चुनें और कनेक्शन पर जाने के लिए अगला पर क्लिक करें।

3. कनेक्शन भरें#

   फ़ील्ड	क्या डालें
   API कुंजी	रिसोर्स की KEY 1 या KEY 2
   बेस URL	/openai/v1 के साथ रिसोर्स का एंडपॉइंट, जैसे https://contoso-ai.openai.azure.com/openai/v1। Claude के लिए: https://contoso-ai.services.ai.azure.com/anthropic
   मॉडल नाम	डिप्लॉयमेंट का नाम, ठीक वैसा ही जैसा Foundry दिखाता है, जैसे gpt-5.1
   नाम	शुरू में प्रदाता का नाम: इसे ऐसा नाम दें जो बताए कि यह कौन-सा डिप्लॉयमेंट है, जैसे Azure gpt-5.1

   और फ़ील्ड में एक विवरण और डिफ़ॉल्ट के रूप में सेट करें है, जो चालू है: AI सुविधाएँ प्रोजेक्ट के डिफ़ॉल्ट प्रदाता का उपयोग करती हैं। LLM प्रदाता बनाएँ पर क्लिक करें।

4. कनेक्शन का परीक्षण करें#

   प्रदाता की पंक्ति में परीक्षण पर क्लिक करें। काम करता प्रदाता जवाब देता है "Connection successful. The LLM provider responded to a test prompt and used tool calling." अगर परीक्षण विफल हो, तो संदेश बताता है कि Azure ने क्या जवाब दिया और क्या बदलना है; देखें समस्या निवारण।

तैयार प्रदाता, उदाहरण के तौर पर:

नाम: Azure gpt-5.1
LLM प्रदाता: Azure OpenAI / Microsoft Foundry
API कुंजी: <contoso-ai की KEY 1>
मॉडल नाम: gpt-5.1
बेस URL: https://contoso-ai.openai.azure.com/openai/v1

अब से प्रोजेक्ट की AI सुविधाएँ इसी डिप्लॉयमेंट का उपयोग करती हैं। Status200 Cloud पर उनके अनुरोधों का भुगतान प्रोजेक्ट के AI क्रेडिट से नहीं होता: Azure उनका बिल आपकी सदस्यता पर बनाता है।

बेस URL के प्रारूप#

Status200 एंडपॉइंट को उन रूपों में स्वीकार करता है जिनमें Azure पोर्टल और Foundry पोर्टल उसे दिखाते हैं, और हर अनुरोध बगल वाले पते पर भेजता है। छोटे रूप चुनें: बेस URL में अधिकतम 100 वर्ण आते हैं।

• v1 API (/openai/v1) Microsoft का वर्तमान API है। इसे api-version की ज़रूरत नहीं होती, यह डिप्लॉयमेंट के नाम को मॉडल मानता है, और OpenAI मॉडलों व दूसरे Foundry Models दोनों को सेवा देता है। नए प्रदाताओं के लिए इसी का उपयोग करें।
• डिप्लॉयमेंट URL (/openai/deployments/<name>) खुद डिप्लॉयमेंट का नाम बताता है, और Azure मॉडल नाम की जगह इसी नाम को मानता है। जब तक बेस URL में अपना api-version न हो, Status200 api-version=2024-10-21 जोड़ता है। इस तरह सहेजे गए प्रदाता पहले की तरह काम करते रहते हैं।
• डिप्लॉयमेंट का Target URI, Foundry पोर्टल से पूरा चिपकाया गया, भी काम करता है, बशर्ते वह 100 वर्णों में आ जाए।
• Claude: Foundry Claude को सिर्फ़ Anthropic Messages API से देता है, रिसोर्स के /anthropic पाथ पर। Status200 उसे उसी कुंजी से कॉल करता है। प्रदाता प्रकार Anthropic भी उसी बेस URL से वहाँ पहुँचता है।

एनवायरनमेंट वेरिएबल से सेल्फ-होस्टेड इंस्टेंस कॉन्फ़िगर करें#

सेल्फ-होस्टेड इंस्टेंस पर, GLOBAL_LLM_PROVIDER_* वेरिएबल स्टार्टअप पर एक ग्लोबल LLM प्रदाता रजिस्टर करते हैं, जिसका उपयोग हर वह प्रोजेक्ट करता है जिसका अपना प्रदाता नहीं है, AI सुधार कार्य भी। किसी प्रोजेक्ट का अपना प्रदाता हमेशा पहले आता है।

GLOBAL_LLM_PROVIDER_TYPE=AzureOpenAI
GLOBAL_LLM_PROVIDER_NAME=Azure gpt-5.1
GLOBAL_LLM_PROVIDER_BASE_URL=https://contoso-ai.openai.azure.com/openai/v1
GLOBAL_LLM_PROVIDER_MODEL_NAME=gpt-5.1
GLOBAL_LLM_PROVIDER_API_KEY=<KEY 1 of contoso-ai>

(export $(grep -v '^#' config.env | xargs) && docker compose up --remove-orphans -d)

kubectl create secret generic azure-foundry \
  --namespace oneuptime --from-literal=api-key='<KEY 1 of contoso-ai>'

extraEnv:
  - name: GLOBAL_LLM_PROVIDER_TYPE
    value: AzureOpenAI
  - name: GLOBAL_LLM_PROVIDER_NAME
    value: Azure gpt-5.1
  - name: GLOBAL_LLM_PROVIDER_BASE_URL
    value: https://contoso-ai.openai.azure.com/openai/v1
  - name: GLOBAL_LLM_PROVIDER_MODEL_NAME
    value: gpt-5.1
  - name: GLOBAL_LLM_PROVIDER_API_KEY
    valueFrom:
      secretKeyRef:
        name: azure-foundry
        key: api-key

प्रदाता वेरिएबल के अनुसार चलता है: उन्हें बदलने पर वह अगली शुरुआत में अपडेट होता है, और GLOBAL_LLM_PROVIDER_TYPE हटाने पर हटा दिया जाता है। इस प्रकार के लिए कुंजी या बेस URL न हो, तो स्टार्टअप लॉग उसका नाम बताता है। हर वेरिएबल और प्रदाता प्रकार के लिए देखें LLM प्रदाता।

नेटवर्क आवश्यकताएँ#

Status200 सर्वर रिसोर्स के होस्ट नाम पर, जैसे contoso-ai.openai.azure.com या contoso-ai.services.ai.azure.com, पोर्ट 443 पर HTTPS कनेक्शन खोलता है। अपने फ़ायरवॉल या प्रॉक्सी में इस आउटबाउंड ट्रैफ़िक की अनुमति दें।

• Status200 Cloud इंटरनेट से रिसोर्स तक पहुँचता है, इसलिए रिसोर्स को सार्वजनिक ट्रैफ़िक स्वीकार करना होगा। रिसोर्स को इंटरनेट से दूर रखने के लिए Status200 को सेल्फ-होस्ट करें।
• सेल्फ-होस्टेड, निजी एंडपॉइंट: रिसोर्स को ऐसे वर्चुअल नेटवर्क के निजी एंडपॉइंट के पीछे रखें जिस तक Status200 सर्वर पहुँच सके, और निजी DNS ज़ोन privatelink.openai.azure.com, privatelink.services.ai.azure.com और privatelink.cognitiveservices.azure.com को उससे लिंक करें, ताकि रिसोर्स का सामान्य होस्ट नाम उसके निजी पते पर रिज़ॉल्व हो। बेस URL वही रहता है।
• निजी पते: सेल्फ-होस्टेड इंस्टेंस निजी पतों से जुड़ता है, जब तक DATA_SOURCE_BLOCK_PRIVATE_ADDRESSES=true सेट न हो। ग्लोबल LLM प्रदाता दोनों ही स्थितियों में उनसे जुड़ता है।
• रिसोर्स पर नेटवर्क नियम: रिसोर्स के Networking में Selected networks and private endpoints बाकी सब कुछ बाहर रखता है। जिस अनुरोध को कोई नियम ठुकराता है, वह 403 के साथ विफल होता है।

आपका डेटा कहाँ प्रोसेस होता है#

मॉडल डिप्लॉय करते समय चुना गया डिप्लॉयमेंट प्रकार तय करता है कि Azure Status200 के प्रॉम्प्ट और मॉडल के जवाब कहाँ प्रोसेस करता है। संग्रहीत डेटा रिसोर्स के Azure भूगोल में ही रहता है।

Claude डिप्लॉयमेंट या तो Hosted on Azure होते हैं या Hosted on Anthropic। प्रॉम्प्ट और जवाब Azure के भीतर रखने के लिए Hosted on Azure चुनें। विवरण के लिए Microsoft के डिप्लॉयमेंट प्रकार देखें।

अनुरोध और जवाब का उदाहरण#

Status200 के बाहर किसी डिप्लॉयमेंट की जाँच करने के लिए, उसे curl से वही अनुरोध भेजें जो Status200 भेजता है:

curl https://contoso-ai.openai.azure.com/openai/v1/chat/completions \
  -H "Content-Type: application/json" \
  -H "api-key: $AZURE_API_KEY" \
  -d '{
    "model": "gpt-5.1",
    "messages": [
      { "role": "user", "content": "Reply with the word: OK" }
    ]
  }'

{
  "id": "chatcmpl-7R1nGnsXO8n4oi9UPz2f3UHdgAYMn",
  "object": "chat.completion",
  "model": "gpt-5.1",
  "choices": [
    {
      "index": 0,
      "finish_reason": "stop",
      "message": { "role": "assistant", "content": "OK" }
    }
  ],
  "usage": { "prompt_tokens": 12, "completion_tokens": 2, "total_tokens": 14 }
}

curl https://contoso-ai.services.ai.azure.com/anthropic/v1/messages \
  -H "Content-Type: application/json" \
  -H "x-api-key: $AZURE_API_KEY" \
  -H "anthropic-version: 2023-06-01" \
  -d '{
    "model": "claude-sonnet-5-5",
    "max_tokens": 1024,
    "messages": [
      { "role": "user", "content": "Reply with the word: OK" }
    ]
  }'

{
  "id": "msg_01XFDUDYJgAACzvnptvVoYEL",
  "type": "message",
  "role": "assistant",
  "model": "claude-sonnet-5-5",
  "content": [{ "type": "text", "text": "OK" }],
  "stop_reason": "end_turn",
  "usage": { "input_tokens": 14, "output_tokens": 4 }
}

Status200 के अपने अनुरोधों में और भी बहुत कुछ होता है: उसके निर्देश, बातचीत, वे टूल जिन्हें मॉडल कॉल कर सकता है, और टोकन की सीमा। जवाब से वह टेक्स्ट, टूल कॉल, मॉडल के रुकने का कारण और टोकन उपयोग पढ़ता है, जिसे प्रोजेक्ट सेटिंग्स > एआई > AI लॉग हर अनुरोध के लिए दिखाता है। प्रदाता के अतिरिक्त पैरामीटर हर अनुरोध में जोड़े जाते हैं।

Microsoft Entra ID और बिना कुंजी वाले रिसोर्स#

Status200 रिसोर्स में उसकी किसी एक API कुंजी से साइन इन करता है। Microsoft Entra ID से साइन इन, सर्विस प्रिंसिपल या मैनेज्ड आइडेंटिटी के रूप में, अभी समर्थित नहीं है।

अगर आपका संगठन AI रिसोर्स के लिए कुंजी पहुँच बंद कर देता है (disableLocalAuth), तो अनुरोध AuthenticationTypeDisabled के साथ विफल होते हैं। या तो उस रिसोर्स पर कुंजी पहुँच की अनुमति दें जिसका Status200 उपयोग करता है, या उसके आगे Azure API Management लगाएँ:

1. रिसोर्स के डिप्लॉयमेंट को Azure OpenAI API के रूप में API Management में इंपोर्ट करें। तब API Management अपनी मैनेज्ड आइडेंटिटी से रिसोर्स में साइन इन करता है।
2. API की सदस्यता कुंजी के हेडर का नाम api-key सेट करें।
3. Status200 में बेस URL को डिप्लॉयमेंट के लिए API Management में API के पते पर सेट करें, जैसे https://contoso-apim.azure-api.net/aoai/openai/deployments/gpt-5.1, उस api-version के साथ जिसकी डिप्लॉयमेंट को ज़रूरत है, जैसा किसी भी डिप्लॉयमेंट URL के साथ होता है। API कुंजी को API Management की सदस्यता कुंजी पर सेट करें।

जो Claude मॉडल केवल Microsoft Entra ID स्वीकार करते हैं, जैसे Claude Mythos, उनका अभी उपयोग नहीं किया जा सकता।

समस्या निवारण#

Status200 त्रुटि की शुरुआत में बताता है कि क्या बदलना है, फिर Azure का अपना जवाब। परीक्षण बटन पूरी त्रुटि दिखाता है; AI लॉग पहले 490 वर्ण रखते हैं।

अगले कदम#