Microsoft Foundry

Kjør Status200s KI-funksjoner på modeller du ruller ut i Microsoft Foundry (tidligere Azure AI Foundry) eller Azure OpenAI. Status200 sender hver forespørsel rett til ressursen din i Azure-abonnementet ditt, så prompter og svar behandles av utrullingen du valgte, der du valgte. Denne siden tar deg fra et tomt abonnement til en leverandør som virker: Azure-ressursen, utrullingen av modellen, endepunktet og nøkkelen, innstillingene i Status200, nettverket, og hva du gjør når en forespørsel mislykkes.

Slik fungerer det#

Status200 kaller Foundry-ressursen din over HTTPS fra Status200-serveren, aldri fra brukernes nettlesere. Hver forespørsel har med en av ressursens API-nøkler og navngir utrullingen som skal svare på den.

Én leverandørtype, Azure OpenAI / Microsoft Foundry, dekker alle utrullinger på ressursen. Basis-URL-en forteller Status200 hvilket API som skal kalles:

Før du begynner#

Du trenger et Azure-abonnement, en rolle som lar deg opprette og lese ressursen, og en Status200-rolle som kan legge til LLM-leverandører.

Status200 selv trenger ingen Azure-rolle. En nøkkel gir alene tilgang til alle utrullinger på ressursen uten rollesjekk, så behandle den som et passord.

I Status200 krever det Project Owner, Project Admin, Project Member, Settings Admin, Settings Member eller Create LLM å legge til en leverandør i et prosjekt. En selvhostet instans kan i stedet registrere én leverandør for alle prosjekter fra miljøvariabler, noe som krever tilgang til serveren.

Sett opp Microsoft Foundry#

1. Opprett en ressurs#

   Opprett en Foundry-ressurs i Foundry-portalen, eller velg en du allerede har. En Azure OpenAI-ressurs fungerer på samme måte. Noter navnet på ressursen: Det er første del av endepunktet, for eksempel contoso-ai i https://contoso-ai.openai.azure.com.

   Velg en region som tilbyr modellen du vil ha. La nettverkstilgangen til ressursen stå åpen for alle nettverk inntil videre; Nettverkskrav forklarer når og hvordan du stenger den.

2. Rull ut en modell#

   Velg Discover i Foundry-portalen, deretter Models, og velg en modell, for eksempel gpt-5.1 eller claude-sonnet-5-5. Velg Deploy og deretter Custom settings:

   • Deployment name: Foundry fyller inn navnet på modellen. Status200 ber om utrullingen med dette navnet, så noter det nøyaktig.
   • Deployment type: bestemmer hvor prompter behandles. Se Hvor dataene dine behandles.

   Velg Deploy, og vent til statusen for utrullingen er Succeeded.

3. Kopier endepunktet og en nøkkel#

   Åpne ressursen i Azure-portalen og deretter Resource Management > Keys and Endpoint. Kopier Endpoint og KEY 1. Ta vare på KEY 2 til rotasjon: bytt Status200 over til den, og generer deretter KEY 1 på nytt.

   I Foundry-portalen står den samme nøkkelen på utrullingens fane Details, ved siden av Target URI.

az cognitiveservices account create \
  --name contoso-ai --resource-group oneuptime-ai \
  --kind AIServices --sku S0 --location eastus2 \
  --custom-domain contoso-ai

az cognitiveservices account deployment create \
  --name contoso-ai --resource-group oneuptime-ai \
  --deployment-name gpt-5.1 \
  --model-name gpt-5.1 --model-version <version> --model-format OpenAI \
  --sku-name GlobalStandard --sku-capacity 50

# KEY 1
az cognitiveservices account keys list \
  --name contoso-ai --resource-group oneuptime-ai \
  --query key1 --output tsv

Koble til Status200#

1. Åpne LLM-leverandører#

   Gå til Prosjektinnstillinger > KI > LLM-leverandører, og klikk på Opprett LLM-leverandør.

2. Velg leverandøren#

   Under Leverandør velger du Azure OpenAI / Microsoft Foundry som LLM-leverandør og klikker på Neste for å gå videre til Tilkobling.

3. Fyll ut tilkoblingen#

   Felt	Hva du skriver inn
   API-nøkkel	Ressursens KEY 1 eller KEY 2
   Basis-URL	Ressursens endepunkt med /openai/v1, for eksempel https://contoso-ai.openai.azure.com/openai/v1. For Claude: https://contoso-ai.services.ai.azure.com/anthropic
   Modellnavn	Navnet på utrullingen, nøyaktig slik Foundry viser det, for eksempel gpt-5.1
   Navn	Først leverandørens navn: gi den et som sier hvilken utrulling det er, for eksempel Azure gpt-5.1

   Flere felt har en Beskrivelse og Angi som standard, som er slått på: KI-funksjoner bruker prosjektets standardleverandør. Klikk på Opprett LLM-leverandør.

4. Test tilkoblingen#

   Klikk på Test i raden til leverandøren. En leverandør som virker, svarer "Connection successful. The LLM provider responded to a test prompt and used tool calling." Hvis testen mislykkes, sier meldingen hva Azure svarte og hva du bør endre; se Feilsøking.

Den ferdige leverandøren som eksempel:

Navn: Azure gpt-5.1
LLM-leverandør: Azure OpenAI / Microsoft Foundry
API-nøkkel: <KEY 1 fra contoso-ai>
Modellnavn: gpt-5.1
Basis-URL: https://contoso-ai.openai.azure.com/openai/v1

Fra nå av bruker prosjektets KI-funksjoner denne utrullingen. På Status200 Cloud betales ikke forespørslene deres med prosjektets KI-kreditter: Azure fakturerer dem til abonnementet ditt.

Formater for basis-URL#

Status200 godtar endepunktet i formene Azure-portalen og Foundry-portalen viser det i, og sender hver forespørsel til adressen ved siden av. Foretrekk de korte: Basis-URL-en rommer høyst 100 tegn.

• v1-API-et (/openai/v1) er Microsofts nåværende API. Det trenger ingen api-version, tar navnet på utrullingen som modell og betjener både OpenAI-modeller og andre Foundry Models. Bruk det for nye leverandører.
• En utrullings-URL (/openai/deployments/<name>) navngir selv utrullingen, og Azure følger det navnet i stedet for Modellnavn. Status200 legger til api-version=2024-10-21, med mindre basis-URL-en har sin egen api-version. Leverandører som er lagret slik, virker som før.
• Target URI for en utrulling, limt inn i sin helhet fra Foundry-portalen, virker også, så lenge den får plass i 100 tegn.
• Claude: Foundry leverer Claude bare gjennom Anthropic Messages API, på ressursens sti /anthropic. Status200 kaller det med den samme nøkkelen. Leverandørtypen Anthropic når det også, med den samme basis-URL-en.

Konfigurer en selvhostet instans med miljøvariabler#

På en selvhostet instans registrerer variablene GLOBAL_LLM_PROVIDER_* ved oppstart én global LLM-leverandør, som alle prosjekter uten egen leverandør bruker, KI-rettingsoppgaver inkludert. Et prosjekts egen leverandør går alltid først.

GLOBAL_LLM_PROVIDER_TYPE=AzureOpenAI
GLOBAL_LLM_PROVIDER_NAME=Azure gpt-5.1
GLOBAL_LLM_PROVIDER_BASE_URL=https://contoso-ai.openai.azure.com/openai/v1
GLOBAL_LLM_PROVIDER_MODEL_NAME=gpt-5.1
GLOBAL_LLM_PROVIDER_API_KEY=<KEY 1 of contoso-ai>

(export $(grep -v '^#' config.env | xargs) && docker compose up --remove-orphans -d)

kubectl create secret generic azure-foundry \
  --namespace oneuptime --from-literal=api-key='<KEY 1 of contoso-ai>'

extraEnv:
  - name: GLOBAL_LLM_PROVIDER_TYPE
    value: AzureOpenAI
  - name: GLOBAL_LLM_PROVIDER_NAME
    value: Azure gpt-5.1
  - name: GLOBAL_LLM_PROVIDER_BASE_URL
    value: https://contoso-ai.openai.azure.com/openai/v1
  - name: GLOBAL_LLM_PROVIDER_MODEL_NAME
    value: gpt-5.1
  - name: GLOBAL_LLM_PROVIDER_API_KEY
    valueFrom:
      secretKeyRef:
        name: azure-foundry
        key: api-key

Leverandøren følger variablene: Endrer du dem, oppdateres den ved neste oppstart, og fjerner du GLOBAL_LLM_PROVIDER_TYPE, slettes den. Mangler en nøkkel eller en basis-URL for denne typen, nevner oppstartsloggen det. Se LLM-leverandører for alle variabler og leverandørtyper.

Nettverkskrav#

Status200-serveren åpner HTTPS-tilkoblinger, på port 443, til ressursens vertsnavn, for eksempel contoso-ai.openai.azure.com eller contoso-ai.services.ai.azure.com. Tillat denne utgående trafikken i brannmuren eller proxyen din.

• Status200 Cloud når ressursen over internett, så ressursen må ta imot offentlig trafikk. For å holde ressursen unna internett må du selvhoste Status200.
• Selvhostet, privat endepunkt: Plasser ressursen bak et privat endepunkt i et virtuelt nettverk som Status200-serveren når, og koble de private DNS-sonene privatelink.openai.azure.com, privatelink.services.ai.azure.com og privatelink.cognitiveservices.azure.com til det, slik at ressursens vanlige vertsnavn slås opp til den private adressen. Basis-URL-en forblir den samme.
• Private adresser: En selvhostet instans kobler til private adresser, med mindre DATA_SOURCE_BLOCK_PRIVATE_ADDRESSES=true er satt. En global LLM-leverandør kobler til dem uansett.
• Nettverksregler på ressursen: Under ressursens Networking holder Selected networks and private endpoints alt annet ute. En forespørsel som en regel avviser, mislykkes med 403.

Hvor dataene dine behandles#

Utrullingstypen du velger når du ruller ut modellen, avgjør hvor Azure behandler Status200s prompter og modellens svar. Lagrede data blir værende i ressursens Azure-geografi.

Claude-utrullinger er enten Hosted on Azure eller Hosted on Anthropic. Velg Hosted on Azure for å holde prompter og svar innenfor Azure. Se Microsofts utrullingstyper for detaljer.

Eksempel på forespørsel og svar#

For å sjekke en utrulling utenfor Status200 kan du sende den forespørselen Status200 sender, med curl:

curl https://contoso-ai.openai.azure.com/openai/v1/chat/completions \
  -H "Content-Type: application/json" \
  -H "api-key: $AZURE_API_KEY" \
  -d '{
    "model": "gpt-5.1",
    "messages": [
      { "role": "user", "content": "Reply with the word: OK" }
    ]
  }'

{
  "id": "chatcmpl-7R1nGnsXO8n4oi9UPz2f3UHdgAYMn",
  "object": "chat.completion",
  "model": "gpt-5.1",
  "choices": [
    {
      "index": 0,
      "finish_reason": "stop",
      "message": { "role": "assistant", "content": "OK" }
    }
  ],
  "usage": { "prompt_tokens": 12, "completion_tokens": 2, "total_tokens": 14 }
}

curl https://contoso-ai.services.ai.azure.com/anthropic/v1/messages \
  -H "Content-Type: application/json" \
  -H "x-api-key: $AZURE_API_KEY" \
  -H "anthropic-version: 2023-06-01" \
  -d '{
    "model": "claude-sonnet-5-5",
    "max_tokens": 1024,
    "messages": [
      { "role": "user", "content": "Reply with the word: OK" }
    ]
  }'

{
  "id": "msg_01XFDUDYJgAACzvnptvVoYEL",
  "type": "message",
  "role": "assistant",
  "model": "claude-sonnet-5-5",
  "content": [{ "type": "text", "text": "OK" }],
  "stop_reason": "end_turn",
  "usage": { "input_tokens": 14, "output_tokens": 4 }
}

Status200s egne forespørsler inneholder mer: instruksjonene, samtalen, verktøyene modellen kan kalle og en tokengrense. Fra svaret leser det teksten, verktøykallene, hvorfor modellen stoppet og tokenbruken, som Prosjektinnstillinger > KI > AI-logger viser for hver forespørsel. Leverandørens Ekstra parametere legges til i hver forespørsel.

Microsoft Entra ID og ressurser uten nøkler#

Status200 logger på ressursen med en av API-nøklene dens. Pålogging med Microsoft Entra ID, som tjenestekontohaver eller administrert identitet, støttes ikke ennå.

Hvis organisasjonen din slår av nøkkeltilgang for KI-ressurser (disableLocalAuth), mislykkes forespørsler med AuthenticationTypeDisabled. Tillat enten nøkkeltilgang på ressursen Status200 bruker, eller sett Azure API Management foran den:

1. Importer utrullingen til ressursen i API Management som et Azure OpenAI-API. API Management logger da på ressursen med sin egen administrerte identitet.
2. Sett API-ets headernavn for abonnementsnøkkelen til api-key.
3. I Status200 setter du Basis-URL til API-ets adresse i API Management for utrullingen, for eksempel https://contoso-apim.azure-api.net/aoai/openai/deployments/gpt-5.1, med api-version som utrullingen trenger, som for alle utrullings-URL-er. Sett API-nøkkel til en abonnementsnøkkel fra API Management.

Claude-modeller som bare godtar Microsoft Entra ID, for eksempel Claude Mythos, kan ikke brukes ennå.

Feilsøking#

Status200 setter det du må endre først i feilen, og deretter Azures eget svar. Knappen Test viser hele feilen; AI-logger tar vare på de første 490 tegnene.

Neste trinn#