Azure OpenAI in Microsoft Foundry-Modelle Kontingenten und Grenzwerte

Dieser Artikel enthält eine Kurzübersicht und eine detaillierte Beschreibung der Kontingente und Grenzwerte für Azure OpenAI.

Umfang des Kontingents

Kontingente und Begrenzungen gelten nicht auf Mandantenebene. Stattdessen wird die höchste Ebene der Kontingenteinschränkungen auf der Azure Abonnementebene festgelegt.

Kontingentverwaltung auf Abonnementebene

Beginnend mit "Realtime Translate" und "Realtime Whisper" und bald allen Modellen verfolgt Foundry das Kontingent für Bereitstellungen auf Abonnementebene statt pro Ressource oder Region. Dieser Ansatz bringt Konsistenz und Vorhersagbarkeit dazu, wie das Kontingent über Bereitstellungen hinweg verwaltet wird, da alle Ressourcen und Regionen in einem Abonnement den gleichen Kontingentpool aufweisen.

Diese Änderung konsolidiert Quoten in gemeinsamen Pools.

• Globaler Standard: Bereitstellungen desselben Modells und derselben Version teilen einen Kontingentpool für alle Regionen in einem Abonnement.
• Data Zone Standard: Bereitstellungen desselben Modells und der Version teilen einen Kontingentpool pro Datenzone (z. B. USA oder EU).

Weitere Informationen zur Kontingentzuweisung auf Abonnementebene finden Sie unter Microsoft Kontingente und Grenzwerte für Foundry Models.

Kontingentstufen

Microsoft führt Kontingentebenen ein, um die Erfahrung der Foundry Models zu verbessern und die Reibung bei der Skalierung von Workloads zu verringern. Kontingente steigen jetzt automatisch mit der Nutzung, was dabei hilft, Fehler aufgrund von Ratenbegrenzungen zu vermeiden und gleichzeitig ein faireres Umfeld für alle Benutzer zu schaffen. Sieben Stufen sind verfügbar: die kostenlose Stufe und die Stufen 1 bis 6 – wobei Stufe 6 die höchsten Kontingente bietet. Die erste zugewiesene Stufe eines Kunden basiert auf der aktuellen Nutzung dieses Modells und seiner aktuellen Beziehung zu Microsoft, z. B. enterprise Agreement (EA oder MCA-E) Status. 

Was ändert sich für mich?

Zuvor bot Foundry nur Standard- und Enterprise-Kontingentstufen für den Pay-as-you-go-Angebotstyp an, mit einem großen Abstand zwischen den jeweiligen Stufen und einem längeren Prozess zur Anforderung von Erhöhungen. Bei Kontingentstufen werden allen Benutzern eine Ebene mit Kontingenten zugewiesen, die gleich oder höher als ihre vorherigen Ebenen sind. Alle zuvor genehmigten Kontingenterhöhungen werden beibehalten und werden nicht reduziert. Da die Nutzung wächst, erhöht Foundry automatisch Kontingente, indem Benutzer auf höhere Ebenen verschoben werden, und zusätzliches Kontingent kann weiterhin über das Kontingentformular angefordert werden.

Wie wird ein Kunde automatisch von einer Ebene zu einer anderen wechseln, z. B. was sind die Ebenenänderungskriterien? 

Automatische Upgrades auf eine höhere Stufe hängen in erster Linie vom Nutzungsverhalten der Kunden über die Zeit hinweg bei Foundry Models ab. Wenn die Nutzung eines Kunden so erhöht wird, dass seine aktuelle Kontingentebene ihre Fähigkeit zur Verwendung von Foundry Models begrenzt, aktualisiert das System den Kunden automatisch auf die nächste höhere Stufe. Das System betrachtet auch die Beziehung eines Kunden mit Microsoft. Kunden mit Enterprise-Beziehungen (einschließlich EA und MCA-E) mit Microsoft werden höheren Kontingentstufen zugewiesen. Darüber hinaus berücksichtigt Microsoft auch den Zahlungsverlauf eines Kunden, um die Berechtigung für automatische Upgrades zu ermitteln. 

Kann ich automatische Upgrades deaktivieren?

Ja, Sie können automatische Upgrades deaktivieren, um unabhängig von Änderungen ihres Verbrauchs in Ihrer aktuellen Stufe zu bleiben. Einige Kunden verwenden das Kontingent, um ihre Abrechnung zu verwalten. Die Verwendung des Kontingents zum Verwalten der Abrechnung ist nicht die Azure bewährte Methode, aber wenn Ihr System auf diese Weise konfiguriert ist, sollten Sie es möglicherweise nicht unterbrechen. Weitere Informationen zum Abrechnungsmanagement und bewährten Methoden finden Sie unter Kostenverwaltung.

Um dies zu deaktivieren, können Sie die folgende Kennzeichnung auf NoAutoUpgrade festlegen:

curl -X PATCH \
  "https://management.azure.com/subscriptions/00000000-0000-0000-0000-000000000000/providers/Microsoft.CognitiveServices/quotaTiers/default?api-version=2025-10-01-preview" \
  -H "Authorization: Bearer <YOUR_ACCESS_TOKEN>" \
  -H "Content-Type: application/json" \
  -d '{
    "properties": {
      "tierUpgradePolicy": "NoAutoUpgrade"
    }
  }'

Kann ich mehr Kontingent anfordern?

Ja, mithilfe des Kontingentanforderungsformulars können Sie immer mehr Kontingent anfordern. Wenn die Anforderung genehmigt wurde, bleibt die aktuelle Ebene gleich, aber mit mehr zugewiesenem Kontingent.

Wie kann ich die Kontingentebene meines Abonnements überprüfen?

Sie können aktuell Ihre Kontingentebene mit der Control Plane-API überprüfen.

curl -X GET \
  "https://management.azure.com/subscriptions/00000000-0000-0000-0000-000000000000/providers/Microsoft.CognitiveServices/quotaTiers?api-version=2025-10-01-preview" \
  -H "Authorization: Bearer $(az account get-access-token --resource https://management.azure.com --query accessToken -o tsv)" \
  -H "Content-Type: application/json"

import requests
import json
from azure.identity import DefaultAzureCredential


subscriptionId = "{YOUR-SUBSCRIPTION-ID}"
api_version = "2025-10-01-preview" 
base_url = "https://management.azure.com"

token_credential = DefaultAzureCredential()
token = token_credential.get_token('https://management.azure.com/.default')
headers = {
    'Authorization': 'Bearer ' + token.token,
    'Content-Type': 'application/json'
}


list_url = (
    f"{base_url}/subscriptions/{subscriptionId}"
    f"/providers/Microsoft.CognitiveServices/quotaTiers"
    f"?api-version={api_version}"
)

response = requests.get(list_url, headers=headers)
print(json.dumps(response.json(), indent=2))

{
  "value": [
    {
      "properties": {
        "currentTierName": "Tier 1",
        "assignmentDate": "2025-10-18T05:09:05.6334222Z",
        "tierUpgradePolicy": "OnceUpgradeIsAvailable"
      },
      "id": "/subscriptions/aaaaa-bbbbb-ccccc-dddd-eeeeeee/providers/Microsoft.CognitiveServices/quotaTiers/default",
      "name": "default",
      "type": "Microsoft.CognitiveServices/quotaTiers"
    }
  ]
}

Referenz für Quotenebene

Alle gpt-chat-latest Versionen verwenden den gleichen TPM-Grenzwert auf Ebene, der in jeder Ebene angezeigt wird. Versionen 2026-05-05, 2026-05-28, und 2026-06-24¹ verwenden 10 U/min je 1.000 TPM. Version 2026-08-06² verwendet 1 RPM pro 1.000 TPM, sodass die Tabellen die Versionen separat auflisten.

Referenz zu Kontingenten und Grenzwerten

Im folgenden Abschnitt finden Sie eine Kurzanleitung zu den Standardkontingenten und Grenzwerten, die für Azure OpenAI gelten:

¹ Das Sora 2 RPM-Kontingent zählt nur Videoauftragsanforderungen. Andere Arten von Anfragen sind nicht ratenbeschränkt.

² Unsere aktuellen APIs ermöglichen bis zu 10 benutzerdefinierte Header, die über die Pipeline übergeben und zurückgegeben werden. Einige Kunden überschreiten jetzt diese Headeranzahl, was zu HTTP 431-Fehlern führt. Für diesen Fehler gibt es keine Lösung, außer um die Kopfzeilenlautstärke zu reduzieren. In zukünftigen API-Versionen werden keine benutzerdefinierten Header übergeben. Es wird empfohlen, dass Kunden nicht von benutzerdefinierten Headern in zukünftigen Systemarchitekturen abhängen.

Batchgrenzwerte

Batch-Kontingent

Die Tabelle zeigt den Grenzwert für batchkontingente. Kontingentwerte für den globalen Batch werden in Bezug auf enqueuierte Token dargestellt. Wenn Sie eine Datei für die Batchverarbeitung übermitteln, wird die Anzahl der Token in der Datei gezählt. Bis der Batchauftrag einen endgültigen Status erreicht, werden diese Tokens auf Ihren Gesamtgrenzwert der Tokens in der Warteschlange angerechnet.

Globaler Stapel

B = Milliarde | M = Million | K = Tausend

Datenzonenbatch

gpt-oss

Verwendungsebenen

Globale Standardbereitstellungen verwenden die globale Infrastruktur von Azure. Sie leiten den Kundendatenverkehr dynamisch an das Rechenzentrum weiter, wobei die beste Verfügbarkeit für die Rückschlussanforderungen des Kunden verfügbar ist. Ebenso ermöglichen Datenzonenstandardbereitstellungen die Verwendung der globalen Infrastruktur von Azure, um den Datenverkehr dynamisch an das Rechenzentrum innerhalb der Microsoft definierten Datenzone mit der besten Verfügbarkeit für jede Anforderung weiterzuleiten. Diese Vorgehensweise ermöglicht eine konsistentere Latenz für Kunden mit geringem bis mittlerem Datenverkehrsgrad. Kunden mit einem hohen dauerhaften Nutzungsgrad sehen möglicherweise eine größere Variabilität bei der Antwortlatenz.

Azure OpenAI-Nutzungsebenen sind darauf ausgelegt, für die meisten Kunden mit geringem bis mittlerem Datenverkehr eine konsistente Leistung zu bieten. Jede Verwendungsebene definiert den maximalen Durchsatz (Token pro Minute), den Sie mit vorhersagbarer Latenz erwarten können. Wenn Ihre Nutzung innerhalb der zugewiesenen Ebene verbleibt, bleibt die Latenz stabil, und die Reaktionszeiten sind konsistent.

Was geschieht, wenn Sie die Nutzungsstufe überschreiten?

• Wenn ihr Anforderungsdurchsatz Ihre Nutzungsebene überschreitet – insbesondere in Zeiträumen mit hoher Nachfrage – kann sich die Antwortlatenz erheblich erhöhen.
• Die Latenzzeit kann variieren und in einigen Fällen mehr als doppelt so hoch sein wie beim Betrieb innerhalb Ihres Tieres.
• Diese Variabilität ist für Kunden mit hohem kontinuierlichen Gebrauch oder stoßartigen Verkehrsmustern am deutlichsten.

Empfohlene Aktionen, wenn Sie die Nutzungsstufe überschreiten

Wenn 429 Fehler auftreten oder eine erhöhte Latenzvariabilität festgestellt wird, führen Sie die folgenden Schritte aus:

• Fordern Sie eine Kontingenterhöhung an: Besuchen Sie das Azure-Portal, um ein höheres Kontingent für Ihr Abonnement anzufordern.
• Erwägen Sie ein Upgrade auf ein Premium-Angebot (PTU): Für latenzenkritische oder hochvolumige Workloads, führen Sie ein Upgrade auf Bereitgestellte Durchsatzeinheiten (PTU) durch. PTU bietet dedizierte Ressourcen, garantierte Kapazität und vorhersehbare Latenz – auch in großem Umfang. Dies ist die beste Wahl für unternehmenskritische Anwendungen, die eine konsistente Leistung erfordern.
• Überwachen Sie Ihre Nutzung: Überprüfen Sie regelmäßig Ihre Nutzungsmetriken im Azure-Portal, um sicherzustellen, dass Sie innerhalb Ihrer Ebenengrenzwerte arbeiten. Passen Sie Ihre Workload- oder Bereitstellungsstrategie nach Bedarf an.

Möglicherweise erhalten Sie 429 (Zu viele Anforderungen) Antworten, auch wenn Tokenverwendungsmetriken unter Ihrem Kontingent angezeigt werden. Eine Erläuterung dazu, warum dies geschieht, finden Sie unter "Warum möglicherweise 429s angezeigt werden, auch wenn Tokennutzungsmetriken unter dem Kontingent liegen.

Der Nutzungsgrenzwert bestimmt den Umfang der Nutzung, über dem Kunden möglicherweise eine größere Variabilität bei der Antwortlatenz sehen können. Die Nutzung eines Kunden wird pro Modell definiert. Es ist die Gesamtanzahl der Token, die in allen Bereitstellungen in allen Abonnements in allen Regionen für einen bestimmten Mandanten verbraucht werden.

Globalstandard, Datenzonestandard und Standard

Allgemeine bewährte Methoden, um innerhalb von Zinsgrenzwerten zu bleiben

Um Probleme im Zusammenhang mit Zinslimits zu minimieren, ist es ratsam, die folgenden Techniken zu verwenden:

• Implementieren Sie die Wiederholungslogik in Ihrer Anwendung.
• Vermeiden Sie scharfe Änderungen an der Arbeitsauslastung. Erhöhen Sie die Arbeitsauslastung schrittweise.
• Testen Sie unterschiedliche Auslastungserhöhungsmuster.
• Erhöhen Sie das Kontingent, das Ihrer Bereitstellung zugewiesen ist. Verschieben Sie das Kontingent bei Bedarf aus einer anderen Bereitstellung.

Ausführliche bewährte Methoden, Codebeispiele für Wiederholungen mit Backoff und eine Anleitung zur Fehlerbehebung bei 429-Fehlern finden Sie unter Verwalten des Azure OpenAI-Kontingents in Microsoft Foundry Models.

Anfordern von Kontingenterhöhungen

Übermitteln Sie das Formular für Kontingenterhöhungsanfragen, um Kontingenterhöhungen für von Azure vertriebene Foundry-Modelle, Azure OpenAI-Modelle und Anthropic-Modelle zu beantragen. Mit Ausnahme der Anthropic-Modelle unterstützen Modelle von Partnern und der Community keine Kontingenterhöhungen.

Kontingenterhöhungsanforderungen werden in der Reihenfolge verarbeitet, in der sie empfangen werden, und Priorität geht an Kunden, die ihre vorhandene Kontingentzuweisung aktiv verwenden. Anforderungen, die diese Bedingung nicht erfüllen, werden möglicherweise verweigert.

Regionale Kapazitätsgrenzen für Kontingente

Sie können die Verfügbarkeit von Kontingenten nach Region für Ihr Abonnement im Foundry-Portal anzeigen.

Informationen zum programmgesteuerten Überprüfen von Kontingenten und Kapazität finden Sie unter Programmgesteuertes Überprüfen des Kontingents und der Kapazität im Kontingentverwaltungshandbuch. Dieser Abschnitt befasst sich mit zwei ergänzenden REST-APIs: der Verwendungs-API für die Überprüfung des Verbrauchs anhand von Grenzwerten und der Modellkapazitäts-API zur Überprüfung der verfügbaren Bereitstellungskapazität nach Modell und Region.

Verwandte Inhalte

• Erfahren Sie, wie Sie Kontingent für Ihre Azure OpenAI-Bereitstellungen verwalten.
• Erfahren Sie mehr über die zugrundeliegenden Modelle, die Azure OpenAI antreiben.