Modell-APIs (Modelldienste) steuern

Eine Modell-API bietet dir kontrollierten Zugriff auf ein großes Sprachmodell. Sende eine Anfrage, erhalte eine Antwort, ohne Infrastruktur zu betreiben. Standardmäßig kann jeder Kontonutzer die vom System bereitgestellten Modell-APIs im system.ai Schema abfragen, ohne dass es eingerichtet wird. Dies sind Foundation-Modelle, die nativ von Azure Databricks bedient werden, die pro Token abgerechnet werden.

Auf Azure Databricks ist eine Modell-API ein Unity Catalog securable Object (ein Modelldienst), das einen verwalteten LLM-Endpunkt darstellt. Da Unity Catalog sie speichert, definizierst, teilst und steuerst du den Zugriff zentral, zusammen mit deinen Daten und über Arbeitsbereichsgrenzen hinweg. Um zusätzliche Modelle zu steuern oder einen benutzerdefinierten Endpunkt bereitzustellen, erstellen Sie Ihre eigenen Modell-APIs.

Modell-APIs unterstützen Folgendes:

• Von Azure Databricks bereitgestellte Basismodelle, als vom System bereitgestellte Dienste in system.ai und als Dienste, die Sie erstellen. Sowohl Pay-per-Token- als auch bereitgestellte Durchsatzziele werden unterstützt.
• Erstellung und Verwaltung von Modell-APIs mit der Unity AI Gateway UI, dem Catalog Explorer und der Unity Catalog REST API.
• Abfrage von Modell-APIs über Arbeitsbereiche, innerhalb und außerhalb von Azure Databricks.

Was ist ein Modelldienst?

Ein Modelldienst lebt in einem Unity-Katalog-Schema und verweist auf ein oder mehrere Ziele, wobei Routing und Fallback zwischen ihnen liegen. Anrufer rufen den Modelldienst mit seinem vollständig qualifizierten Namen auf, und das Unity AI Gateway leitet jede Anfrage an ein Ziel. Ein Ziel kann ein von Azure Databricks bereitgestelltes Modell oder ein Modell-Provider-Service sein, der an einen externen Anbieter weitergeleitet wird, und ein einzelner Modelldienst kann beides kombinieren.

Da ein Modellservice ein sicherbares Objekt in Unity Catalog ist, gilt Folgendes:

• Lebt in einem Katalog und Schema, wo es Schemaeinstellungen wie Arbeitsbereichsbindungen erbt.
• Enthält Standardmetadaten des Unity-Katalogs, z. B. Name, Besitzer, Kommentar und Tags.
• Unterliegt den Unity-Katalogrechten, sodass Sie den Zugriff mit denselben GRANT Anweisungen REVOKE gewähren, die Sie für Tabellen, Funktionen und Modelle verwenden.
• Ist im Katalog-Explorer zusammen mit den restlichen Unity-Katalogressourcen auffindbar.

Derselbe Modelldienst wird auch als Endpunkt in der Unity AI Gateway-Benutzeroberfläche angezeigt, wo KI-Teams Funktionen wie Ratenlimits, Inferenztabellen und Leitplanken konfigurieren können. Weitere Informationen zu diesen Features finden Sie unter KI-Governance mit Unity AI Gateway.

Warum LLMs im Unity Catalog verwalten?

Unity AI Gateway-Endpunkte, die in einem Arbeitsbereich erstellt wurden, sind auf diesen Arbeitsbereich beschränkt. Um einen Endpunkt über Arbeitsbereiche hinweg freizugeben, müssen Sie ihn in jedem Arbeitsbereich duplizieren und jede Kopie separat verwalten.

Modelldienste überführen die Governance in Unity Catalog, sodass Sie:

• Definieren Sie einen LLM-Endpunkt einmal , und verwenden Sie ihn aus jedem Arbeitsbereich, der demselben Metaspeicher zugeordnet ist.
• Steuern Sie den Zugriff zentral mithilfe von Unity-Katalogberechtigungen anstelle von Berechtigungen pro Arbeitsbereich.
• Entdecken Sie Modelle , die für Sie von einem einzigen Ort aus über Arbeitsbereiche verfügbar sind.
• Verfolgen Sie die Nutzung und Kosten für Modelldienste in Unity Catalog-Systemtabellen.
• Herkunft nachverfolgen, um die Modelle anzuzeigen, die ein Dienst bereitstellt, sowie die nachgelagerten Assets, die dessen Payloads nutzen. Siehe Nachverfolgen von Modell-API und Anbieterherkunft.

Vom System bereitgestellte Modelldienste

Azure Databricks bietet einen einsatzbereiten Modelldienst im system.ai Schema für jedes von Azure Databricks bediente Foundation-Modell, wie zum Beispiel system.ai.claude-opus-5. Azure Databricks fügt neue Systemmodelldienste hinzu, wenn neue Foundation-Modelle verfügbar werden.

Vom System bereitgestellte Modelldienste weisen die folgenden Merkmale auf:

• Standardmäßig verfügen alle Kontobenutzer über die EXECUTE Berechtigung, sodass Sie sie ohne zusätzliche Einrichtung abfragen können.
• Ein Systembenutzer besitzt sie, und Sie können sie nicht löschen.
• Standardmäßig können nur Metastoreadministratoren sie ändern. Ein Metastoreadministrator kann die Verwaltung delegieren, indem er die MANAGE Berechtigung gewährt.

Informationen zum Einschränken des Zugriffs auf vom System bereitgestellte Modelldienste finden Sie unter "Steuern von Modelldiensten".

Berechtigungen

Modelldienste verwenden das Standardmäßige Unity Catalog-Berechtigungsmodell. Die folgenden Berechtigungen gelten:

Modelldienste nutzen die Privilegien des Definierers. Azure Databricks bewertet eine Abfrage anhand der Rechte des Besitzers und nicht der des Anrufers. Wenn ein Nutzer eine Abfrage an einen Modelldienst sendet, überprüft Azure Databricks, ob der Besitzer über EXECUTE für die referenzierten Zielressourcen verfügt, z. B. für die zugrunde liegenden Modelle und alle Dienste von Modellanbietern. Der Anrufer benötigt keinen direkten Zugang zu diesen Zielen.

Limitations

Die folgenden Funktionen werden nicht unterstützt:

• Erstellung und Verwaltung von Modelldiensten mit SQL.
• Ermitteln von Modelldiensten mit ausschließlich BROWSE-Berechtigungen.
• Globale Suche nach Modelldienstleistungen.

Nächste Schritte

• Erstellen und Verwalten von Modelldiensten
• Abfragemodelldienste
• Entdecken und Steuern des Zugriffs auf Modelldienste
• Integration mit Programmieragenten
• Modell-API und Anbieterabstammung verfolgen