Bereitstellen von Echtzeitvorhersagen mit ML-Modellendpunkten (Vorschau)

Von Bedeutung

Dieses Feature befindet sich in der Vorschauphase.

Microsoft Fabric ermöglicht es Ihnen, Echtzeitvorhersagen aus ML-Modellen mithilfe sicherer, skalierbarer und einfach zu bedienender Online-Endpunkte bereitzustellen. Die meisten Fabric-Modelle enthalten diese Endpunkte als integrierte Eigenschaften und erfordern keine Einrichtung, um vollständig verwaltete Echtzeit-Deployments zu starten.

Sie können Endpunkte für das Abfragemodell mithilfe einer öffentlich zugänglichen REST-API aktivieren, konfigurieren und abfragen. Sie können auch direkt über die Fabric-Oberfläche starten, indem Sie eine Low-Code-Erfahrung nutzen, um Modell-Endpunkte sofort zu aktivieren und Vorschauvorhersagen zu erstellen.

Screenshot mit einem ML-Modell in Fabric mit einer integrierten Endpunkteigenschaft zur Bereitstellung von Echtzeitvorhersagen.

Voraussetzungen

  • Dein Tenant hat standardmäßig die Endpunkte des maschinellen Lernmodells aktiviert. Wenn Ihr Administrator dieses Feature deaktivieren möchte, können Sie die Mandantenoption für ML-Modellendpunkte im Fabric Admin-Portal deaktivieren.

Einschränkungen

  • Endpunkte sind derzeit für einen begrenzten Satz von ML-Modellflavors verfügbar, einschließlich Keras, LightGBM, Sklearn und XGBoost.
  • Endpunkte sind derzeit nicht verfügbar für Modelle mit tensorbasierten Strukturen oder ohne Strukturen.

Hinweis

Machine-Learning-Endpunkte unterstützen von AutoML trainierte Modelle.

Erste Schritte mit Modellendpunkten

ML-Modelle in Fabric werden vorgefertigt mit Online-Endpunkten geliefert, mit denen Sie Echtzeit-Vorhersagen liefern können. Jede registrierte Modellversion hat eine dedizierte Endpunkt-URL, die Sie unter der Überschrift Endpunktdetails in der Fabric-Oberfläche finden können. Diese URL endet mit einem Unterpfad, der die spezifische Version angibt (zum Beispiel, /versions/1/score).

Screenshot der Eigenschaften eines ML-Modellendpunkts, der verwendet werden kann, um Echtzeitvorhersagen zu erfüllen.

Modellendpunkte weisen die folgenden Eigenschaften auf:

Eigentum Beschreibung Vorgabe
Standardversion Diese Eigenschaft (Yes oder No) gibt an, ob die Version als Standard des Modells für die Bereitstellung reeller Vorhersagen gesetzt ist. Sie können die Standardversion in den Einstellungen des Modells anpassen. No
Status Diese Eigenschaft gibt an, ob der Endpunkt bereit ist, Vorhersagen zu bedienen. Der Status kann sein Inactive, , Activating, Active, oder DeactivatingFailed. Nur aktive Endpunkte können Vorhersagen bereitstellen. Inactive
Automatischer Schlafmodus Diese Eigenschaft (On oder Off) gibt an, ob der Endpunkt, sobald er aktiv ist, die Kapazitätsauslastung auf Null verkleinern sollte, wenn kein Verkehr vorhanden ist. Wenn der automatische Schlafmodus aktiviert ist, gerät der Endpunkt nach fünf Minuten ohne eingehende Anfragen in einen Leerzustand. Der erste Aufruf zum Aufwecken eines Endpunkts im Leerlauf beinhaltet eine kurze Verzögerung. On

Aktivieren von Modellendpunkten

Sie können Modellendpunkte direkt über die Fabric Schnittstelle aktivieren. Wechseln Sie zu der Version, die Sie für Echtzeitvorhersagen verwenden möchten, und wählen Sie im Menüband Versionsendpunkt aktivieren aus.

Screenshot zeigt, wie Sie einen ML-Modellendpunkt über die Fabric-Schnittstelle aktivieren.

Eine Hinweismeldung zeigt an, dass Fabric Ihren Endpunkt für Vorhersagen bereitstellt, und der Status des Endpunkts wechselt zu Activating. Hinter den Kulissen startet Fabric die zugrundeliegende Container-Infrastruktur, um Ihr Modell zu hosten. Innerhalb weniger Minuten ist Ihr Endpunkt bereit, Vorhersagen bereitzustellen.

Screenshot eines ML-Modellendpunkts, der jetzt aktiviert wird.

Jeder Endpunkt hat einen Status, der anzeigt, ob er bereit ist, Echtzeitvorhersagen zu liefern:

Status Beschreibung
Inactive Der Endpunkt ist nicht aktiviert, um Echtzeitvorhersagen zu liefern, und verbraucht keine Fabric-Kapazität.
Activating Der Endpunkt wird für Echtzeitvorhersagen konfiguriert. Im Hintergrund richtet Fabric die zugrunde liegende Containerinfrastruktur zum Hosten des Modells ein. Innerhalb weniger Minuten ist der Endpunkt aktiv.
Active Der Endpunkt ist bereit, Echtzeitvorhersagen zu bedienen. Im Hintergrund verwaltet Fabric die zugrunde liegende Infrastruktur und skaliert die Ressourcennutzung basierend auf eingehendem Datenverkehr. Ein höherer Datenverkehr führt zu einer höheren Auslastung der Fabric-Kapazität.
Deactivating Der Endpunkt wird deaktiviert, sodass er keine Echtzeitvorhersagen mehr liefert oder keine Fabric-Kapazität mehr verbraucht. Hinter den Kulissen zerlegt Fabric die zugrunde liegende Containerinfrastruktur.

Hinweis

ML-Modelle können aktive Endpunkte für bis zu fünf Versionen gleichzeitig unterstützen. Um Vorhersagen aus einer sechsten Version zu erfüllen, müssen Sie zuerst einen aktiven Endpunkt deaktivieren.

Verwalten von Modellendpunkten

Um einen Überblick über die aktiven Endpunkte Ihres Modells zu erhalten, wählen Sie im Ribbon in der Schnittstelle "Endpunkte verwalten ". Jedes Modell verfügt über einen anpassbaren Standardendpunkt, der Vorhersagen aus einer von Ihnen ausgewählten Version liefert. Du kannst die Standardversion aktualisieren, indem du den Dropdown-Selector im Einstellungsfenster benutzt.

Screenshot der standardmäßigen ML-Modellendpunkt-URL, die Sie für die Bereitstellung von Vorhersagen aus einer bestimmten Version konfigurieren können.

Von Bedeutung

Setze die Standard-Eigenschaft auf eine aktive Version, falls du sie verwenden willst. Wenn du die Standard-Eigenschaft nicht setzt oder sie auf eine inaktive Version setzt, schlagen Aufrufe zum Standard-Endpunkt fehl.

Die Endpunkt-Einstellungen des Modells listen alle Versionen mit aktiven Endpunkten auf. Du kannst die Auto-Sleep-Eigenschaft jedes Endpunkts ändern, indem du den Schalter auf An oder Aus umschaltest.

Screenshot, der zeigt, wie die Eigenschaft für den automatischen Schlafmodus an ML-Modellendpunkten geändert wird.

Tipp

Aktive Endpunkte mit aktiviertem automatischem Schlafzustand treten nach fünf Minuten ohne Verkehr in den Leerlaufzustand ein. Der erste Anruf, um sie zu wecken, beinhaltet eine kurze Verzögerung. Du könntest diese Eigenschaft für Endpunkte in der Produktion deaktivieren.

Abfragemodellendpunkte für Echtzeitvorhersagen

Du kannst Modell-Endpunkte sofort testen, indem du die Low-Code-Erfahrung in Fabric nutzt. Gehe zu einer Version mit aktivem Endpunkt und wähle Vorschauvorhersagen im Ribbon in der Benutzeroberfläche aus. Sie können Musteranfragen an den Endpunkt senden und Beispielvorhersagen in Echtzeit erhalten, indem Sie Formularfelder verwenden, die mit der Eingabesignatur des Modells übereinstimmen.

Screenshot der integrierten Vorschauumgebung zum Abrufen von Beispielvorhersagen von einem aktiven ML-Modellendpunkt.

Wählen Sie Autofill, um die Formularfelder mit Zufallsstichprobenwerten auszufüllen. Du kannst weitere Sätze von Formularwerten hinzufügen, um den Endpunkt mit mehreren Eingaben zu testen. Wähle Prediktionen abrufen , um dem Endpunkt deine Musteranfrage zu senden.

Screenshot der formularbasierten Ansicht zum Senden von Beispielanforderungen an einen aktiven ML-Modellendpunkt.

Wenn Sie Beispielanforderungen lieber als JSON-Nutzlast formatieren möchten, verwenden Sie die Dropdownauswahl, um die Ansicht zu ändern.

Screenshot der JSON-basierten Ansicht zum Senden von Beispielanforderungen an einen aktiven ML-Modellendpunkt.

Deaktivieren von Modellendpunkten

Sie können Modellendpunkte direkt über die Fabric Schnittstelle deaktivieren. Gehe zu einer Version, für die du keine Echtzeit-Vorhersagen mehr brauchst, und wähle " Versionsendpunkt deaktivieren " über das Ribbon in der Schnittstelle.

Screenshot zeigt, wie ein ML-Modellendpunkt von der Fabric interface.

Eine Toastmeldung zeigt an, dass Fabric Ihre aktive Bereitstellung abbaut, und der Status des Endpunkts ändert sich in Deactivating. Der Endpunkt kann keine Echtzeit-Vorhersagen liefern, es sei denn, du reaktivierst ihn.

Screenshot eines ML-Modellendpunkts, der jetzt deaktiviert wird.

Sie können Endpunkte für mehrere Versionen gleichzeitig im Einstellungsbereich des Modells deaktivieren. Wählen Sie die Endpunkte verwalten aus dem Ribbon in der Schnittstelle aus und wählen Sie einen oder mehrere aktive Endpunkte zum Deaktivieren aus.

Screenshot zeigt, wie mehrere ML-Modellendpunkte gleichzeitig von der Fabric Schnittstelle deaktiviert werden.

Verbrauchsrate

Das Hosten von aktiven Modellendpunkten verbraucht Fabric Kapazitätseinheiten (CUs). Endpunkte werden auf Computeknoten ausgeführt und können basierend auf eingehendem Datenverkehr automatisch bis zu drei Knoten skalieren. Die Abrechnung wird pro Knoten berechnet, während ein Endpunkt aktiv ist. Die folgende Tabelle zeigt den CU-Verbrauch für einen aktiven ML-Modell-Endpunkt.

Vorgang Betriebsmaßeinheit Verbrauchsrate
Modellendpunkt 1 Modellendpunkt (Version) pro Sekunde pro Knoten 5 CU-Sekunden

Die folgende Tabelle zeigt Beispielszenarien sowie deren entsprechende Verbrauchsraten und Stundenkosten.

Szenario Beschreibung Verbrauchsrate Stündliche Kosten
Modelle mit inaktiven Endpunkten Diese Modelle haben keine aktiven Versionsendpunkte und keine zugeordnete Ressourcenauslastung. Sie beinhalten keine zusätzlichen Kosten. 0 CU-Sekunden 0 CU-Stunde
Modelle mit aktiven, aber im Leerlauf befindlichen Endpunkten Diese Modelle haben ein oder mehrere aktive Versionsendpunkte, aber ohne regelmäßigen Datenverkehr skalieren alle Endpunkte auf null, was die Kosten automatisch senkt. 5 CU-Sekunden 0.42 CU-Stunden
Modelle mit 1 aktivem Endpunkt und konstant niedrigem Datenverkehr Diese Modelle verfügen nur über einen aktiven Versionsendpunkt, der Vorhersagen angibt, aber ohne genügend Datenverkehr, um eine vollständige Skalierung auszulösen. Ein Knoten kann den gesamten Datenverkehr bedienen. Andere Versions-Endpunkte könnten inaktiv oder im Leerlauf sein. 5 CU-Sekunden 5 CU Stunden
Modelle mit 1 aktivem Endpunkt und konstanter hoher Datenverkehr Diese Modelle haben nur 1 aktiven Versionsendpunkt, der Vorhersagen bereitstellt und ausreichend Datenverkehr aufweist, um eine vollständige Hochskalierung auszulösen. Andere Versionsendpunkte könnten inaktiv oder im Leerlauf sein. 15 CU-Sekunden 15 KU-Stunden
Modelle mit 5 aktiven Endpunkten und konstanter hoher Datenverkehr Diese Modelle verfügen über 5 aktive Versionsendpunkte (das aktuelle Limit), die Vorhersagen verarbeiten; jeder Endpunkt weist dabei genug Datenverkehr auf, um einen vollen Skalierungsausbau auszulösen. 75 CU-Sekunden 75 CU-Stunden

Die App Kapazitätsmetriken von Fabric zeigt die Gesamtkapazitätsauslastung für Modellendpunktvorgänge mit dem Namen "Modellendpunkt" an. Zusätzlich können Nutzer eine Zusammenfassung ihrer Abrechnungsgebühren für die Nutzung des Model Endpoint unter dem Rechnungsposten "ML Model Endpoint Capacity Usage CU" einsehen.

Der Modellendpunktvorgang wird als Hintergrundvorgänge klassifiziert.

Verbrauchsraten können sich jederzeit ändern. Microsoft verwendet angemessene Anstrengungen, um eine Benachrichtigung per E-Mail oder über produktinterne Benachrichtigungen bereitzustellen. Änderungen treten am in den Microsoft Release Notes oder im Microsoft Fabric Blog angegebenen Datum in Kraft. Wenn änderungen am Modellendpunkt in Fabric Verbrauchsrate die zu verwendenden Kapazitätseinheiten (CU) wesentlich erhöhen, können Kunden die für die ausgewählte Zahlungsmethode verfügbaren Stornierungsoptionen verwenden.

Verwandte Inhalte

  • Last updated on