Hinweis
Für den Zugriff auf diese Seite ist eine Autorisierung erforderlich. Sie können versuchen, sich anzumelden oder das Verzeichnis zu wechseln.
Für den Zugriff auf diese Seite ist eine Autorisierung erforderlich. Sie können versuchen, das Verzeichnis zu wechseln.
Gilt nur für:
klassisches Foundry Portal. Dieser Artikel ist für das neue Foundry-Portal nicht verfügbar.
Erfahren Sie mehr über das neue Portal.
Hinweis
Links in diesem Artikel können Inhalte in der neuen Microsoft Foundry-Dokumentation anstelle der jetzt angezeigten Foundry-Dokumentation (klassisch) öffnen.
Wichtig
In diesem Artikel markierte Elemente (Vorschau) befinden sich derzeit in der öffentlichen Vorschau. Diese Vorschau wird ohne Vereinbarung auf Serviceebene bereitgestellt und wird für Produktionsworkloads nicht empfohlen. Bestimmte Features werden möglicherweise nicht unterstützt oder weisen eingeschränkte Funktionen auf. Weitere Informationen finden Sie unter Supplementale Nutzungsbedingungen für Microsoft Azure Previews.
In diesem Artikel erfahren Sie mehr über inhaltssicherheitsfunktionen für Modelle aus dem Modellkatalog, der mit serverlosen API-Bereitstellungen bereitgestellt wird.
Standardeinstellungen für Inhaltsfilter
Azure KI verwendet eine Standardkonfiguration von Azure KI Inhaltssicherheit Inhaltsfiltern, um schädliche Inhalte in vier Kategorien zu erkennen, darunter Hass und Fairness, Selbstverletzung, Sexuelle und Gewalt für Modelle, die über serverlose API-Bereitstellungen bereitgestellt werden. Weitere Informationen zur Inhaltsfilterung finden Sie unter "Verstehen von Schadenkategorien".
Die Standardkonfiguration der Inhaltsfilterung für Textmodelle ist so eingestellt, dass sie Inhalte ab dem mittleren Schweregrad filtert, sodass alle erkannten Inhalte auf diesem oder einem höheren Niveau gefiltert werden. Bei Bildmodellen wird die Standardkonfiguration für die Inhaltsfilterung auf dem niedrigen Konfigurationsschwellenwert festgelegt, wobei die Filterung auf dieser Ebene oder höher erfolgt. Für Modelle, die mithilfe der
Tipp
Die Inhaltsfilterung ist für bestimmte Modelltypen, die über serverlose API-Bereitstellungen bereitgestellt werden, nicht verfügbar. Zu diesen Modelltypen gehören Einbettungsmodelle und Zeitreihenmodelle.
Inhaltsfilterung erfolgt synchron, während der Dienst Eingaben verarbeitet, um Inhalte zu generieren. Möglicherweise werden Sie gemäß Azure KI Inhaltssicherheit Preis für diese Verwendung separat in Rechnung gestellt. Sie können die Inhaltsfilterung für einzelne serverlose Endpunkte entweder deaktivieren:
- Beim ersten Bereitstellen eines Sprachmodells
- Später, indem Sie die Umschaltfunktion zur Inhaltsfilterung auf der Seite mit den Bereitstellungsdetails auswählen
Angenommen, Sie entscheiden sich für die Verwendung einer anderen API als der Modellinference-API , um mit einem Modell zu arbeiten, das über eine serverlose API-Bereitstellung bereitgestellt wird. In einer solchen Situation ist die Inhaltsfilterung (Vorschau) nicht aktiviert, es sei denn, Sie implementieren sie separat mithilfe von Azure KI Inhaltssicherheit. Informationen zu den ersten Schritten mit Azure KI Inhaltssicherheit finden Sie unter Quickstart: Analysieren von Textinhalten. Wenn Sie keine Inhaltsfilterung (Vorschau) verwenden, während Sie mit Modellen arbeiten, die über serverlose API-Bereitstellungen ausgeführt werden, besteht ein höheres Risiko, dass Benutzer schädlichen Inhalten ausgesetzt werden.
Verstehen von Schadenkategorien
Schadenskategorien
| Kategorie | Beschreibung | API-Begriff |
|---|---|---|
| Hass und Fairness | Hass- und Fairnessverletzungen beziehen sich auf jegliche Inhalte, die Personen oder Identitätsgruppen aufgrund bestimmter unterscheidender Merkmale dieser Gruppen angreifen oder diskriminierende Sprache verwenden. Dies umfasst, ist jedoch nicht auf Folgendes beschränkt:
|
Hate |
| Sexuelle | Sexual beschreibt die Sprache im Zusammenhang mit anatomischen Organen und Genitalien, romantische Beziehungen und sexuellen Handlungen, Handlungen, die in erotischen oder liebevollen Ausdrücken dargestellt werden, einschließlich derjenigen, die als Angriff oder eine erzwungene sexuelle Gewalt gegen den Willen des Einen dargestellt werden. Dies umfasst, ist jedoch nicht auf Folgendes beschränkt:
|
Sexual |
| Gewalt | Gewalt beschreibt Sprache im Zusammenhang mit physischen Handlungen, die dazu dienen, jemanden oder etwas zu verletzen, zu beschädigen oder zu töten. Sie beschreibt Waffen, Gewehre und ähnliche Dinge. Dies umfasst, ist jedoch nicht auf Folgendes beschränkt:
|
Violence |
| Selbstverletzung | Selbstverletzung beschreibt körperliche Handlungen, die absichtlich vorgenommen werden, um den eigenen Körper zu verletzen, zu schädigen oder sich selbst zu töten. Dies umfasst, ist jedoch nicht auf Folgendes beschränkt:
|
SelfHarm |
| Aufgabentreue | Trägt dazu bei, dass SICH KI-Agents konsistent in Übereinstimmung mit Benutzeranweisungen und Aufgabenzielen verhalten. Es identifiziert Diskrepanzen, z. B. falsch ausgerichtete Toolaufrufe, unsachgemäße Tooleingabe oder -ausgabe relativ zu Benutzerabsichten und Inkonsistenzen zwischen Antworten und Kundeneingaben. |
Schweregrad
| Ebene | Beschreibung |
|---|---|
| Sicher | Inhalte können sich auf Gewalt, Selbstschäden, sexuelle oder Hasskategorien beziehen. Die Begriffe werden jedoch in allgemeinen, journalistischen, wissenschaftlichen, medizinischen und ähnlichen beruflichen Kontexten verwendet, die für die meisten Zielgruppen geeignet sind. |
| Niedrig | Inhalte, die Vorurteile, Urteile oder Meinungsansichten ausdrücken, umfassen anstößige Verwendung von Sprache, Stereotypisierung, Anwendungsfälle, die eine fiktive Welt untersuchen (z. B. Spiele, Literatur) und Darstellungen mit geringer Intensität. |
| Mittel | Inhalte, die anstößige, beleidigende, simulierte, einschüchternde oder herabsetzende Sprache gegenüber bestimmten Identitätsgruppen verwenden, umfassen Darstellungen der Suche und Ausführung schädlicher Anweisungen, Fantasien, Verherrlichung, Förderung von Schaden in mittlerer Intensität. |
| Hoch | Inhalte, die explizite und schwere schädliche Anweisungen, Handlungen, Schäden oder Missbrauch anzeigen; umfasst die Billigung, Verherrlichung oder Förderung schwerer schädlicher Handlungen, extremer oder illegaler Formen von Schaden, Radikalisierung oder nichtkonsensuellem Machtaustausch oder Missbrauch. |
Berechnung der Gebühren
Preisdetails sind auf Azure KI Inhaltssicherheit Pricing sichtbar. Gebühren entstehen, wenn die Azure KI Inhaltssicherheit die Eingabeaufforderung oder den Abschluss überprüft. Wenn Azure KI Inhaltssicherheit die Eingabeaufforderung oder den Abschluss blockiert, werden Ihnen sowohl die Auswertung des Inhalts als auch die Ableitungsaufrufe in Rechnung gestellt.