Verwenden von Agents auf Azure Databricks

Diese Seite bietet eine Übersicht über Tools zum Erstellen, Bereitstellen und Verwenden von Agents auf Azure Databricks. Weitere Informationen zu Agents finden Sie unter Agent-Systementwurfsmuster.

Funktion BESCHREIBUNG
Erste Schritte: no-code AI Probieren Sie AI Playground für UI-basierte Tests und Prototypen aus.
Erste Schritte: MLflow 3 für GenAI Testen Sie MLflow für GenAI-Verfolgung, Auswertung und menschliches Feedback.

Bereitstellen und Abfragen großer Sprachmodelle (LLMs)

Bedienen Sie eine kuratierte Reihe von KI-Modellen von LLM-Anbietern wie OpenAI und Anthropic und stellen Sie sie über sichere, skalierbare APIs zur Verfügung.

Funktion BESCHREIBUNG
Foundation-Modelle Stellen Sie KI-Modelle bereit, einschließlich Open-Source- und Drittanbietermodelle wie Meta Llama, Anthropic Claude, OpenAI GPT und weitere.

Enterprise-taugliche Agenten erstellen und bereitstellen

Entwickeln und setzen Sie Ihre eigenen Agenten ein, einschließlich Agenten, die Werkzeuge aufrufen, Retrieval-Augmented-Generation-Apps und Multi-Agenten-Systeme. Verwenden Sie für einen Startpunkt ohne Code den AI-Playground, um eine LLM auszuwählen, Tools hinzuzufügen und mit dem Agent zu chatten, um ihre Antworten zu testen, bevor Sie in Code exportieren.

AI Playground bietet eine Low-Code-Option für die Agent-Prototyperstellung.

Funktion BESCHREIBUNG
AI Playground (kein Code) Agenten in einer No-Code-Umgebung prototypisch entwickeln und testen. Experimentieren Sie schnell mit Agentverhalten und Toolintegrationen, bevor Sie Code für die Bereitstellung generieren.
Wissensassistent Erstellen und optimieren Sie domänenspezifische KI-Chatbots mithilfe einer intuitiven Benutzeroberfläche.
Supervisor-Agent Erstellen Sie einen Supervisor-Agent, der Genie Agents, Agent-Endpunkte, Unity-Katalogfunktionen, MCP-Server und benutzerdefinierte Agents orchestriert.
Erstellen benutzerdefinierter Agents Erstellen, Bereitstellen und Auswerten von Agents mithilfe von Python. Unterstützt Agenten, die mit jeder beliebigen Authoring-Bibliothek erstellt wurden, einschließlich LangGraph, LangChain, OpenAI und LlamaIndex. Integriert mit MLflow-Tracking. Schnell iterieren mit Databricks-Apps. Informationen zu den ersten Schritten finden Sie unter "Erste Schritte mit Agents".
MCPs und Agententools Erstellen Sie Agenttools, um strukturierte und unstrukturierte Daten abzufragen, Code auszuführen oder eine Verbindung mit externen Dienst-APIs herzustellen.
MCP (Model Context Protocol) Standardisieren Sie, wie Agents eine Verbindung mit Daten und Tools mit einer sicheren, konsistenten Schnittstelle herstellen.

Agenten registrieren und verwalten

Wenn Ihr Agent außerhalb von Databricks ausgeführt wird, registrieren Sie ihn als Agentdienst im Unity-Katalog, um es für Ihr Team auffindbar zu machen und zu steuern, wer es verwenden kann.

Funktion BESCHREIBUNG
Agentendienste (Beta) Registrieren Sie Agenten im Unity-Katalog. Durchsuchen und entdecken Sie Agenten teamübergreifend in einer einzigen Ansicht und steuern Sie den Zugriff mit denselben Berechtigungen, die Ihre Tabellen, Modelle und Funktionen schützen.

Bewerten, Debuggen und Optimieren von Agents

Verfolgen Sie die Leistung von Agenten, sammeln Sie Feedback und treiben Sie Qualitätsverbesserungen mit Evaluierungs- und Tracking-Tools voran.

Funktion BESCHREIBUNG
MLflow-Ablaufverfolgung Verwenden Sie MLflow Tracking für End-to-End-Beobachtbarkeit. Protokollieren Sie jeden Schritt, den Ihr Agent zum Debuggen, Überwachen und Analysieren des Agentverhaltens bei der Entwicklung und in der Produktion unternimmt.
Agent-Auswertung Verwenden Sie agent Evaluation und MLflow, um Qualität, Kosten und Latenz zu messen. Sammeln Sie Feedback von Projektbeteiligten und Fachexperten über integrierte Prüf-Apps und verwenden Sie LLM-Richter, um Qualitätsprobleme zu identifizieren und zu beheben.
Überwachen von Agents Verwenden Sie dieselbe Auswertungskonfiguration (LLM-Richter und benutzerdefinierte Metriken) in der Offlineauswertung und Onlineüberwachung.
  • Last updated on