Generative Orchestrierungsfähigkeiten anwenden

Die generative Orchestrierung stellt die nächste Entwicklungsstufe der Entwicklung von Unterhaltungsagents im Copilot Studio dar. Es führt eine von einem großen Sprachmodell (LLM) gesteuerte Planungsebene ein, die die Benutzerabsicht interpretiert, komplexe Anfragen aufschlüsselt, die richtigen Tools und Wissensquellen auswählt und mehrschrittige Pläne unter Berücksichtigung von Sicherheits- und Compliance-Aspekten ausführt. Anstatt sich ausschließlich auf handgefertigte Unterhaltungsthemen zu verlassen, kombiniert generative Orchestrierung wiederverwendbare Bausteine – Aktionen, Themen, Wissensquellen, untergeordnete Agents und autonome Auslöser – zu intelligenten Workflows.

In Copilot Studio ermöglicht die Aktivierung der generativen Orchestrierung bessere Antworten bei reduziertem manuellen Skripting. In diesem Artikel erfahren Sie mehr über die Architektur hinter generativer Orchestrierung und darüber, wie Sie effektive Anweisungen verfassen sowie Ihre orchestrierten Agents testen und anpassen.

Warum ist generative Orchestrierung wichtig?

Traditionelle themengetriebene Designs erfordern mehrere manuell definierte Themen, starre Verzweigungen und manuelle Slot-Füll-Logik. Dieser Ansatz kann diese Folgen haben:

• Große Themeninventare mit überlappender Logik.
• Herausforderungen bei der Verarbeitung von Äußerungen mit mehrdeutigen Absichten.
• Inkonsistente Nutzererfahrungen, wenn Benutzer Fragen unterschiedlich formulieren.
• Hohe Wartungskosten, wenn sich APIs oder Geschäftsregeln ändern.

Generative Orchestrierung löst diese Herausforderungen durch:

• Reduzierung des Themenwildwuchses durch die Komposition wiederverwendbarer Bausteine.
• Automatisches Ausfüllen von Slots auf Grundlage der Eingabedefinitionen.
• Dynamische Anpassung von Antwortstil und Planstruktur.
• Verbesserung der Relevanz durch semantische Wissensabfrage.
• Proaktive Vorschläge für den nächsten Schritt.

Architektur und Komponenten

Auf einer übergeordneten Ebene besteht ein generativer Orchestrator-Agent aus mehreren Schlüsselkomponenten, die zusammenarbeiten:

• Orchestrator (Planer): Das LLM-gesteuerte zentrale Steuerungselement des Agenten, das eine Eingabe, wie zum Beispiel eine Benutzernachricht oder ein Ereignis, in einen strukturierten Plan umwandelt. Der Orchestrator identifiziert die Absichten, wählt aus, welche Tools, Themen oder Agents bei jedem Schritt eingesetzt werden, und definiert die Reihenfolge sowie den Datenfluss zwischen den Schritten. Es gibt eine geordnete Liste von Schritten (einen „Plan“) aus, die die Runtime ausführt, und stellt sicher, dass jeder Schritt innerhalb der Richtlinien liegt. Zum Beispiel holt es für sensible Aktionen eine Genehmigung ein.

• Wissensebene: Eine Reihe von Abrufquellen, wie interne Wissensdatenbanken, Dokumente, Datenbanken und mehr, die der Agent abfragen kann, um seine Antworten zu begründen. Der Orchestrator nutzt diese Ebene, um sachliche Informationen oder Leitlinien abzurufen. Ergebnisse enthalten häufig Zitate und Metadaten, die der Agent in Antworten einbauen kann, um die Transparenz zu erhöhen. Die Wissensschicht ist schreibgeschützt und liefert Belege oder Kontext.

• Tools und Connectors: Externe Aktionen, APIs und Automatisierungsflows, die der Agent als Teil eines Plans aufrufen kann. Jedes Tool hat eine definierte Schnittstelle: Eingabeparameter (mit erwarteten Typen), Ausgabevariablen und möglicherweise Fehlerbedingungen. Sie sind im Grunde die „Fertigkeiten“ des Agents zur Durchführung von Operationen, wie zum Beispiel das Nachschlagen einer Bestellung, das Versenden einer E-Mail oder das Ausführen eines Skripts. Sie sollten Tools gründlich testen und sicherstellen, dass sie sich deterministisch verhalten, wenn Sie die gleichen Eingaben haben, da der Orchestrator sie als zuverlässige Funktionen behandelt.

• Themen und Inline-Agents: Wiederverwendbare Unterhaltungsthemen oder Mini-Dialoge, die spezifische Logik zusammenfassen. Im Rahmen der generativen Orchestrierung kann der Planer Themen nicht nur durch Triggerausdrücke aufrufen, sondern auch immer dann, wenn ihr angegebener Zweck den Bedürfnissen des Nutzers entspricht. Inline-Agents sind kleine, fokussierte Themen oder Routinen, die als Teilschritte innerhalb eines größeren Plans verwendet werden. Sie laufen im Kontext des Hauptagents und übernehmen diskrete Aufgaben, sodass der Hauptorchestrator diese Details nicht explizit skripten muss.

• Ereignisauslöser (Autonomie): Mechanismen, die den Orchestrator ohne Benutzernachricht starten. Diese Mechanismen können geplante Trigger oder ereignisbasierte Trigger sein, wie zum Beispiel eine Aktualisierung eines Datenbankeintrags, die den Agent veranlassen, einen Plan autonom zu initiieren. Jeder Trigger kann eigene Bedingungen und Anweisungen haben. Autonome Trigger ermöglichen es dem Agent, proaktiv zu handeln, indem er Workflows initiiert, wenn bestimmte Bedingungen erfüllt sind, statt lediglich auf Benutzerchat-Eingaben zu reagieren.

Kontrollebenen und Entscheidungsgrenzen

Bei einem produktionsfähigen Agent sollten Sie nicht jede Entscheidung der KI überlassen. In der Regel gibt es drei Kontrollebenen:

• Deterministische Ebene: Diese Ebene verwendet traditionelle, regelbasierte Logik, die Sie weiterhin für missionskritische oder irreversible Aktionen durchsetzen. Zum Beispiel könnten Sie bei der Abwicklung einer Zahlung oder beim Löschen eines Datensatzes ein ausdrücklich autorisiertes Thema oder einen Flow verwenden, der strikt Schritt für Schritt ohne jegliche KI-Interpretation ausgeführt wird. Diese Ebene kann auch explizite Prüfungen oder Validierungen für vertrauliche Daten enthalten. Wenn etwas exakt wie spezifiziert geschehen muss, sollte es deterministisch behandelt werden. Sie können den generativen Orchestrator so konfigurieren, dass er diese Abläufe weder überschreibt noch verändert. In der Praxis sollten Sie solche Aktionen entweder dem KI-Planer nicht offenlegen oder sie stets in ein Thema einbetten, das eine Bestätigung durch den Benutzer erfordert.

• Hybride (Intercept-)Ebene: Diese Ebene ermöglicht etwas KI-Flexibilität innerhalb überwiegend deterministischer Strukturen. Sie erlauben dem Orchestrator, innerhalb festgelegter Grenzen zu agieren, mit der Möglichkeit eines Eingriffs durch Menschen oder Regeln. Ein Agent kann beispielsweise automatisch eine Antwort erstellen oder eine Aktion ausführen, aber Sie können einen Freigabeschritt integrieren, damit ein Manager sie überprüft. Oder der Agent könnte eine Aufgabe bis zu einem bestimmten Wertlimit übernehmen und müsste dann eskaliert werden. Die Hybridschicht legt vorab Punkte fest, an denen der autonome Plan der KI angehalten und überprüft wird. Verwenden Sie diesen Ansatz für Prozesse mit mittlerem Risiko: Lassen Sie die KI die Hauptarbeit übernehmen, aber sorgen Sie dafür, dass ein Mensch zur Kontrolle eingebunden bleibt.

• KI-Orchestrator-Ebene: Diese Ebene ist vollständig auf generativer KI basierend. Der LLM-Planer ist frei darin (innerhalb der Leitplanken) Pläne für risikoärmere Abfragen zu erstellen und auszuführen. Die meisten Q&A-Interaktionen, Informationssuche oder einfache mehrschrittige Anfragen fallen in diese Kategorie. Bei den meisten Nutzerfragen kann der Agent autonom entscheiden, wie er sie löst und entsprechend handeln. Diese Ebene bietet die Anpassungsfähigkeit und Leistungsfähigkeit generativer KI. Sie ist an Richtlinien gebunden. Zum Beispiel könnte die KI wissen, dass sie bestimmte Admin-Tools nicht aufrufen oder bestimmte Informationen offenlegen darf. Der Agent muss bei Routineaufgaben nicht anhalten und um Erlaubnis fragen.

Definieren Sie auf Grundlage dieser Ebenen explizit die Entscheidungsbereiche. Überprüfen Sie, welche Aktionen und Themen:

• Ohne Bestätigung ausgeführt werden können (die KI kann sie einfach machen)
• Verlangen die Bestätigung des Nutzers in der Unterhaltung (zum Beispiel: „Sind Sie sicher, dass Sie alle Datensätze löschen möchten?“)
• Offline-Genehmigung erfordern (zum Beispiel muss ein Administrator über einen Genehmigungsworkflow bestätigen)

Setzen Sie diese Grenzen durch Ihr Themendesign um, zum Beispiel durch das Hinzufügen eines Bestätigungsknotens, über die Genehmigungsfunktionen der Plattform oder durch Logik in den Triggern. Durch gestufte Kontrolle stellen Sie sicher, dass der Agent sicher agiert – die KI übernimmt Aufgaben, in denen sie stark ist, während Menschen oder strenge Regeln Entscheidungen treffen, die die KI nicht allein treffen sollte.

Best Practices für Agent-Anweisungen

Richtig verfasste Agentenanweisungen beeinflussen die Qualität der Planerstellung.

• Kontextuelle Relevanz

  • Stellen Sie sicher, dass die Anweisungen nur auf Tools und Wissen verweisen, die dem Agent zur Verfügung stehen.
  • Verwenden Sie die exakten Toolbezeichnungen, Variablennamen und Power Fx-Bezeichner.

• Konversationsrichtlinien

  • Geben das Antwortformat an (Listen, Tabellen, Fettdruck).
  • Geben stilistische Vorgaben an („prägnant“, „Zitate einbeziehen“, „nächste Schritte vorschlagen“).
  • Vermeiden es, spezifische Wissensquellen direkt zu nennen. Beschreiben sie stattdessen.

• Bestimmen, wann Tools oder Wissen verwendet werden sollen

  • Bevorzugen Sie die Verwendung von Toolnamen. Namen haben mehr Gewicht als Beschreibungen.
  • Beschreiben Sie Wissensfähigkeiten allgemein, um falsche Informationen zu vermeiden.

• Autonome Ausführungsanweisungen

  • Definieren die erwartete Reihenfolge von Aktionen für mehrschrittige Workflows.
  • Kombinieren Prozessanweisungen mit spezifischen Prompts.

Weitere Informationen finden Sie unter Konfigurieren von hochwertigen Anweisungen für die generative Orchestrierung.

Themenein- und -ausgaben entwerfen

Beim Erstellen von Themen sollten Sie besonders auf deren Ein- und Ausgabeparameter im generativen Orchestrierungsmodus achten:

• Definieren Sie klare Eingabeparameter mit Beschreibungen: Wenn ein Thema oder eine Aktion bestimmte Informationen benötigt (wie z. B. den „Benutzernamen“ für ein Thema zur Passwortzurücksetzung), erstellen Sie einen Thema-Eingabeparameter dafür und geben Sie ihm einen aussagekräftigen Namen und ein Beispiel. Der Orchestrator verwendet diese Namen und Beschreibungen, um den Benutzer automatisch zu fragen, wenn der Wert fehlt. Die Verwendung einer Liste akzeptierter Werte oder einer Power Fx Validierungsformel für Eingaben kann helfen, sicherzustellen, dass der Bot gültige Daten sammelt (zum Beispiel die Einschränkung eines Ländercodes auf zwei Buchstaben).

• Verwenden von Auto-Prompting: Im generativen Modus stellt der Agent automatisch Fragen, anstatt dass Sie manuell Fragenknoten hinzufügen müssen, um fehlende Angaben zu erfragen. Dieser Ansatz stellt eine wesentliche Veränderung im Vergleich zu klassischen Bots dar. Entscheidend ist, dass Ihre Eingabenamen benutzerfreundlich sind (zum Beispiel „Startdatum“, „E-Mail-Adresse“), damit die KI eine natürliche Frage formulieren kann. Wenn die automatisch generierte Frage der KI nicht optimal formuliert ist, sollten Sie die Beschreibung oder den Namen der Eingabe überarbeiten. Diese Funktion vereinfacht die Dialoge erheblich, basiert aber auf klar definierten Eingaben.

• Geben Sie Ausgabewerte für Themen an, wo dies zutreffend ist: Ein Thema kann Ausgabevariablen erzeugen, die der Orchestrator verwendet, um die endgültige Antwort zu kompilieren. Zum Beispiel könnte ein „Geschäft suchen“-Thema ausgegeben werden NearestStoreLocation. Indem Sie Informationen ausgeben, anstatt dem Benutzer direkt eine Nachricht zu senden, ermöglichen Sie es dem Orchestrator, diese Informationen elegant mit anderen Schritten zu kombinieren. Wenn der Inhalt eines Themas Teil einer umfassenderen Antwort ist, erfassen Sie ihn als Ausgabevariable und überlassen Sie die finale Nachricht dem Orchestrator. Mehr erfahren unter Agent-Verhalten mit generativer KI orchestrieren.

• Vermeiden Sie die „doppelte Verwendung“ von Daten in Prompts: Wenn Sie Ausgaben konfigurieren, geben Sie diese Ausgaben nicht auch als offenen Kontext in das LLM ein. Wenn eine Aktion beispielsweise einen Zusammenfassungstext liefert, sollte dieser als strukturierte Ausgabe übergeben und vom Orchestrator eingebunden werden, anstatt eine Anweisung wie „Das Ergebnis der Aktion sagt {Zusammenfassung}.“ zu erstellen. So wird verhindert, dass das Modell zu viel generiert oder Inhalte wiederholt. Die Ausgaben sollten möglichst die endgültigen Datenpunkte sein.

Aktionen, Themen und Wissen verknüpfen

Da der Orchestrator mehrere Fähigkeiten in einem Durchgang nutzen kann, sollte das Design die Kompositionalität im Blick behalten:

• Geben Sie allen Elementen intuitive Namen und Beschreibungen: Der Planer entscheidet sich hauptsächlich für ein Tool oder Thema, basierend darauf, wie gut Name und Beschreibung mit der Anfrage des Nutzers übereinstimmen. Verwenden Sie aktive Formulierungen, die mit den Nutzerintentionen übereinstimmen. Ein Tool mit dem Namen „TranslateText“ und der Beschreibung „Übersetzt Text in eine angegebene Sprache“ wird eher ausgewählt, wenn der Benutzer nach Übersetzung fragt, als ein generisch benanntes „Flow1“. Namen sind wichtiger als alles andere. Vermeiden Sie kryptische Namen. Wenn der Agent das falsche Thema auswählt, überprüfen Sie diese Namen und Beschreibungen erneut.

• Stellen Sie ein umfangreiches „Toolkit“ bereit, aber stellen Sie es zusammen: Verbinden Sie alle nützlichen Aktionen, die Ihr Szenario benötigen könnte (APIs, Flows usw.), und erstellen Sie Themen für wichtige Flows. Dieser Ansatz gibt der KI mehr Möglichkeiten, Anfragen zu lösen. Entfernen oder deaktivieren Sie jedoch Tools und Themen, von denen Sie wissen, dass sie für den Agent irrelevant oder riskant sind, damit diese den Planer nicht verwirren. Eine kleinere Auswahl hochwertiger Optionen ist besser als eine umfassende Auswahl mit Überschneidungen. Überlappende Beschreibungen können dazu führen, dass der Agent mehrere Aktionen gleichzeitig ausführt, was möglicherweise nicht erwünscht ist.

• Vertrauen Sie dem Planer, im Rahmen des Zumutbaren: Sobald die Komponenten klar definiert sind, lassen Sie den Orchestrator mischen und anpassen. Wenn der Benutzer beispielsweise etwas fragt, das durch einen Wissensartikel oder eine Live-Daten-API beantwortet werden könnte, könnte der Planer beides verwenden – den Wissensartikel als Hintergrundinformation nutzen und die API für aktuelle Daten abfragen. Dieser Ansatz kann eine bessere Antwort liefern. Nutzen Sie diese Autonomie, aber achten Sie zu Beginn darauf, dass gute Entscheidungen getroffen werden.

• Behandeln mehrere Absichten: Wenn eine Benutzeranfrage zwei verschiedene Dinge verlangt (wie „ein neues Konto eröffnen und mir die Details senden“), versucht der generative Planer, beide zu erfüllen, indem er die relevanten Sequenzen nacheinander ausführt. Sie müssen die Verzweigung für mehrere Absichten nicht manuell skripten. Ihre Aufgabe als Entwickler ist es, sicherzustellen, dass jede Teilaufgabe (Kontoeröffnung, Details senden) von einem Tool oder Thema abgedeckt wird und dass deren Eingaben und Ausgaben bei Bedarf miteinander verbunden sind.

• Lassen Sie Wissen Themen und Tools ergänzen: Der Orchestrator kann proaktiv Wissenssuche aufrufen, nicht nur als Rückfall. Wenn Sie eine umfassende Wissensdatenbank konfiguriert haben, kann der Agent einen Teil einer Anfrage mit einem Ausschnitt aus einem Wissensartikel beantworten, selbst wenn eine Aktion einen anderen Teil abdeckt. Dieses Verhalten ist entwurfsbedingt. Halten Sie Ihre Wissensdatenbank mit Informationen auf dem neuesten Stand, die über Tools nicht leicht zugänglich sind.

• Achten Sie auf den Umfang der Wissensnutzung: Derzeit können Sie den Agent nicht zwingen, einen bestimmten Wissensartikel bei Bedarf zu verwenden. Die KI wählt relevante Artikel basierend auf der Anfrage aus. Beachten Sie auch die Einschränkungen. Zum Beispiel werden Systemthemen wie „Mehrere Themen gefunden“ im generativen Modus nicht verwendet, da der Planer die Themenabgrenzung anders handhabt. Erfahren Sie mehr über weitere bekannte Einschränkungen bei der generativen Orchestrierung.

Testen und Optimieren des orchestrierten Agents

Generative Orchestrierung verlagert einen Teil der Logik aus dem expliziten Design in das „Gehirn“ der KI. Iteratives Testen stellt sicher, dass sie wie vorgesehen funktioniert. Hier sind bewährte Methoden für das Testen und Verbessern Ihres orchestrierten Agents:

• Nutzen Sie die Aktivitätskarte: Copilot Studio stellt während des Testens eine Aktivitätskarte zur Verfügung, die die vom Orchestrator festgelegten Schritte zeigt. Nachdem Sie Ihrem Agent eine komplexe Anfrage gestellt haben, analysieren Sie den Plan: Welche Themen oder Aktionen wurden aufgerufen? In welcher Reihenfolge? Stellte es eine angemessene Anschlussfrage? Wenn der Agent das falsche Thema gewählt oder ein Tool übersehen hat, sollten Sie die Komponentenbeschreibungen verfeinern oder die Anweisungen anpassen.

• Überprüfen Sie Transkripte: Sobald der Agent veröffentlicht ist, überprüfen Sie regelmäßig Gesprächstranskripte oder Protokolle. Achten Sie auf Halluzinationen oder Ungenauigkeiten in den Antworten. Wenn Benutzer Feedback geben wie „Das ist nicht korrekt“, dann verfolgen Sie, warum der Agent das so hielt. Beheben Sie Probleme, indem Sie fehlende Fakten zur Wissensdatenbank hinzufügen, Anweisungen präzisieren oder in manchen Fällen ein neues Thema hinzufügen, um eine Lücke zu schließen. Weitere Informationen finden Sie in Extraktion und Analyse von Agent-Unterhaltungstranskripten (Referenzarchitektur).

• Iterieren Sie mit kleinen Änderungen: Sie können einen generativen Agent oft durch subtile Änderungen verbessern. Wenn zum Beispiel die Agentausgabe zu ausführlich oder nicht im gewünschten Format ist, passen Sie die Anweisungen zu Stil und Format an und testen Sie erneut. Wenn jedes Mal ein unnötiges Tool verwendet wird, ist die Beschreibung des Tools vielleicht zu allgemein und Sie können sie präzisieren, sodass das Tool nur dann aufgerufen wird, wenn es wirklich angebracht ist. Nehmen Sie jeweils eine Änderung vor und beobachten Sie die Auswirkungen auf die Entscheidungen des Agents.

• Geben Sie Beispieläußerungen (vorsichtig): Sie könnten feststellen, dass das Hinzufügen einiger Beispiel-Benutzeranfragen zur Beschreibung eines Themas dem LLM helfen kann, zu verstehen, wann es dieses Thema verwenden soll. Zum Beispiel: „Zweck: Benutzerpasswort zurücksetzen. Zum Beispiel könnte der Benutzer sagen: „Ich habe mein Passwort vergessen“ oder „Zugriff auf mein Contoso-Konto zurücksetzen.“ Diese Beispiele geben dem Modell zusätzliche Hinweise. Übertreiben Sie es nicht und halten Sie die Beschreibungen kurz und zielgerichtet. Das Modell hat bereits viel Kontext – stellen Sie nur sicher, dass Ihre Metadaten klar sind.

• Überwachen Sie Leistungskennzahlen: Mit zunehmender Nutzung sollten Sie wichtige Kennzahlen wie die Erfolgsquote (hat der Agent die Anfrage des Nutzers tatsächlich gelöst?), die Fallbackrate (wie oft sagt der Agent „Entschuldigung, ich kann dabei nicht helfen“), und die Nutzerzufriedenheit, sofern verfügbar, im Auge behalten. Selbst während der Testphase können einfache Zählungen, wie oft jedes Thema und jedes Tool verwendet wird, Hinweise auf erforderliche Anpassungen geben. Wenn beispielsweise ein triviales Smalltalk-Thema zu häufig verwendet wird und unnötige Interaktionen verursacht, deaktivieren Sie es oder verengen Sie dessen Beschreibung. Lesen Sie die Anleitungen, wie Sie die Leistung Ihrer Agents testen.

Generative Systeme lernen implizit aus Ihren Konfigurationen und Korrekturen. Jede Verbesserung von Anweisungen oder Metadaten macht die nächste Entscheidung der KI besser. Mit der Zeit wird Ihr orchestrierter Agent genauer und effizienter bei der Bearbeitung von Anfragen.

Benutzerdefinierte Trigger in der generativen Orchestrierung

Themen-Trigger sind speziell für die generative Orchestrierung verfügbar. Mit diesen Triggern können Sie sich in den Lebenszyklus des Agents einbinden und an kritischen Punkten des Orchestrierungsprozesses benutzerdefinierte Logik einfügen. Drei Hauptauslöser sind verfügbar:

Weitere generative Orchestrierungsfunktionen

Vertiefen Sie Ihr Verständnis des Orchestrierungsmodells von Copilot Studio mit fortschrittlichen Fähigkeiten, die erweitern, wie Agents planen, handeln und zusammenarbeiten:

• Entwerfen Sie autonome Agentfunktionen: Erstellen Sie Agents, die proaktiv handeln, indem sie Auslöser, Entscheidungsbereiche und Leitplanken nutzen.
• Entdecken Sie Muster der Mehragenten-Orchestrierung: Erfahren Sie, wie mehrere Agents sich koordinieren, Aufgaben delegieren und Kontext austauschen, um komplexe Arbeitsabläufe zu bewältigen.
• Integrieren Sie benutzerdefinierte Wissensquellen: Verwenden Sie den OnKnowledgeRequested Trigger, um Ihre eigenen Such-APIs und Datenquellen in den Wissensabruf des Agents einzubinden.

Verwandte Informationen

• Häufig gestellte Fragen zur Verwendung der generativen Orchestrierung
• Agent-Verhalten mit generativer KI orchestrieren
• Konfigurieren von hochwertigen Anweisungen für die generative Orchestrierung