Erste Schritte mit dem Entwerfen von KI-Architekturen

KI ermöglicht Es Computern, Daten zu analysieren, Inhalte zu generieren, Sprache zu synthetisieren, Vorhersagen zu treffen und Entscheidungsfindung in allen Branchen zu unterstützen. Da KI-Funktionen durch generative Modelle, Sprachmodelle und agentbasierte Architekturen erweitert werden, benötigen Organisationen Architekturanleitungen, um zuverlässige, sichere, kostengünstige und betriebsstabile KI-Workloads zu entwerfen.

Dieser Artikel hilft Ihnen bei den ersten Schritten mit KI auf Azure. Es führt KI-Dienste, Referenzarchitekturen, bewährte Methoden und Lernressourcen ein, damit Sie KI-Lösungen entwerfen und erstellen können, die Ihren Workloadanforderungen entsprechen.

Azure Dienste für KI

Azure bietet eine Reihe von Diensten zum Erstellen, Bereitstellen und Verwalten von KI-Workloads. Diese Dienste umfassen Entwicklungsplattformen, vorgefertigte KI-Funktionen, Datenplattformen und Tools zum Erstellen von benutzerdefinierten Modellen. Verwenden Sie die folgenden Dienste, um KI in Ihr Workloaddesign zu integrieren.

KI-Entwicklungsplattformen

• Microsoft Foundry: Eine einheitliche Plattform als Dienst (PaaS) für die Entwicklung und Bereitstellung von generativen KI-Anwendungen und -Agents. Microsoft Foundry bietet Zugriff auf einen Modellkatalog, Agenthosting über foundry Agent Service, Feinabstimmung, Auswertungstools und verantwortungsvolle KI-Funktionen. Verwenden Sie das Foundry-Portal , um KI-Modelle und -Agents zu experimentieren, zu erstellen und bereitzustellen.

• Azure Machine Learning: Ein Clouddienst zum Erstellen, Trainieren und Bereitstellen von Machine Learning-Modellen im großen Maßstab. Azure Machine Learning unterstützt Open-Source-Frameworks wie PyTorch, TensorFlow und scikit-learn. Darüber hinaus bietet es Funktionen für AutoML, Hyperparameteroptimierung, verteilte Schulungen, Machine Learning-Vorgänge und verantwortungsvolle KI.

• Microsoft Copilot Studio: Eine Low-Code-Plattform zum Erstellen, Anpassen und Bereitstellen von KI-basierten Agents. Verwenden Sie Microsoft Copilot Studio, um Unterhaltungs-Agents für interne und externe Szenarien zu erstellen und Microsoft 365 Copilot mit Unternehmensdaten und benutzerdefinierten Workflows zu erweitern.

Vorgefertigte KI-Dienste

• Foundry Tools: Eine Suite vordefinierter und anpassbarer APIs und Modelle zum Hinzufügen intelligenter Features zu Anwendungen. Die Foundry Tools umfassen Funktionen für Sprache, Übersetzung, Sprachverständnis, Dokumentintelligenz, Inhaltsverständnis, Vision, Inhaltssicherheit und Suche.

• Azure OpenAI: Bietet Zugriff auf OpenAI-Modelle, einschließlich GPT und DALL-E, über Azure verwaltete Infrastruktur mit Unternehmenssicherheit, Netzwerk und verantwortlichen KI-Kontrollen.

Datenplattformen für KI

• Microsoft Fabric: Eine End-to-End-Analyse- und Datenplattform, die Datenaufnahme, Transformation, Echtzeitereignisrouting und Berichterstellung umfasst. Microsoft Fabric bietet OneLake als einheitlicher Data Lake und umfasst eingebettete KI-Funktionen, Microsoft Copilot Features und integration in Foundry Tools.

• Azure Databricks: Eine Spark-basierte Analyseplattform für Datentechnik, Data Science und maschinelles Lernen. Azure Databricks stellt Databricks Runtime für Azure Machine Learning, MLflow-Integration, AutoML, die Feinabstimmung von Foundation-Modellen und Mosaic AI Vector Search für embeddingbasierte Suche bereit.

• Azure HDInsight: Ein verwalteter Apache Spark-Dienst für die Verarbeitung und Analyse von Big Data. Azure HDInsight Spark-Cluster unterstützen Machine Learning Workloads über MLlib, sind mit Azure Storage und Azure Data Lake Storage kompatibel und unterstützen SynapseML für Deep Learning.

• Azure Data Lake Storage: Ein skalierbares, zentralisiertes Repository zum Speichern strukturierter und unstrukturierter Daten. Azure Data Lake Storage bietet Dateisystemsemantik, Sicherheit auf Dateiebene und mehrstufigen Speicher basierend auf Azure Blob Storage.

Enterprise Intelligence-Ebenen

Die KI-Architektur von Microsoft führt drei ergänzende Intelligenzebenen oder IQs ein, die wichtige Kontextquellen für KI-Systeme darstellen:

• Work IQ erfasst Informationen dazu, wie die Arbeit innerhalb einer Organisation erfolgt. Es verwendet Signale von Microsoft 365 wie E-Mails, Chats, Besprechungen, Dokumenten und Zusammenarbeitsmustern.

  Diese Ebene ist für die Erdung von KI in menschlichem Aktivitäts- und Organisationsverhalten unerlässlich, anstatt Interaktionen als isolierte Eingabeaufforderungen zu behandeln.

• Fabric IQ bietet Informationen, die von strukturierten Unternehmensdaten abgeleitet werden, die in Microsoft Fabric verwaltet werden, einschließlich Analysemodellen, Key Performance Indicators (KPIs) und Geschäftseinheiten.

  Fabric IQ ermöglicht KI, komplexe analytische Fragen zu beantworten und Ergebnisse im Kontext von Geschäftsvorgängen zu interpretieren.

• Foundry IQ bietet eine einheitliche, multisource Wissensschicht, mit der KI-Agenten Antworten in Unternehmensdaten abrufen und bodenieren können.

  Diese Ebene ist entscheidend für die Umsetzung von Ansätzen wie Retrieval-Augmented Generation (RAG), um sicherzustellen, dass KI-generierte Ausgaben korrekt, aktuell und regelkonform sind.

Architecture

Das folgende Diagramm zeigt eine grundlegende End-to-End-Chatarchitektur, die Microsoft Foundry verwendet. Diese Referenzarchitektur veranschaulicht, wie KI-Dienste eine produktionsfähige Lösung für Azure umfassen. Es umfasst Identitäts-, Netzwerk-, Überwachungs- und Governanceebenen.

Laden Sie eine Visio-Datei dieser Architektur herunter.

Das vorherige Diagramm zeigt eine typische grundlegende KI-Implementierung. Informationen zu praxisnahen Lösungen, die Sie in Azure erstellen können, finden Sie unter KI-Architekturen.

Erkunden von KI-Architekturen und Leitfäden

Die Artikel in diesem Abschnitt enthalten Leitfäden und vollständig entwickelte Architekturen, die Sie in Azure bereitstellen und auf Lösungen auf Produktionsniveau erweitern können. Lösungsideen veranschaulichen Implementierungsmuster und -möglichkeiten, wenn Sie Ihre KI-Machbarkeitsstudie (POC)-Entwicklung planen. Diese Artikel können Ihnen dabei helfen, zu entscheiden, wie Sie KI-Technologien in Azure einsetzen.

• Übersicht über KI-Technologien: Bietet eine Übersicht über KI-Konzepte, Entwicklungsplattformen und Architekturmuster, die Ihnen beim Entwerfen von KI-Workloads auf Azure helfen.

Auswählen eines KI-Diensts

In den folgenden Artikeln können Sie die besten KI-Technologien für Ihre Workloadanforderungen bewerten und auswählen:

• Wählen Sie eine KI-Diensttechnologie aus: Vergleicht KI-Dienste und Maschinelle Lernlösungen, um Ihnen bei der Auswahl des richtigen Dienstes oder Modells für Ihren Anwendungsfall zu helfen.

• Wählen Sie eine Azure KI-Zielsprachenverarbeitungstechnologie aus: Vergleicht Azure Dienste für gezielte Sprachverarbeitungsaufgaben wie Übersetzung, Entitätserkennung und Textanalyse.

• Wählen Sie eine Azure Technologie zur Spracherkennung und -generierung aus: Vergleicht Azure Dienste für Sprach-zu-Text-, Text-zu-Sprache- und Sprachübersetzungsszenarien.

• Wählen Sie eine Azure KI-Bild- und Videoverarbeitungs- und Generierungstechnologie aus: Vergleicht Azure Dienste für Bild- und Videoanalyse, Generierung und Verarbeitung.

• Wählen Sie eine Technologie für die Verarbeitung natürlicher Sprachen aus: Vergleicht Azure Technologien für die Verarbeitung natürlicher Sprachen, um Ihnen bei der Auswahl der richtigen Plattform für Textverständnis- und Generierungsaufgaben zu helfen.

• Microsoft KI- und Machine Learning-Produkte: Vergleicht Microsoft Machine Learning-Produkte, um Ihnen bei der Auswahl einer Plattform zum Erstellen, Bereitstellen und Verwalten von KI-Anwendungen, Agents und Machine Learning-Modellen zu helfen.

• Wählen Sie das richtige KI-Modell für Ihre Workload aus: Beschreibt Strategien für die Auswahl des richtigen KI-Modells aus den vielen verfügbaren Optionen für die Bereitstellung.

KI-Lösungsideen

Die folgenden KI-Lösungsideen zeigen Implementierungsmuster und Möglichkeiten zur Erkundung.

Ideen zur Audioverarbeitungslösung

• Erkenntnisse aus Gesprächsdaten gewinnen: Extrahiert umsetzbare Erkenntnisse aus Gesprächsaudiodaten.

Bildverarbeitung

• Bildklassifizierung: Klassifiziert Bilder mithilfe intelligenter Anwendungsmuster.

Prädiktive Analytik

• Kundenauftragsprognose: Prognostiziert zukünftige Kundenbestellungen mithilfe von maschinellem Lernen.

MLOps-Lösungsideen

• Verwenden Sie Azure Databricks, um maschinelle Lernvorgänge zu koordinieren: Koordiniert maschinelle Lernvorgänge mithilfe von Azure Databricks.

• Viele Modelle mit Machine Learning: Trainiert und verwaltet viele Modelle in großem Umfang mithilfe von Azure Machine Learning.

Dokumentverarbeitung und -anreicherung

• Extrahieren und zuordnen von Informationen aus unstrukturierten Inhalten: Extrahiert und ordnet Informationen aus multimodalen unstrukturierten Inhalten zu.

• Generieren Sie Dokumente aus Ihren Daten: Generiert strukturierte Dokumente aus Datenquellen.

• Verwenden Sie KI-Anreicherung mit Azure KI-Suche: Bereichern Sie Inhalte mithilfe von KI-Fähigkeiten in Azure KI-Suche Indizierungspipelinen.

Workflow-Automatisierung

• Erstellen Sie eine Automatisierungslösung mit mehreren Agent-Workflows mithilfe von Microsoft Agent Framework: Automatisiert Workflows mithilfe mehrerer AI-Agents, die über Microsoft Agent Framework orchestriert werden.

KI-Architekturen

Die folgenden produktionsbereiten Architekturen veranschaulichen End-to-End-KI-Lösungen, die Sie bereitstellen und anpassen können.

Chatten mit Daten

• Grundlegende Microsoft Foundry-Chatreferenzarchitektur: Eine grundlegende RAG-Chatarchitektur, die Microsoft Foundry und Azure OpenAI verwendet.

• Baseline-Referenzarchitektur für Microsoft Foundry-Chat: Eine produktionsbereite End-to-End-Chatarchitektur, die Microsoft Foundry mit Unternehmenssicherheit, -netzwerken und -überwachung verwendet.

• Microsoft Foundry-Basisarchitektur für Chats in einer Azure-Landing Zone: Stellt die Microsoft Foundry-Basisarchitektur für Chats in einer Azure-Landing Zone für Governance im Unternehmensmaßstab bereit.

Dokumentenverarbeitung

• Automatisieren der Dokumentklassifizierung: Verwendet Durable Functions, um Dokumentklassifizierungsworkflows zu automatisieren.

• Automatisieren der PDF-Formularverarbeitung: Automatisiert die Extraktion und Verarbeitung von Daten aus PDF-Formularen.

• Erstellen von benutzerdefinierten Dokumentverarbeitungsmodellen: Erstellt und stellt benutzerdefinierte Modelle für Dokumentverarbeitungsszenarien bereit.

• Extrahieren Sie Text aus Objekten mithilfe von Power Automate und AI Builder: Extrahiert Text aus Objekten mithilfe von Power Automate- und KI-Funktionen.

• Mehrere Indexer mit Azure KI-Suche: Verwendet mehrere Indexer zum Verarbeiten und Indizieren von Blobmetadaten mithilfe von Azure KI-Suche.

Video- und Bildklassifizierung

• Automatisieren Sie die Videoanalyse: Analysiert Videoinhalte mithilfe von Computervision und maschinellem Lernen.

Audioverarbeitungsarchitekturen

• Callcenter-Daten extrahieren und analysieren: Extrahiert und analysiert Callcenter-Unterhaltungen mithilfe von Azure OpenAI.

Regulatory

• Sichere Recherche für regulierte Daten: Bietet eine sichere Computeumgebung für Forschungsarbeitslasten, die regulierte Daten verarbeiten.

KI-Leitfäden

• Dynamische KI-Agenten als Skalierungsmuster: Beschreibt, wie KI-Agenten dynamisch aus einem Pool ausgewählt und orchestriert werden, um mithilfe von Microsoft Foundry, Azure KI-Suche und Azure OpenAI Multi-Agenten-Systeme zu erstellen.

• Microsoft KI- und Machine Learning-Produkte: Vergleicht Microsoft Machine Learning-Produkte, um Ihnen bei der Auswahl einer Plattform zum Erstellen, Bereitstellen und Verwalten von KI-Anwendungen, Agents und Machine Learning-Modellen zu helfen.

• Ki-Agent-Orchestrierungsmuster: Beschreibt Entwurfsmuster für die Orchestrierung von KI-Agents in komplexen Szenarien.

• Entwerfen Sie eine sichere Multiplikator-RAG-Inferencing-Lösung: Bietet Anleitungen zum Sichern von RAG-Lösungen in multitenanten Umgebungen.

• Entwerfen zur Unterstützung von Lebenszyklen von Foundation Models: Bietet Anleitungen zum Verwalten von Updates, Veraltungen und Übergängen von Foundation Models.

Entwicklung und Evaluierung von RAG-Lösungen

• Entwerfen und Entwickeln einer RAG-Lösung: Bietet einen Überblick über das Entwerfen und Bewerten von RAG-Lösungen.

• Vorbereitungsphase: Deckt die Datenvorbereitung für RAG-Implementierungen ab.

• Chunking-Phase: Beschreibt Strategien zur Aufteilung von Inhalten in RAG-Pipelines.

• Phase der Blockanreicherung: Behandelt Anreicherungstechniken, die auf Inhaltsblöcke angewendet werden.

• Einbettungsphase: Beschreibt, wie Einbettungen für den RAG-Abruf generiert werden.

• Informationsabrufphase: Deckt Strategien zum Abrufen von Informationen in RAG-Architekturen ab.

• Prompt Engineering: Beschreibt, wie effektive Aufforderungen für RAG-Lösungen erstellt werden, einschließlich Promptstruktur, Erdungstechniken und Kontextverwaltung.

• End-to-End-Evaluierungsphase des Modells: Beschreibt, wie RAG-Modelle End-to-End bewertet werden.

• Agentic RAG: Beschreibt, wie man von einer Standard-RAG-Pipeline zu einer agentischen RAG-Architektur für die dynamische Abfrageplanung und die mehrstufige Begründung wechselt.

MLOps-Leitfäden

• Machine Learning-Vorgänge: Beschreibt den v2-Ansatz für maschinelles Lernen zur Operationalisierung von Maschinellen Lernworkflows.

• Generative KI-Vorgänge für Organisationen mit MLOps-Investitionen: Erweitert Methoden für maschinelles Lernen auf generative KI-Workloads.

• MLOps-Reifemodell: Definiert Reifestufen für die Einführung von maschinellen Lernvorgängen.

Proxy-generative KI-Modelle

• Verwenden Sie ein Gateway vor generativen Modellen: Beschreibt die Vorteile und Architektur der Platzierung eines Gateways vor generativen AI-Modellendpunkten.

• Verwenden Sie ein Gateway vor mehreren Modellbereitstellungen oder Instanzen: Erweitert das Gatewaymuster, um Anforderungen über mehrere Modell-Back-Ends weiterzuleiten.

• Bereitstellen einer benutzerdefinierten Authentifizierung für Foundry-Modelle über ein Gateway: Implementiert benutzerdefinierte Authentifizierungsflüsse für den Modellzugriff über ein Gateway.

• Implementieren Sie erweiterte Überwachung für Foundry Models über ein Gateway: Fügt Überwachung und Observierbarkeit zum generierenden KI-Modelldatenverkehr über ein Gateway hinzu.

Organisationsbereitschaft

Organisationen zu Beginn des Cloudakzeptanzprozesses können die Cloud Adoption Framework für Azure verwenden, um auf bewährte Anleitungen zuzugreifen, die die Cloudakzeptanz beschleunigen.

Anleitungen zur KI-spezifischen Einführung finden Sie in den folgenden Cloud Adoption Framework Ressourcen:

• KI-Einführung: Bietet einen strukturierten Prozess für die Einführung von KI-Lösungen in Azure, einschließlich Strategie, Planung, Bereitschaft, Governance, Sicherheit und Management.

• KI bereit: Beschreibt den Organisatorischen Prozess zum Erstellen von KI-Workloads in Azure, einschließlich Ressourcenorganisation, Netzwerk, Zuverlässigkeit und Governance.

Um die Qualität Ihrer KI-Lösung auf Azure zu gewährleisten, befolgen Sie die Anleitungen im Azure Well-Architected Framework. Das Well-Architected Framework bietet präskriptive Anleitungen für Organisationen, die architektonische Exzellenz anstreben, und beschreibt, wie Sie kostenoptimierte Azure Lösungen entwerfen, bereitstellen und überwachen können.

Eine KI-spezifische Anleitung finden Sie in der folgenden Well-Architected Framework-Ressource:

• KI-Workloads auf Azure: Behebt architekturrelevante Herausforderungen beim Entwerfen von KI-Workloads, einschließlich nicht deterministischer Funktionalität, Daten- und Anwendungsentwurf sowie Vorgänge in den fünf Well-Architected Framework-Säulen.

Informationen zu KI-bezogenen Well-Architected Framework-Diensthandbüchern finden Sie unter:

• Azure Machine Learning
• Azure Databricks

Bewährte Methoden

Befolgen Sie diese bewährten Methoden, um die Zuverlässigkeit, Sicherheit, Kosteneffizienz, betriebliche Qualität und Leistung Ihrer KI-Workloads auf Azure zu verbessern:

• Entwerfen und Entwickeln einer RAG-Lösung: Folgen Sie einem strukturierten, phasenweisen Ansatz zum Entwerfen von RAG-Lösungen, einschließlich Blöcken, Einbetten, Abrufen von Informationen und End-to-End-Auswertung.

• Wählen Sie einen Azure-Dienst für die Vektorsuche aus: Bewerten Sie Azure-Dienste, die Vektorsuche unterstützen, um die beste Lösung für Ihre Abruf- und Ähnlichkeitssuchanforderungen zu finden.

• Orchestrierungsmuster für KI-Agenten: Erfahren Sie mehr über bewährte Orchestrierungsmuster für Architekturen, die mehrere Agenten verwenden, einschließlich sequenzieller, paralleler, Gruppenchat-, Übergabe- und Magentic-Muster. Überprüfen Sie die Implementierungsüberlegungen für Zuverlässigkeit, Sicherheit, Kosten und Beobachtbarkeit.

• Verwenden Sie ein Gateway vor generativen KI-Modellen: Implementieren Sie Gateway-Muster für Proxying, Lastenausgleich und die Überwachung von Endpunkten generativer Modelle.

• Machine Learning Operations v2: Anwenden von Lebenszyklusanleitungen für End-to-End-Machine Learning-Vorgänge für Schulungen, Bereitstellungen und Verwalten von Machine Learning-Modellen im großen Maßstab.

• Generative KI-Vorgänge mit maschinellen Lernvorgängen: Erweitern Sie Methoden für maschinelles Lernen auf generative KI-Workloads, einschließlich Promptverwaltung, Auswertung und Bereitstellung.

• Entwerfen Sie eine sichere Multiplikator-RAG-Inferencing-Lösung: Wenden Sie Mehrinstanzenmuster für RAG-Lösungen an, die die Datenisolation erzwingen und eine sichere Ableitung über Mandanten hinweg erzwingen.

• Entwerfen zur Unterstützung von Lebenszyklen von Foundation Models: Verwalten Sie die Modellversionsverwaltung, -veraltung und -rotation, um KI-Workloads aktuell und resilient zu halten.

• Machine Learning-Optionen: Vergleichen Sie maschinelles Lernen und Bereitstellungsoptionen in Azure, um die richtigen Dienste für Ihre Workload auszuwählen.

• Apache Spark-Richtlinien: Überprüfen Sie Richtlinien für das Ausführen, Überwachen, Debuggen und Optimieren von Apache Spark-Aufträgen auf Azure HDInsight.

Bleiben Sie mit KI auf dem Laufenden

Azure AI Services entwickeln sich weiter, um moderne Herausforderungen im Datenbereich zu bewältigen. Informieren Sie sich über die neuesten Updates und Features.

Wenn Sie mit wichtigen KI-Diensten auf dem laufenden bleiben möchten, lesen Sie die folgenden Artikel:

• Neuerungen in Azure OpenAI in Foundry Models: Enthält eine Zusammenfassung der neuesten Versionen und Dokumentationsupdates für Azure OpenAI, einschließlich neuer Modellverfügbarkeit, API-Versionen und Featureankündigungen.

• Neuigkeiten in Microsoft Foundry: Hebt wichtige Artikel und Produktupdates in Microsoft Foundry hervor, darunter Agent-Governance, Observability-Features und neue Funktionen.

• Neuerungen in Azure KI-Suche: Umfasst die neuesten Updates für Azure KI-Suche Funktionen, einschließlich neuer API-Versionen, agentischer Abruffunktionen und Indizierungsfunktionen.

• Neuerungen in Azure Sprache in Foundry Tools: Umfasst Updates für Azure Sprache in Foundry Tools-Funktionen, einschließlich neuer SDK-Versionen, Orchestrierungsworkflows und Microsoft Foundry-Integration.

• Neuerungen in Microsoft Fabric: Umfasst Updates über Microsoft Fabric Funktionen hinweg, einschließlich Data Science, MLflow-Integration, Daten-Agents und Analysefunktionen.

• Azure Machine Learning CLI- und SDK-Versionshinweise: Enthält Versionshinweise für die Azure Machine Learning CLI (v2) und Python SDK, einschließlich neuer Features, Fehlerbehebungen und grundlegende Änderungen.

• Versionshinweise zur Azure Databricks-Plattform: Behandelt Updates zur Azure Databricks-Plattform, einschließlich Laufzeitversionen, Workspace-Features und Integrationsmöglichkeiten.

• Neuerungen in Microsoft Copilot Studio: Hebt neue Features und Updates für Microsoft Copilot Studio hervor, einschließlich Agent-Erstellungsfunktionen und Connectorupdates.

• Neuerungen in Azure Document Intelligence in Foundry Tools: Behandelt Aktualisierungen zu Azure Document Intelligence in Foundry Tools, einschließlich neuer vorgefertigter Modelle, API-Versionen und Extraktionsfunktionen.

• Neuerungen in Azure Inhaltsverständnis in Foundry Tools: Umfasst Updates für Azure Inhaltsverständnis in Foundry Tools, einschließlich neuer Inhaltsanalysefeatures und Microsoft Foundry-Integration.

Amazon Web Services (AWS) oder Google Cloud Professionals

Damit Sie schnell hochfahren können, vergleichen die folgenden Artikel Azure KI-Optionen mit anderen Clouddiensten:

• Daten und KI: Vergleicht AWS-Daten und KI-Dienste, einschließlich Maschinelles Lernen, generative KI- und KI-Plattformdienste, mit ihren Azure Gegenstücken.

• KI und maschinelles Lernen: Vergleicht Google Cloud AI- und Machine Learning-Dienste, einschließlich Vertex AI, Dialogflow und Gemini, mit ihren Azure Gegenstücken.