Schützen von KI-Ressourcen vor neuen Bedrohungen und Sicherheitsrisiken mithilfe von Microsoft Defender

Die Einführung von künstlicher Intelligenz (KI) führt zu neuen Sicherheitsbedrohungen und Sicherheitsrisiken, die über die Risiken herkömmlicher Anwendungen hinausgehen. KI stellt neue Angriffsflächen für KI-Agents und -Anwendungen, die von ihnen verwendeten KI-Modelle, Plug-Ins für diese Ressourcen sowie generative KI-Eingabeaufforderungen und -antworten zur Verfügung.

Indem Microsoft Sicherheit in die Grundlage der KI-Entwicklung und des KI-Betriebs einbettet, ermöglicht das Unternehmen Ihnen, KI verantwortungsvoll zu entwickeln und KI mit Zuversicht in großem Maßstab einzuführen. Als Teil des umfassenden Ansatzes von Microsoft für die KI-Sicherheit hilft Ihnen Microsoft Defender, KI-Ressourcen zu entdecken und KI-spezifische Bedrohungen während der Entwicklung, Konfiguration und Laufzeitausführung zu erkennen, zu blockieren und zu untersuchen.

Dieser Artikel bietet eine Übersicht über die Microsoft Defender Funktionen, mit denen KI-Ressourcen vor Sicherheitsrisiken und neuen Bedrohungen geschützt werden können.

Die KI-Bedrohungslandschaft

KI-Sicherheitsbedrohungen erstrecken sich über den gesamten KI-Lebenszyklus, von Buildzeit- und Konfigurationsrisiken wie Fehlkonfigurationen und unsicheren Abhängigkeiten bis hin zu Laufzeitbedrohungen, die KI-Agents und -Anwendungen betreffen.

Zu den wichtigsten Sicherheitsrisiken für Ihre KI-Ressourcen gehören:

• Modell- und Lieferkettenrisiken : Die Modelle, von denen Ihre KI-Ressourcen abhängen, sind hochwertige Ziele. Eine einzelne kompromittierte Abhängigkeit in der Lieferkette eines Modells kann jeden Agent und jede Anwendung, die darauf angewiesen ist, in einen Angriffsvektor verwandeln, um Anmeldeinformationen zu exfiltrieren, Backdoors zu installieren und Sicherheitsrisiken in Ihrer Infrastruktur zu verbreiten.
• Agent-Fehlkonfiguration und Überberechtigung : Agents mit übermäßigen Berechtigungen oder falsch konfigurierter Toolauthentifizierung können nicht autorisierten Zugriff auf vertrauliche Ressourcen ermöglichen.
• Missbrauch und Fehlgebrauch zur Laufzeit - Agenten oder Anwendungen können zur Laufzeit aufgrund böswilliger Eingaben, unerwarteter Schlussfolgerungspfade oder kompromittierter Abhängigkeiten unsichere Aktionen ausführen.
• Prompt- und inhaltsbasierte Angriffe : Neben schädlichen Eingaben können subtilere Taktiken wie Zero-Click-Angriffe mit versteckten Anweisungen, die in E-Mails oder abgerufenen Inhalten eingebettet sind, das Verhalten des Agents manipulieren, Datenlecks verursachen oder unbeabsichtigte Aktionen auslösen.

Um diese Risiken zu bewältigen, sind Sicherheitskontrollen erforderlich, die die Ermittlung, die Statusverwaltung, die Erkennung und den Laufzeitschutz umfassen.

Schützen von KI-Ressourcen im gesamten KI-Lebenszyklus mithilfe von Microsoft Defender

Microsoft Defender unterstützt Sicherheitsteams bei der Bewältigung von KI-Risiken im gesamten KI-Lebenszyklus, indem sie Einblick in KI-Ressourcen bietet, deren Sicherheitsstatus bewertet, KI-spezifische Bedrohungen erkennt und blockiert und die Signale und den Kontext bereitstellt, die für die Untersuchung von Bedrohungen erforderlich sind – von der Buildzeit über den Ki-Anwendungs- und Agent-Lebenszyklus einschließlich der Laufzeit.

In den folgenden Abschnitten wird beschrieben, wie Microsoft Defender diese Funktionen auf folgendes anwendet:

• KI-Agents, bei denen Konfiguration, Berechtigungen und Laufzeitverhalten – einschließlich Toolnutzung und Agent-Entscheidungsfindung – zur Offenlegung führen.
• KI-Anwendungen und -Infrastruktur, einschließlich Modellen, Plattformen, Diensten und Integrationen, bei denen Lieferkettenrisiken, Konfigurations- und Bereitstellungsschwächen zu umfassenderen Angriffspfaden führen können.

Schützen von KI-Agents mithilfe von Microsoft Defender

KI-Agents führen aufgrund ihrer Fähigkeit, Tools aufzurufen, auf Daten zuzugreifen und autonome Aktionen auf verbundenen Systemen durchzuführen, eindeutige Sicherheitsrisiken ein. Die Absicherung von Agenten in großem Maßstab erfordert zentrale Transparenz, die Verwaltung des Sicherheitsstatus und des Risikos, Laufzeitschutz sowie erweiterte Funktionen zur Untersuchung, um die Grundursache eines Angriffs zu ermitteln.

Microsoft Agent 365 bietet eine Unternehmenssteuerungsebene zum Verwalten und Verwalten von KI-Agents in Ihrer Organisation. Wenn Sie eine Agent 365-Lizenz aktivieren, integriert sich Microsoft Defender mit Agent 365, um alle verwalteten Agenten zu sichern, einschließlich lokaler KI-Agenten auf unterstützten Endpunkten. Die Integration bietet Entdeckung, Statusmanagement, Echtzeitschutz und Untersuchung. Die Bedrohungserkennung verwendet Beobachtbarkeitsdaten von Microsoft Copilot Studio, Microsoft Foundry, Microsoft 365 Copilot Agent Builder und Agenten, die über das Microsoft Agent 365 SDK integriert sind.

Informationen zu den ersten Schritten finden Sie unter Aktivieren der Sicherheit für KI-Agents mit Microsoft Defender.

Schützen der KI-Infrastruktur mithilfe von Microsoft Defender

Es ist wichtig, die generativen KI-Modelle, -Dienste und -Infrastruktur zu schützen, von denen KI-Anwendungen und -Agents abhängig sind. Kompromittierte Modelle, unsichere Konfigurationen oder verfügbar gemachte Abhängigkeiten können zu Lieferkettenrisiken führen, die sich auf mehrere KI-Workloads auswirken.

Informationen zum Aktivieren des Bedrohungsschutzes für ki-Infrastruktur finden Sie unter Aktivieren des Bedrohungsschutzes für KI-Dienste.

In dieser Tabelle sind die Microsoft Defender Funktionen aufgeführt, die zur Sicherung von generativen KI-Modellen und -Anwendungen beitragen:

Nächste Schritte

Erfahren Sie mehr über diese Funktionen und deren Verwendung zum Schützen Ihrer KI-Ressourcen:

• KI-Agenten erkennen und den Sicherheitsstatus mit Microsoft Defender bewerten

• Erkennen und Untersuchen von Bedrohungen für KI-Agents mithilfe von Microsoft Defender

• Schützen von KI-Agents in Echtzeit mithilfe von Microsoft Defender

• Microsoft-Sicherheit für KI