Proteggere gli asset di intelligenza artificiale da minacce e vulnerabilità emergenti usando Microsoft Defender

L'adozione dell'intelligenza artificiale (IA) introduce nuove minacce alla sicurezza e vulnerabilità oltre i rischi posti dalle applicazioni tradizionali. L'IA espone nuove superfici di attacco tra gli agenti e le applicazioni di intelligenza artificiale, i modelli di intelligenza artificiale usati, i plug-in per queste risorse e le richieste e le risposte generative di IA.

Incorporando la sicurezza nell'infrastruttura di sviluppo e operazioni di IA, Microsoft consente di creare l'IA in modo responsabile e di adottare l'IA con sicurezza, su larga scala. Nell'ambito dell'approccio completo di Microsoft alla sicurezza dell'intelligenza artificiale, Microsoft Defender consente di individuare gli asset di intelligenza artificiale e di rilevare, bloccare e analizzare le minacce specifiche dell'intelligenza artificiale durante lo sviluppo, la configurazione e l'esecuzione del runtime.

Questo articolo offre una panoramica delle funzionalità di Microsoft Defender che consentono di proteggere gli asset di intelligenza artificiale da vulnerabilità e minacce emergenti.

Panorama delle minacce per l'intelligenza artificiale

Le minacce alla sicurezza dell'intelligenza artificiale si estendono sull'intero ciclo di vita dell'IA, dai rischi di compilazione e configurazione, ad esempio configurazioni non corrette e dipendenze non sicure, alle minacce di runtime che interessano gli agenti e le applicazioni di intelligenza artificiale.

I principali rischi per la sicurezza per gli asset di intelligenza artificiale includono:

  • Rischi del modello e della supply chain : i modelli da cui dipendono gli asset di intelligenza artificiale sono obiettivi di valore elevato. Una singola dipendenza compromessa nella supply chain di un modello può trasformare ogni agente e applicazione che si basa su di esso in un vettore di attacco per l'esfiltrazione delle credenziali, l'installazione di backdoor e la diffusione di vulnerabilità nell'infrastruttura.
  • Configurazione errata dell'agente e privilegi eccessivi : gli agenti con autorizzazioni eccessive o l'autenticazione degli strumenti configurata in modo non corretto possono consentire l'accesso non autorizzato alle risorse sensibili.
  • Uso improprio e uso improprio del runtime : agenti o applicazioni possono eseguire azioni non sicure in fase di esecuzione a causa di input dannosi, percorsi di ragionamento imprevisti o dipendenze compromesse.
  • Attacchi basati su prompt e contenuto : oltre agli input dannosi, tattiche più sottili, ad esempio attacchi con clic zero usando istruzioni nascoste incorporate nei messaggi di posta elettronica o contenuto recuperato, possono modificare il comportamento dell'agente, causare la perdita di dati o attivare azioni impreviste.

Per affrontare questi rischi sono necessari controlli di sicurezza che si estendono all'individuazione, alla gestione del comportamento, al rilevamento e alla protezione del runtime.

Proteggere gli asset di intelligenza artificiale nel ciclo di vita dell'intelligenza artificiale usando Microsoft Defender

Microsoft Defender consente ai team di sicurezza di affrontare i rischi di intelligenza artificiale durante il ciclo di vita dell'intelligenza artificiale fornendo visibilità sugli asset di intelligenza artificiale, valutandone il comportamento di sicurezza, rilevando e bloccando le minacce specifiche dell'IA e fornendo i segnali e il contesto necessari per analizzare le minacce, dal tempo di compilazione fino al ciclo di vita dell'agente e dell'applicazione di intelligenza artificiale, incluso il runtime.

Diagramma dei rischi del ciclo di vita dell'intelligenza artificiale, evidenziando l'utilizzo, il comportamento errato dell'agente, le perdite di dati e le minacce del modello.

Le sezioni seguenti descrivono come Microsoft Defender applica queste funzionalità a:

  • Gli agenti di intelligenza artificiale, in cui configurazione, autorizzazioni e comportamento di runtime, inclusi l'utilizzo degli strumenti e il processo decisionale degli agenti, introducono l'esposizione.
  • Applicazioni e infrastruttura di intelligenza artificiale, inclusi modelli, piattaforme, servizi e integrazioni, in cui i rischi della supply chain, la configurazione e i punti deboli della distribuzione possono creare percorsi di attacco più ampi.

Proteggere gli agenti di intelligenza artificiale usando Microsoft Defender

Gli agenti di intelligenza artificiale introducono rischi di sicurezza univoci grazie alla loro capacità di ragionare, richiamare strumenti, accedere ai dati e intraprendere azioni autonome sui sistemi connessi. La protezione degli agenti su larga scala richiede visibilità centralizzata, comportamento di sicurezza e gestione dei rischi, protezione di runtime e funzionalità di analisi avanzate per rilevare la causa radice di un attacco.

Microsoft Agent 365 offre un piano di controllo aziendale per la gestione e la governance degli agenti di intelligenza artificiale nell'organizzazione. Quando abiliti una licenza Agent 365, Microsoft Defender si integra con Agent 365 per proteggere tutti gli agenti gestiti, inclusi gli agenti AI locali sugli endpoint supportati. L'integrazione offre scoperta, gestione della postura, protezione in tempo reale e indagine. Il rilevamento delle minacce utilizza dati di osservabilità da Microsoft Copilot Studio, Microsoft Foundry, Microsoft 365 Copilot Agent Builder e agenti integrati tramite l'SDK Microsoft Agent 365.

Per iniziare, vedere Abilitare la sicurezza per gli agenti di intelligenza artificiale usando Microsoft Defender.

Capacità Descrizione Ulteriori informazioni
Individuazione dell'agente di intelligenza artificiale Individuare tutti gli agenti di cui è stato eseguito l'onboarding in Agent 365, inclusi gli agenti di intelligenza artificiale locali negli endpoint supportati e negli agenti non Microsoft creati usando l'SDK di Microsoft Agent 365. Visualizza i dettagli dell'agente tramite query Kusto Query Language (KQL) in Ricerca avanzata di Microsoft Defender oppure nella pagina Risorse di intelligenza artificiale nel portale Defender. Individuare gli agenti di intelligenza artificiale e valutare il comportamento di sicurezza usando Microsoft Defender
Gestione del comportamento di sicurezza dell'agente Usare Ricerca avanzata in Microsoft Defender, che fornisce query predefinite per identificare errori di configurazione, impostazioni dell'agente rischioso e autorizzazioni eccessive. Individuare gli agenti di intelligenza artificiale e valutare il comportamento di sicurezza usando Microsoft Defender
Protezione in tempo reale La protezione in tempo reale valuta le invocazioni e le risposte agli strumenti rispetto alle politiche di sicurezza quando gli agenti Agent 365 utilizzano Work IQ MCP e gli strumenti MCP del cliente integrati nell'Agent 365. La regola predefinita audit l'attività, mentre le regole personalizzate possono bloccare le azioni corrispondenti prima che vengano eseguite. Le attività auditate e bloccate sono registrate come comportamenti nella BehaviorInfo tabella per la caccia e l'automazione. Proteggere gli agenti di intelligenza artificiale in tempo reale usando Microsoft Defender
Rilevamento delle minacce, indagine e ricerca Le rilevazioni quasi in tempo reale analizzano i dati di osservabilità dell'Agent 365 per minacce come iniezione indiretta di prompt, tecniche di evasione, propagazione di contenuti dannosi, fuga di segreti, ricognizione di grandi modelli linguistici (LLM) e accesso IP sospetto. Microsoft Defender correla gli avvisi con gli incidenti, e Advanced Hunting permette agli analisti di interrogare l'attività degli agenti con altri dati di sicurezza. Rilevare e analizzare le minacce agli agenti di intelligenza artificiale usando Microsoft Defender

Proteggere l'infrastruttura di intelligenza artificiale usando Microsoft Defender

È fondamentale proteggere i modelli, i servizi e l'infrastruttura generativi di intelligenza artificiale da cui dipendono le applicazioni e gli agenti di intelligenza artificiale. I modelli compromessi, le configurazioni non sicure o le dipendenze esposte possono introdurre rischi della supply chain che influiscono su più carichi di lavoro di intelligenza artificiale.

Per informazioni sull'abilitazione della protezione dalle minacce per l'infrastruttura di intelligenza artificiale, vedere Abilitare la protezione dalle minacce per i servizi di intelligenza artificiale.

Questa tabella elenca le funzionalità Microsoft Defender che consentono di proteggere i modelli e le applicazioni generative di intelligenza artificiale:

Capacità Descrizione Ulteriori informazioni
Individuazione dell'infrastruttura di intelligenza artificiale Una visualizzazione unificata dell'infrastruttura di intelligenza artificiale dell'organizzazione, inclusi modelli distribuiti, servizi e risorse di intelligenza artificiale correlate. Gestione del comportamento di sicurezza dell'intelligenza artificiale
Gestione del comportamento di sicurezza dell'infrastruttura di intelligenza artificiale Identificare vulnerabilità e configurazioni errate tra gli artefatti di intelligenza artificiale, inclusi modelli, dipendenze, repository di codice e immagini del contenitore.

Usare le raccomandazioni di sicurezza predefinite e l'analisi del percorso di attacco per assegnare priorità alla correzione.

Valutare continuamente i modelli di intelligenza artificiale per i rischi per la sicurezza, ad esempio malware, operatori non sicuri, vulnerabilità di serializzazione e segreti esposti durante tutto il ciclo di vita dell'IA.		 Gestione del comportamento di sicurezza dell'intelligenza artificiale
Rilevamento delle minacce Rilevare le minacce che prendono di mira applicazioni di intelligenza artificiale generativa create con Microsoft Foundry, incluse attività sospette relative ai prompt e comportamenti di esecuzione anomali, con segnali contestuali evidenziati negli avvisi di sicurezza. Avvisi per i servizi di intelligenza artificiale
Analisi e ricerca delle minacce Le funzionalità di correlazione degli incidenti di Microsoft Defender e di Advanced Hunting aiutano gli addetti alla difesa a comprendere il contesto completo e la portata delle minacce all'infrastruttura di intelligenza artificiale. Analizzare gli eventi imprevisti e gli avvisi nel portale di Microsoft Defender

Passaggi successivi

Altre informazioni su queste funzionalità e su come usarle per proteggere gli asset di intelligenza artificiale:

  • Last updated on