Modello di responsabilità condivisa di intelligenza artificiale

Mentre consideri e valuti l'integrazione abilitata dall'IA, è fondamentale comprendere il modello di responsabilità condivisa e quali compiti gestisce la piattaforma o il fornitore di applicazioni IA e quali gestisci tu. Le responsabilità del carico di lavoro variano a seconda che l'integrazione dell'IA si basi su software come servizio (SaaS), su piattaforma come servizio (PaaS) o su infrastruttura come servizio (IaaS).

Divisione di responsabilità

Come per i servizi cloud, esistono molteplici opzioni quando implementi capacità di IA per la tua organizzazione. A seconda dell'opzione scelta, si assume la responsabilità di diverse parti delle operazioni e dei criteri necessari per usare l'intelligenza artificiale in modo sicuro.

Il diagramma seguente illustra le aree di responsabilità tra l'utente e Microsoft in base al tipo di distribuzione.

Panoramica del livello di intelligenza artificiale

Un'applicazione abilitata all'IA è composta da tre livelli di funzionalità che raggruppano le attività che tu o un fornitore di IA svolgete. Le responsabilità di sicurezza ricadono generalmente nella parte che svolge i compiti, ma un fornitore di IA potrebbe scegliere di esporre la sicurezza o altri controlli come opzione di configurazione a te, se appropriato. Questi tre livelli includono:

Piattaforma per intelligenza artificiale

Il livello di piattaforma dell’intelligenza artificiale fornisce le funzionalità di intelligenza artificiale alle applicazioni. A livello della piattaforma, devi costruire e proteggere l'infrastruttura che gestisce il modello AI, i dati di addestramento e configurazioni specifiche che modificano il comportamento del modello, come pesi e bias. Questo livello di piattaforma offre accesso alle funzionalità tramite API. Le API passano un testo noto come metaprompt al modello AI per l'elaborazione, poi restituiscono il risultato generato, noto come prompt-response.

Considerazioni sulla sicurezza delle piattaforme di IA - Per proteggere la piattaforma AI da input dannosi, un sistema di sicurezza deve filtrare le istruzioni potenzialmente dannose inviate al modello di IA (input). Poiché i modelli di IA sono generativi, possono anche generare e restituire contenuti dannosi all'utente (output). Qualsiasi sistema di sicurezza deve prima proteggere da input e output potenzialmente dannosi di molte categorie, tra cui odio, evasioni e altri danni. Queste classificazioni dei danni probabilmente si evolveranno nel tempo in base alle conoscenze del modello, alla località e al settore.

Microsoft dispone di sistemi di sicurezza predefiniti per le offerte PaaS e SaaS:

• PaaS - Servizio OpenAI di Azure
• SaaS - Microsoft Security Copilot

Applicazione di intelligenza artificiale

L'applicazione di intelligenza artificiale accede alle funzionalità di intelligenza artificiale e fornisce il servizio o l'interfaccia usata dall'utente. I componenti di questo livello possono variare da relativamente semplici a molto complessi, a seconda dell'applicazione. Le applicazioni IA autonome più semplici agiscono come interfaccia per un insieme di API che prendono un prompt utente testuale e passano quei dati al modello per una risposta. Le applicazioni di IA più complesse includono la capacità di mettere a terra il prompt utente con un contesto aggiuntivo, tra cui uno strato di persistenza, indice semantico o plugin che permettono l'accesso a più fonti di dati. Le applicazioni avanzate di intelligenza artificiale potrebbero anche interfacciarsi con applicazioni e sistemi esistenti. Le applicazioni e i sistemi esistenti potrebbero elaborare testo, audio e immagini per generare vari tipi di contenuti.

Considerazioni sulla sicurezza delle applicazioni IA - Costruire un sistema di sicurezza applicativa per proteggere l'applicazione AI da attività dannose. Il sistema di sicurezza fornisce un'ispezione approfondita dei contenuti utilizzati nel metaprompt inviato al modello AI. Il sistema di sicurezza ispeziona anche le interazioni con eventuali plugin, connettori dati e altre applicazioni di IA (note come orchestrazione AI). Un modo per integrare questo nella tua applicazione AI basata su IaaS/PaaS è utilizzare il servizio Sicurezza dei contenuti di Azure AI. Altre funzionalità sono disponibili a seconda delle esigenze.

Utilizzo dell'intelligenza artificiale

Il livello di utilizzo dell'intelligenza artificiale descrive come vengono usate e consumate le funzionalità dell'intelligenza artificiale. L'IA generativa offre un nuovo tipo di interfaccia utente/computer, che è fondamentalmente diversa da altre interfacce informatiche, come API, prompt dei comandi e interfacce grafiche utente (GUI). L'interfaccia dell'intelligenza artificiale generativa è sia interattiva che dinamica, consentendo in tal modo alle funzionalità del computer di adattarsi all'utente e alle sue finalità. L'interfaccia di intelligenza artificiale generativa è in contrasto con le interfacce precedenti che impongono principalmente agli utenti di apprendere la progettazione e le funzionalità del sistema e adattarla. Questa interattività consente l'input dell'utente, piuttosto che dei progettisti di applicazioni, di avere un alto livello di influenza sull'output del sistema, rendendo le barriere di sicurezza fondamentali per proteggere persone, dati e asset aziendali.

Considerazioni sulla sicurezza dell'uso dell'IA - Proteggere l'uso dell'IA è simile a proteggere qualsiasi sistema informatico perché si basa su garanzie di sicurezza per i controlli di identità e accesso, la protezione e il monitoraggio dei dispositivi, la protezione e la governance dei dati, i controlli amministrativi e altri controlli.

Il comportamento e la responsabilità dell'utente richiedono maggiore enfasi perché gli utenti esercitano maggiore influenza sull'output dei sistemi. È fondamentale aggiornare le politiche di utilizzo accettabile e informare gli utenti sulle differenze tra le applicazioni IT standard e quelle abilitate all'IA. Le politiche di uso accettabile dovrebbero includere considerazioni specifiche per l'IA relative a sicurezza, privacy ed etica. Inoltre, educa gli utenti sugli attacchi basati sull'IA che gli attaccanti possono usare per ingannarli con testi falsi convincenti, voci, video e altro ancora.

Le seguenti risorse definiscono i tipi di attacco specifici per l'IA:

• Classificazione della gravità della vulnerabilità di Microsoft Security Response Center (MSRC) per i sistemi di intelligenza artificiale
• Paesaggio delle Minacce Avversarie per i Sistemi di Intelligenza Artificiale di MITRE (ATLAS)
• OWASP top 10 per applicazioni LLM (Large Language Model)
• Primi 10 elementi della sicurezza di Machine Learning per OWASP
• Framework di gestione dei rischi di intelligenza artificiale NIST

Ciclo di vita della sicurezza

Come per la sicurezza per altri tipi di funzionalità, è fondamentale pianificare un approccio completo. Un approccio completo include persone, processi e tecnologie nell'intero ciclo di vita della sicurezza: identificare, proteggere, rilevare, rispondere, ripristinare e gestire. Qualsiasi lacuna o debolezza in questo ciclo di vita potrebbe portarti a:

• Non è possibile proteggere gli asset importanti
• Subire attacchi prevenibili
• Non essere in grado di gestire gli attacchi
• Non essere in grado di ripristinare rapidamente i servizi critici per l'azienda
• Applicare controlli in modo incoerente

Per maggiori informazioni sulla natura unica dei test di minacce dell'IA, vedi Microsoft AI Red Team sta costruendo il futuro di un'IA più sicura.

Configurare prima di personalizzare

Microsoft raccomanda alle organizzazioni di iniziare con approcci basati su SaaS come il modello Copilot per l'adozione iniziale dell'IA e per tutti i carichi di lavoro successivi dell'IA. Questo approccio riduce al minimo il livello di responsabilità e competenza che la tua organizzazione deve fornire per progettare, operare e proteggere queste capacità altamente complesse.

Se le funzionalità predefinite attualmente disponibili non soddisfano le esigenze specifiche di un carico di lavoro, puoi adottare un modello PaaS utilizzando servizi di intelligenza artificiale, come Servizio Azure OpenAI, per soddisfare tali requisiti.

Solo le organizzazioni con profonda esperienza in data science e nelle considerazioni di sicurezza, privacy ed etiche dell'IA dovrebbero adottare la costruzione di modelli personalizzati.

Per aiutare a portare l'IA nel mondo, Microsoft sta sviluppando soluzioni Copilot per ciascuna delle principali soluzioni di produttività: da Bing e Windows a GitHub e Microsoft 365. Microsoft sta sviluppando soluzioni full-stack per ogni tipo di scenario di produttività. Microsoft offre queste funzionalità come soluzioni SaaS. Microsoft integra queste capacità nell'interfaccia utente del prodotto, dove sono ottimizzate per assistere l'utente in compiti specifici per aumentare la produttività.

Microsoft progetta ogni soluzione Copilot secondo i forti principi di Microsoft per la governance dell'IA.

Passaggi successivi

Altre informazioni sulle procedure consigliate per la sicurezza dell'intelligenza artificiale di Azure.

Altre informazioni sui requisiti di sviluppo dei prodotti Microsoft per l'IA responsabile nello standard di intelligenza artificiale responsabile Microsoft.

Informazioni sulle responsabilità condivise per il cloud computing.