Migrare da GitHub Models a Microsoft Foundry Models

Questo articolo descrive come spostare un'applicazione di intelligenza artificiale generativa dal servizio GitHub Models ritirato a Microsoft Foundry Models distribuendo una risorsa di Foundry Tools in una sottoscrizione di Azure. Entrambi i servizi usano la stessa API di inferenza, quindi in genere è sufficiente modificare l'endpoint e le credenziali nel codice.

Prerequisiti

Hai bisogno:

• Sottoscrizione Azure con un metodo di pagamento valido. Se non hai una sottoscrizione Azure, crea un account Azure a pagamento per iniziare.
• Foundry Models di partner e community richiedono l'accesso a Azure Marketplace. Assicurati di disporre delle autorizzazioni necessarie per sottoscrivere le offerte di modelli. Foundry Models commercializzati da Azure non hanno questo requisito.

Esegui la migrazione ai modelli Foundry

A differenza di GitHub Models, gratuito con limiti di frequenza, l'utilizzo dei modelli Foundry viene fatturato alla sottoscrizione Azure in base al tipo di distribuzione scelto.

Per sostituire l'endpoint e il token dei modelli di GitHub con un endpoint e una chiave foundry Models:

1. Accedi al portale Foundry con il tuo account Azure.

   Suggerimento

   Se si arriva all'esperienza Foundry (classica), attivare il commutatore New Foundry nella barra di navigazione in alto a destra per accedere alla nuova esperienza Foundry.

2. Seguire la procedura descritta in Distribuire un modello per distribuire il modello preferito, testarlo in Playground e dedurre il modello distribuito con codice.

3. Nella home page di Foundry copiare la chiave API e Project endpoint e usarli al posto dell'endpoint GitHub Models e del token di accesso personale nell'applicazione.

4. Verificare che la migrazione funzioni inviando una richiesta di test da Playground o dal codice. Se si riceve una risposta, il modello è pronto per l'uso.

Usare i modelli Foundry nell'IDE

Il playground GitHub Models non è più disponibile. Per sperimentare i modelli dal tuo editor, aggiungi la distribuzione Foundry in Visual Studio Code come modello linguistico BYOK (Bring Your Own Key):

1. In Visual Studio Code aprire la selezione modelli nella visualizzazione Chat e selezionare Gestisci modelli linguistici (icona a forma di ingranaggio) oppure eseguire il comando Chat: Manage Language Models (Chat: Gestisci modelli linguistici) dal riquadro comandi.

2. Selezionare Aggiungi modelli e quindi selezionare Azure dall'elenco dei provider.

3. Immetti un nome per il gruppo di modelli, quindi immetti l'URL dell'endpoint e la chiave API che hai copiato dal portale Foundry.

4. Selezionare il modello dal selettore del modello in chat.

In alternativa, seleziona Installa provider di modelli nell'editor dei modelli linguistici e installa l'estensione Foundry Toolkit for VS Code, che aggiunge al selettore di modelli i modelli locali e ospitati nel cloud di Foundry.

Per altre informazioni, vedere Modelli linguistici in Visual Studio Code.

Esplorare funzionalità aggiuntive

Foundry Models supporta le funzionalità che GitHub Models non offrono:

• Model catalog - Esplorare, confrontare e valutare modelli di Azure, partner e community open source.
• Autenticazione senza chiave : usare Microsoft Entra ID per l'autenticazione basata su token senza gestire le chiavi API.
• Filtro del contenuto : configurare i filtri di sicurezza del contenuto per le distribuzioni.
• Limitazione della frequenza : impostare limiti di frequenza personalizzati per modelli specifici nella risorsa.
• Tipi di distribuzione : scegliere tra più SKU di distribuzione, ad esempio con pagamento in base al token, provisioning e batch.

Risolvere i problemi comuni

Contenuto correlato

• Distribuire i modelli Foundry di Microsoft nel Portale Foundry
• Creare distribuzioni di modelli
• Tipi di distribuzione per i modelli Foundry