Nota
L'accesso a questa pagina richiede l'autorizzazione. È possibile provare ad accedere o modificare le directory.
L'accesso a questa pagina richiede l'autorizzazione. È possibile provare a modificare le directory.
Un incorporamento è un vettore di numeri a virgola mobile che rappresenta il significato semantico del testo. Un testo simile produce vettori vicini, che rendono utili gli incorporamenti per la ricerca vettoriale, le raccomandazioni, la classificazione e il clustering.
Prerequisiti
- Una sottoscrizione di Azure. Crearne uno gratuitamente se non ne hai uno.
- Una risorsa OpenAI di Azure con una distribuzione di un modello di embedding.
- L'endpoint della risorsa, ad esempio
https://YOUR-RESOURCE-NAME.openai.azure.com. - Per l'autenticazione Microsoft Entra ID, un'identità con ruolo
Cognitive Services OpenAI Userassegnato alla risorsa Azure OpenAI. Per altre informazioni, vedere Controllo degli accessi in base al ruolo per Azure OpenAI. - interfaccia della riga di comando di Azure per l'autenticazione locale.
- Il runtime e il gestore di pacchetti del linguaggio selezionato.
Per altre indicazioni sulla configurazione specifiche del linguaggio, vedere Azure Linguaggi di programmazione supportati da OpenAI.
Il valore model in ogni richiesta è il nome della distribuzione del modello di Azure. Gli esempi usano text-embedding-3-small; sostituitelo se la distribuzione in uso ha un nome diverso.
Generare un'integrazione
Inviare testo all'endpoint di integrazione e leggere il vettore dal primo elemento nella risposta.
L'API di incorporamento v1 supporta Microsoft Entra ID e l'autenticazione della chiave API. Microsoft Entra ID è consigliabile perché evita di archiviare credenziali di lunga durata. Gli esempi in questo articolo usano Microsoft Entra ID.
Per lo sviluppo locale, accedere a Azure prima di eseguire un esempio di SDK:
az login
DefaultAzureCredential usa localmente l'identità con cui hai effettuato l'accesso e può usare un'identità gestita quando l'applicazione viene eseguita in Azure.
È supportata anche l'autenticazione della chiave API. Per la configurazione del client basata su chiave, consulta la guida all'API Azure OpenAI v1.
Installare i pacchetti OpenAI e Azure Identity:
pip install openai azure-identity
Generare un incorporamento e stamparne le dimensioni:
from openai import OpenAI
from azure.identity import DefaultAzureCredential, get_bearer_token_provider
endpoint = "https://YOUR-RESOURCE-NAME.openai.azure.com/openai/v1/"
token_provider = get_bearer_token_provider(
DefaultAzureCredential(), "https://ai.azure.com/.default"
)
openai = OpenAI(
base_url=endpoint,
api_key=token_provider,
)
# Generate one embedding vector.
response = openai.embeddings.create(
model="text-embedding-3-small",
input="The quick brown fox jumped over the lazy dog.",
)
print(f"Embedding dimensions: {len(response.data[0].embedding)}")
Embedding dimensions: <number>
Informazioni di riferimento: embeddings.create
Procedure consigliate
Tip
Le richieste di incorporamento restituiscono HTTP 400 quando la somma dei token di input supera 300.000, anche se ogni singolo input è inferiore al limite per input. Suddividere batch di grandi dimensioni in richieste più piccole.
Verificare che gli input non superino la lunghezza massima
- La lunghezza massima di input per i modelli di incorporamento correnti è di 8.192 token. Controllare ogni input prima di inviare la richiesta.
- Se si invia una matrice di input in una singola richiesta di incorporamento, la dimensione massima della matrice è 2.048.
- Ogni
/embeddingsrichiesta ha un limite di aggregazione di 300.000 token in tutti gli input. Le richieste superiori a questo limite hanno esito negativo con HTTP 400. - Mantenere i token totali al minuto al di sotto della quota assegnata alla distribuzione del modello. Per i limiti attuali, vedere quote e limiti di Azure OpenAI.
Risoluzione dei problemi
- Per una
401risposta, accedere di nuovo e verificare che il token di accesso usi il gruppo di destinatari corretto. - In caso di risposta
403, verifica che alla tua identità sia assegnato il ruoloCognitive Services OpenAI Userper la risorsa Azure OpenAI. - Per una
404risposta, verificare che l'endpoint includa/openai/v1/e chemodelcontenga un nome di distribuzione valido. - Per ottenere una risposta
400, controlla il corpo della richiesta, il numero di token di ciascun input, il numero totale di input e il conteggio totale dei token.
Limitazioni e rischi
L'incorporamento di modelli potrebbe non essere affidabile o rappresentare rischi sociali in determinati casi. Potrebbero causare danni se usati senza mitigazioni. Per altre informazioni su come approcciare il proprio uso in modo responsabile, vedere il contenuto dell'intelligenza artificiale responsabile .
Passaggi successivi
- Esplorare gli incorporamenti e la ricerca di documenti.
- Esaminare i modelli di Azure OpenAI disponibili.
- Scegliere un servizio per archiviare e cercare vettori: