InferenceResponse interface

Oplysninger om optagelse af svaret fra et inferensopkald

Egenskaber

content

Det genererede svarindhold

finishReason

Årsag til slutdato (f.eks. stop, længde, content_filter)

inputTokens

Antal anvendte inputtokens

outputTokens

Antal genererede outputtokens

responseId

Svar-id fra modeludbyderen

Oplysninger om egenskab

content

Det genererede svarindhold

content: string

Egenskabsværdi

string

finishReason

Årsag til slutdato (f.eks. stop, længde, content_filter)

finishReason?: string

Egenskabsværdi

string

inputTokens

Antal anvendte inputtokens

inputTokens?: number

Egenskabsværdi

number

outputTokens

Antal genererede outputtokens

outputTokens?: number

Egenskabsværdi

number

responseId

Svar-id fra modeludbyderen

responseId?: string

Egenskabsværdi

string