InferenceResponse interface
Oplysninger om optagelse af svaret fra et inferensopkald
Egenskaber
| content | Det genererede svarindhold |
| finish |
Årsag til slutdato (f.eks. stop, længde, content_filter) |
| input |
Antal anvendte inputtokens |
| output |
Antal genererede outputtokens |
| response |
Svar-id fra modeludbyderen |
Oplysninger om egenskab
content
Det genererede svarindhold
content: string
Egenskabsværdi
string
finishReason
Årsag til slutdato (f.eks. stop, længde, content_filter)
finishReason?: string
Egenskabsværdi
string
inputTokens
Antal anvendte inputtokens
inputTokens?: number
Egenskabsværdi
number
outputTokens
Antal genererede outputtokens
outputTokens?: number
Egenskabsværdi
number
responseId
Svar-id fra modeludbyderen
responseId?: string
Egenskabsværdi
string