Tokenizer.Encode(String) Metodo

Definizione

Codifica il testo di input nell'oggetto con l'elenco dei token, gli ID dei token, il mapping degli offset dei token.

public Microsoft.ML.Tokenizers.TokenizerResult Encode(string sequence);
member this.Encode : string -> Microsoft.ML.Tokenizers.TokenizerResult
Public Function Encode (sequence As String) As TokenizerResult

Parametri

sequence
String

Testo da tokenizzare.

Valori restituiti

Il risultato della tokenizzazione include l'elenco dei token, gli ID dei token, il mapping degli offset dei token.

Si applica a