Tokenizer.DefaultTokenizerImpl(String, String) Método

Definición

Tokenizador simple que se interrumpe en espacios y puntuación. La única normalización realizada es en minúsculas.

public static System.Collections.Generic.List<Microsoft.Bot.Builder.Dialogs.Choices.Token> DefaultTokenizerImpl(string text, string locale = default);
static member DefaultTokenizerImpl : string * string -> System.Collections.Generic.List<Microsoft.Bot.Builder.Dialogs.Choices.Token>
Public Shared Function DefaultTokenizerImpl (text As String, Optional locale As String = Nothing) As List(Of Token)

Parámetros

text
String

Texto de entrada.

locale
String

Opcional, identifica la configuración regional del texto de entrada.

Devoluciones

Lista de tokens.

Comentarios

Este es un port exacto de la implementación en JavaScript del algoritmo, salvo que aquí se utilizan las funciones de la biblioteca .NET en lugar de las funciones de código de código en cadena de JavaScript.

Se aplica a