ReportingConfiguration.CachingKeys Propiedad
Definición
Importante
Parte de la información hace referencia a la versión preliminar del producto, que puede haberse modificado sustancialmente antes de lanzar la versión definitiva. Microsoft no otorga ninguna garantía, explícita o implícita, con respecto a la información proporcionada aquí.
Obtiene la colección de cadenas únicas que se deben aplicar hash al generar las claves de caché para las respuestas de IA almacenadas en caché.
public:
property System::Collections::Generic::IReadOnlyList<System::String ^> ^ CachingKeys { System::Collections::Generic::IReadOnlyList<System::String ^> ^ get(); };public System.Collections.Generic.IReadOnlyList<string> CachingKeys { get; }member this.CachingKeys : System.Collections.Generic.IReadOnlyList<string>Public ReadOnly Property CachingKeys As IReadOnlyList(Of String)Valor de propiedad
Comentarios
Si no se proporcionan claves de almacenamiento en caché adicionales, las claves de caché de una respuesta almacenada en caché se generan en función del contenido de la solicitud de IA que generó esta respuesta, metadatos como el nombre del modelo y el punto de conexión presentes en el configurado IChatClient y que ChatOptions se proporcionan como parte de la generación de la respuesta.
Además, el nombre del escenario y la iteración siempre se incluyen en la clave de caché. Esto significa que las respuestas almacenadas en caché para un escenario determinado y la iteración no se reutilizarán para un escenario diferente y la iteración incluso si el contenido de la solicitud de IA y los metadatos se producen iguales.
Proporcionar claves de almacenamiento en caché adicionales puede ser útil cuando es necesario tener en cuenta algunos factores externos al decidir si una respuesta de IA almacenada en caché sigue siendo válida. Por ejemplo, considere el caso en el que una de las claves de almacenamiento en caché adicionales proporcionadas es la versión del modelo de IA que se invoca. Si el producto pasa a una versión más reciente del modelo, la actualización de la clave de almacenamiento en caché para reflejar este cambio hará que todas las entradas almacenadas en caché que dependen de esta clave de almacenamiento en caché se invaliden, lo que garantiza que las evaluaciones posteriores no usarán las respuestas almacenadas en caché obsoletas producidas por la versión del modelo anterior.
