Consumo de Tokens

El menú Consumo de Tokens es su fuente de datos para la auditoría detallada, ya que presenta un registro transaccional de cada interacción con la IA. Permite al administrador rastrear los costos de tokens por pregunta, garantizando total transparencia en el consumo de su cuenta de Azure.

Propósito

  • Auditoría Financiera: Identifique exactamente dónde se está generando el costo.
  • Optimización de Costos: Analice el consumo por Modelo y Agente para tomar decisiones sobre la elección del modelo más eficiente para cada función.
  • Gobernanza: Vincule cada interacción a un usuario y proyecto específicos.

Detalles de la Tabla

La tabla de registro muestra los siguientes campos para cada transacción (pregunta/respuesta):

CampoDescripción
ProyectoEl recurso de Azure que generó el consumo.
ModeloEl modelo de IA específico utilizado en la interacción.
AgenteEl asistente de IA utilizado por el usuario.
UsuarioEl usuario que inició la interacción.
Tokens de EntradaLa cantidad de tokens utilizados en el prompt del usuario.
Tokens de SalidaLa cantidad de tokens utilizados para generar la respuesta de la IA.
Costo TotalEl costo financiero de la interacción específica en dólares estadounidenses (USD).

Actualizado