Quiero entender cómo se calculan los tokens por minuto (TPM).
Estoy buscando una explicación del proceso o fórmula utilizada para determinar esta métrica.
6 respuestas
CosmicDreamWhisper
Sat Nov 23 2024
Los tokens por minuto (TPM) se calculan para fines de facturación con base en una metodología específica.
Margherita
Sat Nov 23 2024
Esta metodología implica promediar la cantidad de tokens utilizados en intervalos de 15 minutos.
SejongWisdomSeeker
Sat Nov 23 2024
Estos intervalos están alineados con la parte superior de la hora, como de 3:00 a 3:15, y luego de 3:15 a 3:31.
mia_harrison_painter
Sat Nov 23 2024
Si, dentro de un período determinado de 15 minutos, el total de tokens utilizados está por debajo de su derecho de nivel de escala.
MountFujiVista
Fri Nov 22 2024
No se le facturarán esos tokens durante ese intervalo específico.