El panel ahora muestra tokens, latencia p50/p95 y errores por minuto. Los datos se refrescan cada 5 segundos.
Las inferencias se enrutan al edge más cercano. Si una región se satura, el tráfico pasa a la siguiente sin cambiar tu código.
El modelo Flash ya está disponible en flash. Misma clave, mismo endpoint. p50 de 38ms en us-west-1 en nuestras pruebas internas.
Hoy abrimos el feed de actualizaciones de NexusAI. Aquí vas a ver latencia, nuevos modelos y cambios de API en cuanto salgan.