Repositorio
patchy631/time-to-first-token
https://github.com/patchy631/time-to-first-tokenTendencia
16 / 100
Valor
— / 100
Hype Risk
— / 100
Radar
14
IGNORAR
GitHub Stars
761
+24h
—
Crecimiento
—
Lenguaje
HTML
¿Qué es patchy631/time-to-first-token?
A 10-week, 30-minutes-a-day roadmap for LLM inference serving and optimization. vLLM, SGLang, quantization, speculative decoding, benchmarking.
Por qué importa
El Daily Builder rellenará esto cuando el editor seleccione el ítem.
Historial de tendencia
- Tue Aug 25761 stars