vLLM, SGLang и TensorRT-LLM: чем inference engines отличаются и как выбрать?

Три engine оптимизируют разное. vLLM — универсальность и GPU utilization: PagedAttention, широкая поддержка железа и моделей, OpenAI-compatible сервер из коробки; разумный default. SGLang — переиспользование общих префиксов: RadixAttention хранит KV-cache в radix tree, запросы с общим началом дают hit автоматически; выигрывает на RAG с фиксированным корпусом и multi-turn агентах. TensorRT-LLM — предельная скорость на конкретном железе NVIDIA ценой сложной сборки.