mock_sobes

← все темы

vLLM — high-throughput LLM inference

vllm-inference

🎴 Пройти квиз

Фильтры:

все junior middle senior staff

·

theory mcq code design debug eli5 case correct_vs_wrong code_explain quiz

10 вопросов

middle quiz Какой из следующих факторов **не** влияет на производительность vLLM при обработке запросов?
middle quiz Что из перечисленного **не** является частью стратегии **prefix caching** в vLLM?
middle quiz Какой из следующих механизмов **не** используется для управления памятью в vLLM?
middle quiz Какой из следующих параметров **не** влияет на **latency** в vLLM?
middle quiz Какой из следующих подходов **не** используется для **scale-out** в vLLM?
middle quiz Какой из следующих механизмов **не** помогает уменьшить **memory fragmentation** в vLLM?
middle quiz Какой из следующих факторов **не** влияет на **throughput** vLLM?
middle quiz Какой из следующих механизмов **не** используется для **batching** в vLLM?
middle quiz Какой из следующих факторов **не** влияет на **memory usage** в vLLM?
middle quiz Какой из следующих механизмов **не** используется для **optimizing KV-cache** в vLLM?