mock_sobes
← FastAPI — Streaming
senior code #793
Реализуй FastAPI endpoint, который стримит LLM-токены через SSE. Должен корректно обрабатывать disconnect клиента (отменить upstream call), backpressure (если клиент медленный) и таймаут на отсутствие токенов.
Чтобы решить вопрос и сохранить попытку — войди.