許竣傑 · AI Craft Lab

Tag

#sglang

作品

工具
工具開發中

SAGA-implement（sglangRAG）

以 SGLang 推論引擎搭配 RAG 檢索增強的 LLM 聊天系統，支援即時串流回覆。

  • Python
  • SGLang
  • FastAPI
  • React