vLLM

高スループットな LLM サービング

PagedAttention と continuous batching を核にした、大規模言語モデル向けのオープンソース推論エンジン。

ai-toolsservice
料金
無料
種別
ツール
ライセンス
Apache-2.0
対応環境
web
人気度
★ 89k
発見元
GitHub
リンク
✓ 2026/10/03 到達確認
最終コミット
2026/10/03
審査
自動チェック

比較

リソース料金種別ライセンス対応環境
vLLM無料ツールApache-2.0web
CC Switch無料ツールMITweb
PrivateGPT無料ツールApache-2.0api
AI Website Cloner無料ツールMITweb
OpenCLI無料ツールApache-2.0web · cli
Skill Seekers無料ツールMITweb
Go Stock無料ツールGPL-3.0web

類似リソース