開催日時: 2026/11/11 20:00 ~ 21:00 開催場所: オンライン
GPUStack Meetup #1 〜MaaS(Model as a Service)構築OSS〜
ローカルLLMなんて...そんな方に向けた、GPUStack(MaaS構築OSS・GPUクラスターマネージャー) のMeetupです。
仕組みの解説、デモなどを共有します。
こんな方におすすめ
オンプレ/閉域環境で、LLMを動かしたいインフラ・MLOpsエンジニア
複数台・異なるローケーションのGPUサーバーを、部署やチームで資源共有したい方
vLLM/SGLangを使っているが、運用(配置・監視・復旧・認証)が属人化している方
NVIDIA以外のGPU(AMDなど)も含めて、統合管理したい方
MaaS/GPUaaS(社内外へのサービス提供)に関心がある方
GPUStackとは
自社のGPU上でAIモデルを運用するための、OSS(Apache 2.0)の管理基盤です
vLLM/SGLangなどの推論エンジンを統合管理し、OpenAI互換APIで提供できます
NVIDIA/AMDなど、複数メーカーのGPUをひとつのプールで扱えます
v2.2では、自動復旧、APIキー別のトークン計測、Multi-LoRA、GPUインスタンス提供(SSH)などが追加されました
v2.3(最…