タグ一覧

AMD GPU + LiteLLM でローカル LLM と ChatGPT を同じエンドポイントに束ねた

AMD Radeon で動く Lemonade サーバーと ChatGPT サブスクリプションを LiteLLM Proxy で束ねて OpenAI 互換 API に統一した話。opencode との組み合わせも検討中。