ローカルLLM

PVEとRTX 3060 Ti 8GBでローカルコーディングエージェントを試した

Proxmox VE上にGPUパススルー対応のUbuntu Server VMを用意し、OllamaとAiderでローカルコーディングエージェントを検証した。構築手順、Codexで詰まった点、7B・8Bモデルの実用感をまとめる。