2025-03-27から1日間の記事一覧

KoboldCPP+SillyTavern試す

グラフィックボードを新調し、VRAMが12GBに増えたので、ローカルのLLMも少しだけ性能を上げられるようになり、いろいろ調べてみたところ、Lumimaid-Magnum-v4-12BというMistral AI のNemoの派生モデルが今の環境でちょうどよく性能もそれなりらしいことを知…