2025-03-27から1日間の記事一覧
グラフィックボードを新調し、VRAMが12GBに増えたので、ローカルのLLMも少しだけ性能を上げられるようになり、いろいろ調べてみたところ、Lumimaid-Magnum-v4-12BというMistral AI のNemoの派生モデルが今の環境でちょうどよく性能もそれなりらしいことを知…
グラフィックボードを新調し、VRAMが12GBに増えたので、ローカルのLLMも少しだけ性能を上げられるようになり、いろいろ調べてみたところ、Lumimaid-Magnum-v4-12BというMistral AI のNemoの派生モデルが今の環境でちょうどよく性能もそれなりらしいことを知…