リリース koboldcpp-1.117 · LostRuins/koboldcpp
概要
KoboldCpp 1.117では、Ollama互換のエンベディング、ストリーミング、およびツール呼び出し機能が追加され、Ollamaを使用するあらゆるソフトウェアとの互換性が向上しました。主な機能改善として、マルチモーダル画像のインライン挿入、メモリ管理が強化されたグループチャットの刷新、およびデフォルト生成上限の32kへの引き上げが含まれます。また、Kobold Liteの更新や上流の修正が統合されています。なお、CUDAの「--splitmode row」オプションは本バージョンが最後の対応となるため注意が必要です。
(出典：GitHub)