リリース koboldcpp-1.124 · LostRuins/koboldcpp

GitHub
KoboldCpp 1.124はaudio.cppからの音楽生成(YuE2)と多数の新TTSモデルを統合し、新しい画像生成モデルとAI Hordeチャット補完サポートを追加しました。

概要

KoboldCpp バージョン1.124は、audio.cppの一部の人気モデルを統合し、内蔵の音楽生成とTTS生成機能を大幅に強化しました。音楽生成ではYuE2モデルがサポートされ、3つのテンプレート(LLMなし:歌詞を持ち込み、小型LLM:4B、推奨、大型LLM:大容量GPU向け)が提供されます。TTS生成では、BreezeTTS 2、Ming 3.0 TTS、Qwen3-TTS Base、Qwen3-TTS VoiceDesign、VoxCPM2、Chatterbox、Chatterbox Turbo、CosyVoice 3、Fish Audio S2 Pro、Kitten TTS 2、Maya1、NeuTTS 2E、OmniVoice、PocketTTS、Soprano 1.1 80M、Supertonic 3、VibeVoice 1.5Bなど多数のモデルが追加されました。MusicUIはYuE2と新しいTTSモデルをサポートするように更新され、http://localhost:5001/musicui でアクセスでき、Whisperモデル用の文字起こしタブも追加されました。最新のsd.cpp同期により、MOSS Image、Fibo 2 Edit、Flux 3 Kleinの画像生成モデルがサポートされます。AI Hordeはチャット補完ワーカーをサポートするようになり、最新バージョンで自動的に有効化され、lite.koboldai.netでチャット補完モードを切り替えることで、jinja、推論、ツール呼び出し、ストリーミング、ビジョンをAI Horde経由で使用できます。その他の変更には、KoboldCpp Agent用の/mcpウィザード、複数行テキスト用の/pasteモード、全アーキテクチャでのCUDAグラフ有効化、新しいフラグ--lazy-mode、--moe-cache-mib、--paralleltotalcontext、-OfastによるCPU flash attentionバグの修正、拡張子ではなく内容によるファイルタイプ検出、バッチモードでの限定的なキャッシュ再利用、Gemma4モデルのSWA処理改善、レガシーモデル読み込み時の潜在的なバッファオーバーフローの修正、ビデオ生成のデフォルトプレビューとしてAnimated WebPのサポート、テキストエンコーダLLMに組み込まれたトークナイザーの使用許可、Qwen Image 2.1用のTAEQI-tinierの組み込みVAEサポート、より良い結果を得るためのWebSearchの再構築、ツールランダムID範囲の拡大、--rpccacheによるRPCホストテンソルキャッシュディレクトリのサポート、Anthropic APIツール処理とターミナルログのパスワードマスクの修正、Vulkan上の古いAMD GCNカードの非同期モード無効化、Kobold Liteの更新(SSEパーサー改善、/v1/responsesサポートなど)が含まれます。上流のマージにより、Nemotron 3.5 Bolt 74BA9B、Mistral Large 4、LFM3、Muse Sparkなどの新しいモデルサポートが追加されました。ダウンロードオプションには、Windows用koboldcpp.exeまたはLinux用koboldcpp-linux-x64(NVIDIA GPUユーザー向けの単一ファイルpyinstaller)、古いCPUやNVIDIA GPU用のoldpcバージョン、非NVIDIAユーザー向けのnocudaバージョン、AMDユーザーにはnocudaビルドのVulkanオプションを最初に試すことが推奨され、LinuxのAMDユーザー向けにローリングROCmバイナリも用意されています。最新のMacOS Mシリーズではkoboldcpp-mac-arm64が使用できます。起動後、http://localhost:5001 で接続するか、完全なkoboldaiクライアントを使用できます。

(出典:GitHub)