发布 koboldcpp-1.124 · LostRuins/koboldcpp

KoboldCpp 1.124 版本集成了 audio.cpp 中部分流行模型，大幅增强内置的音乐生成和 TTS 生成能力。音乐生成方面，支持 YuE2 模型，提供三种模板：无 LLM（自带歌词）、小型 LLM（4B，推荐）和大型 LLM（仅限大显存 GPU）。TTS 生成方面，新增众多模型，包括 BreezeTTS 2、Ming 3.0 TTS、Qwen3-TTS Base、Qwen3-TTS VoiceDesign、VoxCPM2、Chatterbox、Chatterbox Turbo、CosyVoice 3、Fish Audio S2 Pro、Kitten TTS 2、Maya1、NeuTTS 2E、OmniVoice、PocketTTS、Soprano 1.1 80M、Supertonic 3 和 VibeVoice 1.5B。MusicUI 已更新以支持 YuE2 和新 TTS 模型，可通过 http://localhost:5001/musicui 访问，并新增了用于 Whisper 模型的转写标签页。最新的 sd.cpp 同步新增了 MOSS Image、Fibo 2 Edit 和 Flux 3 Klein 图像生成模型支持。AI Horde 现已支持聊天补全工作器，最新版本自动启用，通过在 lite.koboldai.net 中切换聊天补全模式，可在 AI Horde 上使用 jinja、推理、工具调用、流式传输和视觉功能。其他更改包括：为 KoboldCpp Agent 新增 /mcp 向导；新增 /paste 模式处理多行文本；为所有架构启用 CUDA 图；新增 --lazy-mode、--moe-cache-mib 和 --paralleltotalcontext 标志；修复由 -Ofast 触发的 CPU flash attention 错误；按内容而非扩展名检测文件类型；在批处理模式下允许有限缓存重用；改进 Gemma4 模型的 SWA 处理；修复部分旧模型加载时的潜在缓冲区溢出；支持动态 WebP 作为视频生成默认预览；允许使用烘焙到文本编码器 LLM 中的分词器；支持 TAEQI-tinier 作为 Qwen Image 2.1 的内置 VAE；重构内置 WebSearch 以提供更好更长的结果；扩大工具随机 ID 范围；通过 --rpccache 支持 RPC 主机张量缓存目录；修复 Anthropic API 工具处理和终端日志密码掩码；在 Vulkan 上为老旧 AMD GCN 显卡禁用异步模式；更新 Kobold Lite，包含多项修复和改进，如 SSE 解析器改进和 /v1/responses 支持。上游合并带来新模型支持，包括 Nemotron 3.5 Bolt 74BA9B、Mistral Large 4、LFM3、Muse Spark 等。下载选项包括：Windows 版 koboldcpp.exe 或 Linux 版 koboldcpp-linux-x64（面向 NVIDIA GPU 用户的单文件 pyinstaller）；适用于旧 CPU 或旧 NVIDIA GPU 的 oldpc 版本；适用于非 NVIDIA 用户的 nocuda 版本；AMD 用户推荐尝试 nocuda 构建中的 Vulkan 选项，或下载 Linux 滚动 ROCm 二进制；现代 MacOS M 系列可使用 koboldcpp-mac-arm64。启动后可通过 http://localhost:5001 连接或使用完整的 koboldai 客户端。

(来源：GitHub)