发布 koboldcpp-1.123 · LostRuins/koboldcpp

GitHub
KoboldCpp 1.123 发布 koboldcpp.net 社区网站,增加 Qwen Image 2.1 支持,并对 Agent 和批处理模式进行重大改进。

内容摘要

KoboldCpp 1.123 推出了 koboldcpp.net,这是一个与 @Autumnlight02 合作创建的官方社区网站,旨在帮助新手并打击虚假网站,官方下载仍在 GitHub 上。新增对 Qwen Image 2.1 模型的支持,可通过现成的 .kcppt 模板生成和编辑图像,感谢 @wbruna。集成的 KoboldCpp Agent 获得重大更新:新的 /confirm 批准模式(auto、on、off),可全局或按工具配置;/save 和 /load 命令及 --agentload 用于保存和恢复会话;/maxsteps、/usage、/autocompact 和 /paste 命令;可用 Esc 中断提示;修复系统提示位置和 stdin 阻塞问题;MCP 工具调用仅限 localhost;新增专用 Agent 选项卡。批处理模式现在支持所有标准采样器、语法、工具调用和视觉功能,使用 --parallelrequests 可同时获得即时响应。其他修复包括 rep_pen_range 导致 OOM、语法解析、oldpc 视觉、空闲卸载,以及新增 Spark X2.5 模板;--jinjatools 标志已弃用,改用 --jinja 自动启用 Jinja 工具,--multiuser 被 --queuelimit 取代。还包括清理、Termux 启动器改进、remotetunnel 路径修复、共享超时、文档更新和 Kobold Lite 更改,并可将多个自定义 OpenAI 端点保存为收藏。用户可下载 Windows 的 koboldcpp.exe 或 Linux 的 koboldcpp-linux-x64,根据硬件还有 oldpc、nocuda、Vulkan、ROCm 和 MacOS 版本,可通过命令行或 GUI 运行。

(来源:GitHub)