发布 koboldcpp-1.117 · LostRuins/koboldcpp
内容摘要
KoboldCpp 1.117 版本带来了重要更新，最显著的是增加了与 Ollama 兼容的嵌入、流式传输和工具调用功能，实现了与所有使用 Ollama 的软件的无缝集成。关键功能改进包括：多模态图像改为内联插入、重构了具有更好记忆管理的群聊功能、以及将默认生成量上限提升至 32k。该版本还合并了上游的修复和优化，并更新了 Kobold Lite，同时提醒用户 CUDA 中的 '--splitmode row' 功能将在未来的版本中弃用。
(来源：GitHub)