Lanzamiento koboldcpp-1.124 · LostRuins/koboldcpp
KoboldCpp 1.124 integra generación de música con YuE2 y muchos nuevos modelos TTS de audio.cpp, además de nuevos modelos de generación de imágenes y soporte de chat completions en AI Horde.Resumen
La versión 1.124 de KoboldCpp introduce la integración de un subconjunto de modelos populares de audio.cpp, mejorando enormemente las capacidades integradas de generación de música y TTS. Para la generación de música, se admite el modelo YuE2 con tres plantillas: sin LLM (aporta tus propias letras), LLM pequeño (4B, recomendado) y LLM grande (solo para GPU grandes). Para TTS, se han añadido numerosos modelos, incluidos BreezeTTS 2, Ming 3.0 TTS, Qwen3-TTS Base, Qwen3-TTS VoiceDesign, VoxCPM2, Chatterbox, Chatterbox Turbo, CosyVoice 3, Fish Audio S2 Pro, Kitten TTS 2, Maya1, NeuTTS 2E, OmniVoice, PocketTTS, Soprano 1.1 80M, Supertonic 3 y VibeVoice 1.5B. MusicUI se ha actualizado para admitir YuE2 y los nuevos modelos TTS, accesible en http://localhost:5001/musicui, y ahora incluye una pestaña de transcripción para usar con modelos Whisper. La última sincronización de sd.cpp añade soporte para los modelos de generación de imágenes MOSS Image, Fibo 2 Edit y Flux 3 Klein. AI Horde ahora admite trabajadores de chat completions, habilitado automáticamente con la última versión, lo que permite usar jinja, razonamiento, llamadas a herramientas, streaming y visión sobre AI Horde activando el modo de chat completions en lite.koboldai.net. Otros cambios incluyen un asistente /mcp para KoboldCpp Agent, un modo /paste para texto multilínea, gráficos CUDA para todas las arquitecturas, nuevos flags --lazy-mode, --moe-cache-mib y --paralleltotalcontext, una corrección de un error de CPU flash attention provocado por -Ofast, detección de tipos de archivo por contenido en lugar de extensión, reutilización limitada de caché en modo por lotes, mejora del manejo de SWA para modelos Gemma4, correcciones de posibles desbordamientos de búfer al cargar algunos modelos heredados, soporte de WebP animado como vista previa predeterminada para generación de video, uso de tokenizadores integrados en el LLM del codificador de texto para modelos de generación de imágenes, soporte de TAEQI-tinier como VAE integrado para Qwen Image 2.1, reelaboración de WebSearch integrado para obtener mejores resultados, ampliación del rango de ID aleatorios de herramientas, soporte de directorio de caché de tensores del host RPC mediante --rpccache, correcciones en el manejo de herramientas de la API de Anthropic y enmascaramiento de contraseñas en los registros de terminal, desactivación del modo asíncrono para tarjetas AMD GCN antiguas en Vulkan, y actualización de Kobold Lite con múltiples correcciones y mejoras, incluidas mejoras del analizador SSE y soporte de /v1/responses. Las fusiones upstream aportan soporte para nuevos modelos como Nemotron 3.5 Bolt 74BA9B, Mistral Large 4, LFM3, Muse Spark y más. Las opciones de descarga incluyen koboldcpp.exe (Windows) o koboldcpp-linux-x64 (Linux), un pyinstaller de un solo archivo para usuarios de GPU NVIDIA; la versión oldpc para CPU o GPU NVIDIA antiguas; la versión nocuda para quienes no tienen NVIDIA o no necesitan CUDA; para AMD se recomienda probar primero la opción Vulkan en la compilación nocuda, o descargar el binario ROCm continuo para Linux; en MacOS moderno (M-Series) se puede usar koboldcpp-mac-arm64. Tras el lanzamiento, conéctese en http://localhost:5001 o use el cliente completo de koboldai.
(Fuente：GitHub)