Lanzamiento koboldcpp-1.117 · LostRuins/koboldcpp
GitHub
KoboldCpp 1.117 introduce compatibilidad con Ollama, mejora el manejo de imágenes multimodales, renueva el chat grupal y corrige varios errores.Resumen
La versión koboldcpp-1.117 incluye mejoras significativas, destacando la adición de endpoints de embeddings, streaming y llamadas a herramientas compatibles con Ollama, lo que permite la integración inmediata con software que utiliza Ollama. Las actualizaciones funcionales incluyen la inserción de imágenes multimodales en línea, una renovación en la gestión de memoria para chats grupales y un aumento en el límite de generación por defecto a 32k. Además, incorpora correcciones de versiones anteriores y mejoras en Kobold Lite, advirtiendo a los usuarios que el soporte para '--splitmode row' en CUDA será eliminado próximamente.
(Fuente：GitHub)