在您的应用中本地部署LLM/VLM/TTS模型的跨平台框架。
支持Flutter、React-Native和Kotlin多平台。
支持您在Huggingface上找到的任何GGUF模型;Qwen、Gemma、Llama、DeepSeek等。
运行LLM、VLM、嵌入模型、TTS模型等。
支持从FP32到低至2位量化模型,提高效率并减少设备负担。
支持Jinja2的聊天模板和令牌流。
https://github.com/cactus-compute/cactus
支持Flutter、React-Native和Kotlin多平台。
支持您在Huggingface上找到的任何GGUF模型;Qwen、Gemma、Llama、DeepSeek等。
运行LLM、VLM、嵌入模型、TTS模型等。
支持从FP32到低至2位量化模型,提高效率并减少设备负担。
支持Jinja2的聊天模板和令牌流。
https://github.com/cactus-compute/cactus
GitHub
GitHub - cactus-compute/cactus: Sub-50mb agentic, voice and vision intelligence for consumer devices.
Sub-50mb agentic, voice and vision intelligence for consumer devices. - cactus-compute/cactus
😁4
💧 #小众软件
Proxmox VE 9.0 正式发布:基于 Debian 13,内核更前沿,快来体验极客级虚拟化环境
https://www.appinn.com/proxmox-ve-9-0-released/
Proxmox VE 9.0 正式发布:基于 Debian 13,内核更前沿,快来体验极客级虚拟化环境
https://www.appinn.com/proxmox-ve-9-0-released/
小众软件
Proxmox VE 9.0 正式发布:基于 Debian 13,内核更前沿,快来体验极客级虚拟化环境 - 小众软件
Proxmox VE 9.0 在昨天晚上正式发布(北京时间2025年8月5日晚9点),基于 Debian 13 Trixie 打造,使用很新的 Linux 内核 6.14.8-2 作为稳定默认版本。重要软件也都紧跟主流,QEMU 升级到 10.0.2、LXC 用上 6.0.4、ZFS 2.3.3,还有 Ceph
据说可以修改 Firefox 中国版的配置,将账户系统从已关闭的 Firefox 中国改为国际版。
好奇心驱使,查了一下,岂止能改为国际版,还能自托管。
https://meta.appinn.net/t/topic/73709/15?u=qingwa
好奇心驱使,查了一下,岂止能改为国际版,还能自托管。
https://meta.appinn.net/t/topic/73709/15?u=qingwa
👍11