#Quantization

AI / Hardware

Needle 2：面向微型设备的 14 MB Agentic LLM

Cactus 介绍其 45M 参数的端侧工具调用模型 Needle 2，包括量化架构、固定内存设计、设备性能、公开基准测试与本地微调结果。