RK1820是瑞芯微(Rockchip)推出的一款高性能AI协处理器芯片,采用3D堆叠封装技术集成高带宽片内DRAM,NPU算力高达20 TOPS(INT8),专门用于在端侧设备(如安防摄像头、机器人、智能家居)上高效运行3B至7B参数规模的大语言模型和视觉模型,实现低延迟、低功耗的本地AI推理。
RK1820是瑞芯微面向AI时代推出的算力协处理器,采用先进的3D堆叠封装技术,集成高带宽嵌入式片内DRAM(2.5GB/5GB版本)。
●模型支持:可部署高达3B/7B参数量的端侧大模型(最高16K上下文长度)
●性能表现:端侧生成速率超100 tokens/s,端到端延迟低至0.1s
●多模态处理:支持文字、语音、图像、视频等输入,兼容CNN模型
●主控互联:支持PCIe2.0 / USB3.0接口,可与RK3576、RK3588等主控无缝协同
●软件生态:兼容主流模型格式(HuggingFace、PyTorch、GGUF),API接口参考OpenAI标准,支持C/Python调用
凭借“高带宽+低功耗”的设计,RK1820系列打破了端侧部署大模型的能效与延迟限制,为AI应用带来“云端级响应”的体验。