望获实时Linux系统运行DeepSeek R1大模型,成本低至千元内!
DeepSeek凭借其V3和新推出的R1两款模型,实现了与OpenAI 4o和o1比肩的性能,同时成本仅为十分之一,为AI技术的普及提供了经济高效的解决方案。DeepSeek的崛起,不仅标志着中国AI技术的突破,更预示着全球AI市场将迎来一场新革命。
以下是详细的部署步骤,帮助您快速实现这一国产技术组合的落地应用。
硬件准备:
RK3588开发板:京博航友善NanoPC-T6(预装望获实时Linux)
工作主机:ubuntu笔记本电脑
部署步骤
从Hugging Face拉取DeepSeek-R1的1.5B蒸馏模型到x86平台:
二、配置模型转换脚本
执行模型转换脚本,等待转换完成:
四、部署模型
在RK3588平台,进入rknn-llm/rkllm-runtime/examples/rkllm_api_demo目录,生成llm_demo运行文件:
六、运行模型
在user : 后输入对话内容,测试模型的运行效果。
关于望获实时Linux系统
望获实时Linux系统是国科环宇重点研发的嵌入式实时操作系统,具备强实时、高可靠、功能安全、智能化、兼容性强和国产生态的特性。不同于传统的微内核实时操作系统,完整兼容Linux生态环境的同时,提供强大的行业中间件支持,助力客户快速完成行业解决方案的构建。望获实时Linux系统致力于国产基础软硬件的产业链构建,与国产主流芯片及硬件平台适配,提供完整的国产化解决方案,保证功能和性能的同时,避免关键领域的卡脖子问题。
![](http://src.gongkong.com/website/gongkong/images/news/icon.png)
提交
如何安装望获实时Linux系统镜像 - 飞腾&x86版
如何安装望获实时Linux系统镜像 - Rockchip版
工控重磅|低空视频传输在望获实时linux系统上的应用
工控重磅|如何不需1秒就能启动Linux系统?
工控重磅|微秒级实时在无人机控制中的重要性