工控网首页
>

新闻中心

>

业界动态

>

望获实时Linux系统运行DeepSeek R1大模型,成本低至千元内!

望获实时Linux系统运行DeepSeek R1大模型,成本低至千元内!

DeepSeek凭借其V3和新推出的R1两款模型,实现了与OpenAI 4o和o1比肩的性能,同时成本仅为十分之一,为AI技术的普及提供了经济高效的解决方案。DeepSeek的崛起,不仅标志着中国AI技术的突破,更预示着全球AI市场将迎来一场新革命。

以下是详细的部署步骤,帮助您快速实现这一国产技术组合的落地应用。

硬件准备:

  • RK3588开发板:京博航友善NanoPC-T6(预装望获实时Linux)

  • 工作主机:ubuntu笔记本电脑

部署步骤

从Hugging Face拉取DeepSeek-R1的1.5B蒸馏模型到x86平台:

二、配置模型转换脚本

企业微信截图_17389142585356.png

执行模型转换脚本,等待转换完成:

四、部署模型

企业微信截图_17389142794590.png

在RK3588平台,进入rknn-llm/rkllm-runtime/examples/rkllm_api_demo目录,生成llm_demo运行文件:

六、运行模型

企业微信截图_17389142947660.png

在user : 后输入对话内容,测试模型的运行效果。

企业微信截图_17389072402019.png企业微信截图_1738907620962.png

关于望获实时Linux系统

望获实时Linux系统是国科环宇重点研发的嵌入式实时操作系统,具备强实时、高可靠、功能安全、智能化、兼容性强和国产生态的特性。不同于传统的微内核实时操作系统,完整兼容Linux生态环境的同时,提供强大的行业中间件支持,助力客户快速完成行业解决方案的构建。望获实时Linux系统致力于国产基础软硬件的产业链构建,与国产主流芯片及硬件平台适配,提供完整的国产化解决方案,保证功能和性能的同时,避免关键领域的卡脖子问题。



审核编辑(
黄莉
)
投诉建议

提交

查看更多评论
其他资讯

查看更多

如何安装望获实时Linux系统镜像 - 飞腾&x86版

如何安装望获实时Linux系统镜像 - Rockchip版

工控重磅|低空视频传输在望获实时linux系统上的应用

工控重磅|如何不需1秒就能启动Linux系统?

工控重磅|微秒级实时在无人机控制中的重要性