研华推出GenAI Studio边缘AI软件平台

2025年初，全球AIoT平台与服务提供商研华科技宣布推出一款新的软件产品——GenAI Studio，该产品是研华Edge AI SDK的一部分，主要目标是为了满足对成本效益高、本地部署的大语言模型（LLM）解决方案日益增长的需求。

加速人工智能发展，应对行业挑战

作为研华边缘AI软件开发工具包（Edge AI SDK）的一部分，GenAI Studio致力于解决行业痛点，例如缩短工厂操作员等待关键信息的时间，减轻医疗专业人员的文档工作负担。其无代码、成本效益高的平台简化了大语言模型（LLM）的采用，使企业能够快速高效地部署AI解决方案，从而提高生产力和运营效率。

GenAI Studio为研华Edge AI SDK构建，凭借其多功能的LLM平台，具备出色的本地和云端LLM集成能力，支持包括OpenAI、Gemini、Anthropic和Ollama在内的多种LLM。此外，它还引入了全参数微调功能，针对GPU资源有限的环境进行了优化，实现了更广泛的可访问性和性能提升。

GenAI Studio为大语言模型（LLM）开发提供了一整套全面的工具：

首先是集成微调与推理服务：GenAI Studio将微调与推理功能相结合，最大化硬件利用率，实现资源的更灵活、高效分配。

再次，该平台具备高级GPU资源管理与任务调度的能力：这些功能使用户能够优化AI硬件性能，提升高价值设备的成本效益。

随着AI的迅猛发展，对易于获取的大语言模型解决方案的需求日益凸显，但许多公司因资源有限而受阻。研华边缘AI软件开发工具包（Edge AI SDK）通过提供一套工具来应对这一挑战，该工具能够高效地评估、开发和部署边缘AI应用。例如，传统上需要超过30个、每个拥有48GB内存的GPU来微调一个700亿参数的大语言模型，而使用研华Edge AI SDK，仅需4个GPU即可完成。这代表着资源需求减少了87%，显著降低了成本，使大语言模型解决方案更加触手可及。

借助研华的GenAI Studio和边缘AI服务器AIR-520，赋能AI创新 

为与GenAI Studio相辅相成，研华的AIR - 520边缘AI服务器提供了一个强大的硬件平台，配备了NVIDIA RTX GPU和Phison AI SSD。这种整合交付了可靠、高效的计算能力，旨在满足制造业、医疗保健、零售等行业的AI应用需求。

研华Edge AI SDK软件开发工具包：从模型微调到部署简化工作流程 

研华Edge AI SDK软件开发工具包是一个为无缝边缘AI开发设计的全集成平台。凭借预配置的硬件和优化调整的软件，它提供了即插即用的体验，能够实现成本效益高的大语言模型定制、无缝工具包兼容以及大规模边缘部署的轻松管理。研华边缘AI软件开发工具包以可靠性、可扩展性和用户友好性为设计理念，简化了通往AI创新的道路。它现在包括三个核心组件：

1.GenAI Studio：便于在本地以成本效益高的方式创建、评估和集成定制的大语言模型。

2.推理套件：能够快速优化和评估与嵌入式操作系统兼容的高效AI运行时。

3.操作平台：为大规模边缘部署中的AI模型和应用更新提供高效管理，整合MLOps以简化操作。

(图：研华GenAI Studio操作界面)

研华通过其Edge AI SDK软件开发工具包以及新增的GenAI Studio软件模块，提升了企业更高效、更低成本地开发和部署AI解决方案的能力。

关于研华：

研华成立于1983年，以“智能地球的推手”作为企业品牌愿景，一直专注深耕于工业物联网、嵌入式物联网、智慧城市三大市场。为迎接物联网、大数据与人工智能的大趋势，研华提出以边缘智能和研华工业云平台为核心的物联网软、硬件解决方案，协助客户伙伴串接产业链。研华业务分布全球28个国家，拥有近9000名员工，以强大的技术服务及营销网络，为客户提供本土化响应的便捷服务。此外，研华也积极协同伙伴共创产业生态圈，加速实践产业智能化的目标。 （公司网站：www.advantech.com.cn ）

关于研华IoT嵌入式平台事业群（EIoT , Advantech Embedded IoT Group）

研华嵌入式物联网平台事业群提供全系列嵌入式计算机板卡、智能系统、外围模块、软件服务经销以及客制化设计导入服务，涵盖全产品研发设计、制造与全球销售与服务，并专注垂直产业发展。为迎接物联网、大数据与人工智能的发展，我们还提供从边缘运算(Edge Computing)到云服务(Cloud Services) 的物联网整合解决方案，包含但不限于AIW无线解决方案、IoT Gateway 网关、EIS边缘智能服务器及DeviceOn智能化设备维运管理软件、WISE-PaaS物联网软件平台及主流第三方云服务平台，更针对人工智能应用推出一系列Edge AI模块，推理系统及产业解决方案，专注产业物联网解决方案开发及区域深耕。（服务专线/QQ：400-001-9088，微信公众号：研华嵌入式物联网）