航锦科技 子公司算力官网,提供了使用说明书。
原文 链接
https://www.chaoqing-i.com/view_656.html

随着AI Agent技术的快速发展,基于对话交互的智能助手正在成为企业信息处理与自动化运营的重要工具。近日, Moltbot凭借其多工具协同、任务自动化与自然语言交互能力,受到广泛关注。
使用者可以通过日常使用的聊天软件,例如WhatsApp、Telegram、Slack、Discord、Google Chat、Signal、iMessage、Microsoft Teams、WebChat等,以对话方式调度Moltbot,完成复杂任务。
目前,Moltbot官方主要基于Qwen、Claude等云端API接口运行,这在实际应用中仍面临数据安全、算力成本与合规风险等挑战。
基于此,超擎数智技术团队依托 NVIDIA DGX Spark,探索并实践了Moltbot的本地化部署方案,实现AI Agent与本地算力的深度融合,为企业构建安全可控、稳定高效的智能服务体系。
1
DGX Spark:企业级本地AI算力平台
DGX Spark 是 NVIDIA 面向本地场景打造的一体化AI算力平台。基于最新的Blackwell架构,DGX Spark 配备高达128G显存和1P算力性能,为Moltbot AI Agent运行提供坚实保障。能在办公室或边缘环境中,提供接近数据中心级别的推理与训练能力,不必依赖云端资源。
通过在本地部署大模型与AI Agent,企业可实现:
DGX Spark能为Moltbot等智能应用的落地运行提供坚实的算力基础。
2
基于Ollama的本地模型部署
在DGX Spark上,超擎数智技术团队采用Ollama作为模型管理与推理工具,实现大模型的本地化运行。
部署Ollama后,可将模型文件完全下载至本地,实现从加载到推理的全流程内网完成,无需调用外部API。用户可灵活选配与加载所需模型(如GPT-OSS等),为Moltbot提供本地的模型服务端点。
Ollama部署方案可以参考 NVIDIA 官方文档。
首先我们将ollama的镜像拉到本地。
作者声明: 本文转载自第三方,旨在提供资讯参考,并非证券推荐或投资建议。作者对内容的真实性、准确性不承担保证责任。本文不构成任何投资建议或证券推荐。截至发文日,作者与文中提及的标的不存在持仓关系。