1小时前
来源:极客公园
星流计算(NovuInfra,浙江星流计算科技有限公司)发布 SerpForge™ AI 模型训推平台(SerpForge™ AI Model Training & Inference Platform),面向全行业企业与机构,贯通数据处理、模型训练、效果评测、推理部署与应用反馈,支持用户基于自身数据和业务需求构建专属 AI 能力。
通用模型进入企业业务流程,往往还需适配专业术语、输出规范和具体任务。SerpForge 将模型调优与业务反馈连接起来,为制造、金融、能源、医疗等领域的专业问答、文档生成、语音处理和智能体应用提供支撑,推动模型能力融入实际工作流程。
图 1 SerpForge™ AI 模型训推平台工作台
贯通五环闭环 让模型迭代有据可循
SerpForge 将「数据—训练—评测—部署—反馈」组织为一条可管理的模型生产流程。训练前,平台检查数据重复、格式、泄漏、隐私信息、覆盖度与适配性,帮助用户识别质量问题。通过网页操作与流程编排,用户可以组织训练任务、查看运行状态,并比较不同实验版本。
在评测环节,用户可围绕业务任务设置评测数据与达标门槛,未达标的模型将被拦截部署。平台关联保存数据版本、训练记录、评测结果与模型产物,支持回溯每次升级的依据。模型上线后,业务人员的修改与评价经审核整理,进入下一轮训练,形成持续改进机制。技术团队可据此追踪实验过程,业务团队则结合场景评测与使用反馈判断模型表现,减少模型开发和应用验收之间的脱节。
图 2 SerpForge 模型训推五环闭环
一基座多任务 提升场景适配与调优效率
平台采用 LoRA 插件化适配方式,在共享基座上训练不同任务插件,支持独立训练、评测和版本管理,由推理服务按请求调用。这有助于减少重复部署完整模型的资源开销,让新增场景与版本更新更加灵活。企业可根据模型规模、业务量和并发需求配置资源,为不同部门分别管理任务能力。
在调优环节,自动实验流程串联训练配置调整、模型训练、效果评测与实验记录。AI 结合实验结果提出优化建议,用户选择继续、定版或停止;参数白名单、数值边界及轮次和算力时长限制约束自动化运行。平台还可协同知识库与智能体,让微调改善任务行为、知识库提供更新资料,支持业务应用持续优化。借助标准接口,模型服务可接入企业已有系统,配合智能体完成资料检索、内容生成等任务,再由业务人员审核确认。
创新 Agent 计算架构 支撑全国产化与信创建设
面向智能体多轮交互与持续上下文处理需求,星流计算提出 Agent Native Compute(智能体原生计算)架构,并通过 NovuWing Runtime 实现。据公司介绍,该架构的首创性创新在于基于 KV Cache 语义的三级内存调度:以模型上下文缓存为管理对象,协同调度显存(L0 级)、主机内存(L1 级)与 NVMe 存储(L1.5 级),使计算资源配置更贴合智能体任务的运行需求,为多轮交互与连续执行提供支撑。
NovuWing Runtime 与飞腾 ARM 服务器平台、国产加速卡、麒麟操作系统及自研软件协同,支撑全国产化部署与信创环境建设。训练、推理、存储与日志可在用户自有环境内完成,结合权限分级、版本管理、操作审计和资源监控,便于企业统一管理数据、模型与运行过程。部署可从单部门试点逐步扩展,按业务需求配置资源,兼顾现有系统衔接和后续应用增长。
布局全栈 AI 基础设施 从模型生产走向智能体应用
星流计算定位于全栈 AI 基础设施提供商,围绕国产算力底座、NovuWing 计算与推理支撑、SerpForge 模型训推、SerpMind 智能体系统,以及 MCP 业务接口和应用入口构建产品体系。各层协同连接资源调度、模型生产与业务执行,为企业建设 AI 应用提供完整基础。
围绕这一定位,星流计算以 Agent Native Compute 架构为技术主线,以全国产化与私有化部署为基础,通过开放接口连接既有业务系统,推动算力、模型与智能体应用协同演进。此次 SerpForge 发布进一步完善了模型生产与反馈环节,支持企业从具体场景起步,逐步拓展智能体应用。
来源:互联网
声明:此文版权归原作者所有,若有来源错误或者侵犯您的合法权益,您可通过邮箱与我们取得联系,我们将及时进行处理。邮箱地址:zhaobozhi@jnexpert.com
推荐
我要评论