2025年度未来银行科技服务商TOP100
全世界各行各业联合起来,internet一定要实现!

像衍科技衍生智算系统:助你轻松自建Token工厂!

2026-04-03 eNet&Ciweek

像衍科技衍生智算系统:助你轻松自建Token工厂!

随着人工智能技术的飞速发展,算力已成为驱动创新的核心要素。然而,算力资源“碎片化”分布——不同地域、不同品牌的硬件各自为政(NVIDIA、华为昇腾、海光、沐曦、邃原、寒武纪等),形成一座座“算力孤岛”;使用门槛居高不下——从大模型训练到智能体部署,用户往往深陷底层配置,难以聚焦核心业务。

与此同时,Token正成为AI时代的“硬通货”。大模型与智能体的爆发,让Token需求呈指数级增长。但调用公有云API成本高昂、数据出域,自建算力集群又技术门槛过高——企业迫切需要一座属于自己的“Token工厂”,既能自主生产Token,又能灵活调度算力。

杭州像衍科技有限公司推出了衍生智算系统给出了最佳实践,以“资源统一纳管、集群智能调度、工具链一体化”为核心,让企业既能高效管理算力,又能自主掌控Token的“生产”,为科研、教育、政务、运营商等行业提供全栈式算力解决方案。

1.png

一、产品整体介绍

衍生智算系统是一套集资源管理、集群调度、深度学习工具链、大模型工具链、超算工具链、智能体应用于一体的全栈工具软件平台。

该平台适用于以下行业场景:

科研机构:支撑大规模AI训练、超算模拟、跨域协同研究

高等院校:服务人工智能、数据科学等专业教学与科研实践

政务部门:构建自主可控的智算底座,保障数据安全

运营商/企业:提供弹性算力服务,支持AI业务快速上线

平台的核心价值在于:让算力资源“看得见、管得住、用得好”。从底层异构设备的统一接入,到上层智能体的便捷发布,用户在一套平台内即可完成算力申请、环境搭建、模型训练、服务部署的全流程操作。

1.png

二、功能模块

1. 异构资源统一纳管

平台支持裸金属服务器的统一纳管,涵盖远程状态监控、日志采集、在线文件管理等能力。纳管Agent可快速下发,实现设备的自动化接入与状态追踪。

在存储资源方面,平台对接GPFS、NFS等共享文件系统,支持云盘的申请、分配、按需挂载与取消挂载,并提供文件管理与计费能力。用户可在一个界面上完成对存储资源的全生命周期管理。

尤为关键的是,平台兼容国产与非国产设备,支持NVIDIA、华为昇腾、海光、沐曦、邃原、寒武纪等主流品牌,同时支持分布在不同地域、不同机房资源的统一管理。资源接入后,平台提供按设备、按指标维度的实时监控,涵盖CPU、内存、磁盘、网络,并可细粒度追踪每张GPU卡上每个进程的资源占用。管理员可自定义告警规则,配置多种通知方式,快速感知资源变化,及时介入运维。

2. 智算集群调度

平台支持智算多集群管理,可按设备型号、业务类型划分多个集群。用户通过简单的点选即可自动创建集群,并实现节点的弹性伸缩——高峰期自动扩容,低谷期自动缩容,算力不浪费。

面向特定场景,平台提供细粒度资源切分能力,支持通过vGPU和MIG方式对算力进行精准划分,实现更高精度、更小粒度的资源分配。

在每个智算集群内部,平台提供完整的集群管理能力:

查看集群总体资源与负载

创建命名空间并设置CPU、内存、存储、GPU等资源限额

查看各节点资源状态与负载情况

部署各类负载(无状态、有状态、定时任务、守护进程等),支持弹性伸缩与迁移

网络管理与存储管理(支持NFS等协议)

配置管理(密钥、配置项)

3. 深度学习工具链

智算集群构建完成后,用户可进入深度学习工具链,按需创建Python、TensorFlow、Caffe、MXNet等常用框架的开发环境。指定所需资源即可提交申请,通过远程Terminal或在线Web(Jupyter、VSCode)方式访问,实现代码的在线开发与调试。调试完成的环境可保存,便于复用。

训练任务支持通过模板创建。平台已将算法镜像、训练数据、资源打通,用户选择镜像、输入启动命令、配置资源与环境变量、指定外部数据源后,即可提交训练任务。平台自动调度至合适集群运行,用户可实时查看任务状态,或终止、重启任务。

训练完成后,输出的模型文件可直接在平台上运行,对外提供服务。支持TorchServe、Triton Server等服务方式,并提供模型服务调用能力。

4. 大模型工具链

平台内置30+大模型,涵盖DeepSeek、LLaMA、Qwen、ChatGLM、Mistral、Stable Diffusion等主流模型,支持租户自建模型、模型公开与版本管理。数据集管理同样内置30+数据集,支持自建、公开与版本管理。

模型在线训练支持单卡、单机多卡、多机多卡训练,涵盖SFT、DPO等训练方式,可配置迭代次数、学习率、批处理大小等参数,支持训练日志查询与损失值等指标监控。

模型在线调试功能允许用户将上架模型或训练好的任务进行调试运行,测试生成效果。达到预期后,可将训练任务导出为正式模型,发布至模型管理市场,供后续服务使用。

模型在线服务支持文本对话、文生图、Embedding、Rerank等类型模型的自动封装部署,支持桥接第三方模型服务,作为公有云与私有云模型的统一出口。服务配置完成后可在线体验,并暴露与OpenAI兼容的标准API接口,支持授权认证。

知识库管理支持PDF、DOC、XLS、TXT、MathType等格式文档的自动解析,支持内容自动分段与分段调整,支持召回测试。

智能体应用支持按需创建知识库智能体,配置模型、知识库、角色等信息,并可发布为H5,兼容移动端。提示词管理功能支持在智能体中复用预设提示词。

用户在一套平台上即可完成算力调度、大模型微调、服务部署与智能体发布的完整闭环。

5. 超算集群调度

平台同时支持超算多集群管理,区分个人集群与公共集群。公共集群所有平台用户均可使用,个人集群由创建者授权指定用户使用。集群可自动安装部署,节点支持动态增加与卸载,角色可配置为控制节点、登录节点、计算节点中的一种或多种。

进入单个超算集群后,平台提供:

节点配置:查看与修改节点状态,配置可用资源

分区管理:创建与删除分区,分配节点,配置资源限制、用户权限、QoS、调度策略等

QoS服务质量管理:配置资源限制、优先级、调度抢占等高级参数

作业与集群配置:查看作业详情,配置调度策略与定时策略

6. 超算工具链

基于超算集群调度能力,平台提供完整的超算工具链:

超算应用管理:涵盖量子计算、电子计算、流体力学计算、计算化学、计算生物等多门类应用,同时提供编译环境(C++、Fortran、MPI)与数学库。每类应用均有完整指导说明,支持版本控制与状态管理。

使用方式:用户可远程进入集群,查看节点登录信息,支持SFTP和SSH两种协议在线连接。支持在线提交作业,选择集群、工作目录、分区、QoS、计算资源及脚本命令,也可创建模板方便重复提交。作业文件支持上传、下载、移动等操作。

7. 运营管理

平台提供企业级运营管理能力:

多租户管理:支持多级组织架构,采用RBAC方式定义权限角色,权限细项达300余项,均可精细管控。

计费管理:支持自定义多种计费规则(整机或资源细项),支持为不同租户定制差异化计费策略,支持预付费(包年包月)与后付费(按时长)模式,提供充值、计费、扣费、退费全流程,支持消费统计与趋势分析。

操作审计:对管理员及各级租户的数百项敏感操作行为进行详细记录,包括操作人员、时间、内容与结果,支持查询检索。

算力运营大屏:展示金额充值、消费、退款趋势,租户数量趋势,资源纳管与分配信息,资源利用率统计,支持平台内置与外置大屏以适应不同场景。

三、应用落地

衍生智算系统已在多个行业实现成功应用:

科研领域:支撑国家级实验室开展大规模AI训练与超算模拟,实现跨地域资源的统一调度与高效利用,显著提升科研产出效率。

高等教育:服务于多所“双一流”高校的人工智能、数据科学等专业教学,提供开箱即用的深度学习与超算环境,降低学生与教师的技术门槛。

运营商与企业:为企业AI业务提供弹性算力服务,支持从模型训练到智能体应用的全流程上线,大大缩短企业智能应用的开发周期。

1.png

四、公司介绍

杭州像衍科技有限公司成立于2021年9月,是国家高新技术企业。公司天使轮获IDG、红杉、涌铧等多家顶级投资机构数千万元投资,致力于打造以【异构分布式智算操作系统+AI工具链/模型库+数字人智能体】为核心的全栈工具软件平台及相关行业解决方案。

公司核心团队来源于浙江大学计算机辅助设计与图形系统全国重点实验室——一个在全球三维图形计算和视觉智能领域享有盛誉的研究团队。团队成员长期深耕图形学、计算机视觉与人工智能,在CVPR、ICCV、SIGGRAPH等国际顶级会议上发表论文近百篇。

以“创造每个人的数字化身”为使命,像衍科技将深厚的学术积淀转化为面向市场的技术产品,赋能千行百业实现跨越时空的自然信息交流与情感传递。从算力底座到上层应用,像衍科技正在为AI时代的智能服务构建坚实的技术基石。

相关频道: eNews 媒体专区

您对本文或本站有任何意见,请在下方提交,谢谢!

投稿信箱:tougao@enet16.com