Skip to content

Commit

Permalink
Merge pull request #71 from windsonsea/home
Browse files Browse the repository at this point in the history
update text by fullowing the latest ui
  • Loading branch information
windsonsea authored Apr 22, 2024
2 parents 416416b + 42ee4b1 commit 5a9eccb
Show file tree
Hide file tree
Showing 10 changed files with 108 additions and 61 deletions.
30 changes: 30 additions & 0 deletions docs/zh/docs/baize/features.md
Original file line number Diff line number Diff line change
@@ -0,0 +1,30 @@
# 算法开发功能特性

作为训推一体化算力平台,依托于 DCE AI 算力调度,提供数据编排、开发环境管理、任务管理、GPU 管理、队列管理,
最大化算力效用并降低算力开销,并且还提供了优化的 AI 开发框架,简化 AI 开发和部署。

- 算力资源全托管

依托于 DCE(DaoCloud Enterprise),提供强大的基础设施能力,支持超大规模算力集群、异构 GPU 等一站式托管,并提供一系列如 vGPU 等软硬一体加速方案。

- 数据编排

支持模型开发过程中数据管理与编排能力,提供如数据集管理、多数据源接入、数据集预热等功能,从底层容器存储引擎进行优化,保证数据的高效与稳定。

- 开发环境管理

满足 MLOps 和 LLMOps 工程师对开发环境的需求,提供多种开发环境,包括 JupyterLab 等,
支持自定义开发环境,一键挂载各种 GPU、数据集等资源。

- 任务管理

支持训练任务的全生命周期管理,提供多种快速创建任务的方式;支持 Pytorch、TensorFlow、PaddlePaddle
等主流任务框架,天然支持单机、分布式、多节点、多卡等多种类任务调度。

- GPU 管理

可以查看全部的 GPU 资源和 GPU 使用情况,支持 GPU 中当前和历史运行的任务情况查看,方便进行 GPU 压力评估。

- 队列管理

支持创建队列,并将队列与工作空间进行关联,保障在各个集群中的队列资源的统筹与隔离。
32 changes: 23 additions & 9 deletions docs/zh/docs/buy/index.md
Original file line number Diff line number Diff line change
Expand Up @@ -6,19 +6,18 @@ hide:
# d.run 介绍

d.run 是 DaoCloud 自研的 AIGC 综合性算力运维和运营平台,整合云原生调度能力,一站式管理算力集群资源,
内置算法开发、模型中心和模型微调,轻松创建智能应用提供生成式智能聊天服务,管理用户反馈。
内置算法开发、模型中心和模型微调,轻松创建智能问答提供生成式智能聊天服务,管理用户反馈。

「DaoCloud 道客」作为算力服务提供商和专业技术支持方,与各大政企、科研机构和运营商等智算中心建设方与运营方紧密合作,
在上海、合肥、天津、香港等多个地区建设算力枢纽中心,实现算力资源跨行业、跨地区、跨层级地自由流动,并通过构建 AI 开放生态平台,
集成丰富的模型套件工具,全面推动算力与应用的协同创新,为所有用户提供高效、可靠、易得的 AI 算力云服务,加速 AI 普惠。

## 产品生态及全景图
## 产品全景图

d.run 作为算力一体化解决方案,能够打造千卡、万卡等大规模高速互联的算力网络,通过性能优化的 DaoCloud Enterprise AI 调度异构算力,
基于多种模型套件加速 AI 应用创新,配合一系列运维和运营服务,全方位保障算力的稳定、可靠。

d.run 面向用户提供功能丰富、易用性好、性能高效的 AI 开放生态平台,
集成数据准备、模型开发、模型训练、模型部署等各个环节所需的便捷实用的生态产品和开源工具,
d.run 面向用户提供功能丰富、易用性好、性能高效的模型套件,集成数据准备、模型开发、模型训练、模型部署等各个环节所需的便捷实用的生态产品和开源工具,
支持高效的模型开发与训练,帮助用户轻松将 AI 技术应用到实际业务中,赋能产业升级。

![产品全景图](./images/landscape.png)
Expand All @@ -32,9 +31,24 @@ d.run 面向用户提供功能丰富、易用性好、性能高效的 AI 开放
**高效的模型开发与训练支持** 能够提供易用的集成开发环境,支持交互式开发和拖拉拽的可视化建模,
通过分布式训练架构提升训练效率,降低算力成本,实现模型快速高效部署,打通开发训练和生产环境。

## 功能特性

查阅各模块的功能清单:

- **智能算力**
- [算力集群](../kpanda/intro/features.md)
- [可观测性](../insight/intro/features.md)
- **模型应用**
- [智能问答](../dak/features.md)
- [流程编排](../monkey/features.md)
- **模型工具**
- [模型微调](../dtx/features.md)
- [算法开发](../baize/features.md)
- [模型中心](../dmc/features.md)
- [全局管理](../ghippo/intro/features.md)

## d.run 优势

- **强大的算力网络** :支持千卡、万卡级别的高速互联,打造超大规模 GPU 集群的最优网络利用,保障算力使用的稳定、高速、可靠。
- **灵活的资源调度** :提供灵活的计算、网络、存储资源调度方案,有效提高资源利用率,用户可按需使用算力资源,显著降低算力使用成本。
- **优异的处理能力** :提供业界领先的算力性能,软硬协同优化,通过 GPU 共享和加速显著缩短训练时间,提高算法的准确性
- **功能丰富的模型套件** :通过 AI 生态开放平台提供各类便捷实用、性能高效的模型套件,为模型开发与训练提供支持,加速 AI 应用落地及创新。
Expand All @@ -59,11 +73,11 @@ d.run 的这些优势来自于丰富的产品模块和功能特性:
接下来使用 DataTunerX 进行[模型微调](../dtx/index.md),尝试微调数据集、超参组,实现模型微调、模型评估和模型推理全生命周期的自动化处理。
通过高效利用算力集群中的底层分布式算力资源,DataTunerX 能够进行矩阵式的模型微调实验,从而推动大型模型的敏捷和自动化迭代。

微调好模型后,AI[流程引擎](../monkey/index.md)可以通过智能化的流程创建文生文、文生图、图生图、文生视频等智能应用
您可以随时调整智能应用所调用的语料库和占用的 GPU 等资源,还能随时了解用户对智能应用的反馈并迅速做出响应
微调好模型后,AI[流程引擎](../monkey/index.md)可以通过智能化的流程创建文生文、文生图、图生图、文生视频等智能问答
您可以随时调整智能问答所调用的语料库和占用的 GPU 等资源,还能随时了解用户对智能问答的反馈并迅速做出响应

通过 AI 流程可以为各行业、各场景分门别类地生成不同[智能应用](../dak/index.md)
一站式管理智能应用的上下层、前后端设施,把控用户需求,洞察前沿趋势。
通过 AI 流程可以为各行业、各场景分门别类地生成不同[智能问答](../dak/index.md)
一站式管理智能问答的上下层、前后端设施,把控用户需求,洞察前沿趋势。

## 行业背景

Expand Down
28 changes: 14 additions & 14 deletions docs/zh/docs/dak/features.md
Original file line number Diff line number Diff line change
Expand Up @@ -5,23 +5,23 @@ hide:

# 功能特性

智能应用的功能特性参见下表
智能问答的功能特性参见下表

| 主要功能 | 细分项 |
| ------- | ------ |
| 对话 | 支持基于已发布的应用关联语料库,实现智能问答功能 |
| | 对AI提供的回答,用户可以进行评价,复制,重新生成,删除对话或提交反馈,高度互动 |
| | 对AI提供的回答,用户可以进行评价,复制,重新生成,删除对话或提交反馈,高度互动 |
| 应用中心 | 支持创建RAG知识问答应用,提供应用的全生命周期管理,以及绑定或解绑工作空间,实现环境隔离 |
| | 支持使用GLM、Llama等模型服务作为应用的模型服务,实现RAG |
| | 提供多种配置选项,包括AI配置、关联语料库、检索策略、召回策略和提示词模板,以优化AI回答的效果 |
| | 支持创建应用的密钥,用于OpenAPI对话,保证安全性 |
| | 支持使用GLM、Llama等模型服务作为应用的模型服务,实现RAG |
| | 提供多种配置选项,包括AI配置、关联语料库、检索策略、召回策略和提示词模板,以优化AI回答的效果 |
| | 支持创建应用的密钥,用于OpenAPI对话,保证安全性 |
| 语料库 | 支持使用北京智源人工智能研究院的bge-large-zh-v1.5、bge-large-en-v1.5对语料进行特征提取 |
| | 支持多种导入方式,包括标准导入、格式化导入、手动导入、图文导入 |
| | 支持多种分片方式,包括按照分割符、分片大小进行分片 |
| | 支持使用插件对文件进行自定义分片 |
| | 支持设置语料库的访问级别,保证数据隔离 |
| | 支持CSV和Excel格式导出语料库分片,方便后续处理和分析 |
| 数据分析 | 提供问答质量、问答次数、分片质量、分片命中率等数据分析 |
| | 收集并处理用户反馈意见,以便改进服务 |
| 我的反馈 | 保存用户提交过的反馈信息,记录用户的使用体验 |
| 系统配置 | 提供配置聊天记忆轮数、提示词模板等系统配置选项 |
| | 支持多种导入方式,包括标准导入、格式化导入、手动导入、图文导入 |
| | 支持多种分片方式,包括按照分割符、分片大小进行分片 |
| | 支持使用插件对文件进行自定义分片 |
| | 支持设置语料库的访问级别,保证数据隔离 |
| | 支持CSV和Excel格式导出语料库分片,方便后续处理和分析 |
| 数据分析 | 提供问答质量、问答次数、分片质量、分片命中率等数据分析 |
| | 收集并处理用户反馈意见,以便改进服务 |
| 我的反馈 | 保存用户提交过的反馈信息,记录用户的使用体验 |
| 系统配置 | 提供配置聊天记忆轮数、提示词模板等系统配置选项 |
4 changes: 2 additions & 2 deletions docs/zh/docs/dak/index.md
Original file line number Diff line number Diff line change
Expand Up @@ -3,9 +3,9 @@ hide:
- toc
---

# 什么是智能应用
# 什么是智能问答

d.run 智能应用是基于知识库构建的应用中心,包括 AI 对话、语料库、插件设置、数据分析、反馈和系统配置等。
d.run 智能问答是基于知识库构建的应用中心,包括 AI 对话、语料库、插件设置、数据分析、反馈和系统配置等。

您在这里可以创建应用和插件,为 AI 对话构建语料库,然后通过数据分析来优化用户体验。

Expand Down
2 changes: 1 addition & 1 deletion docs/zh/docs/dak/my-feedback/my-feedback.md
Original file line number Diff line number Diff line change
Expand Up @@ -5,7 +5,7 @@ hide:

# 我的反馈

d.run 智能应用支持查看用户本人发出的反馈详情
d.run 智能问答支持查看用户本人发出的反馈详情

## 查看我的反馈详情

Expand Down
6 changes: 3 additions & 3 deletions docs/zh/docs/index.md
Original file line number Diff line number Diff line change
Expand Up @@ -11,10 +11,10 @@ hide:
d.run = DaoCloud Runs Intelligence [注册并体验 d.run](https://console.d.run/){ .md-button }

d.run 是 DaoCloud 自研的 AIGC 综合性算力运维和运营平台,
整合云原生能力,构建智能应用体系,化算力为“算利”。
整合云原生能力,构建智能问答体系,化算力为“算利”。

- 容器算力:[购买算力](buy/buy.md)后搭建[算力集群](./kpanda/intro/index.md),通过[可观测性](./insight/intro/index.md)模块监控集群状况。
- 模型应用:通过[流程编排](./monkey/index.md)搭建[智能应用](./dak/index.md),解决实际问题。
- 智能算力:[购买算力](buy/buy.md)后搭建[算力集群](./kpanda/intro/index.md),通过[可观测性](./insight/intro/index.md)模块监控集群状况。
- 模型应用:通过[流程编排](./monkey/index.md)搭建[智能问答](./dak/index.md),解决实际问题。
- 模型工具:[开发算法](./baize/index.md)后[微调模型](./dtx/index.md),在[模型中心](./dmc/index.md)内一站式管理流行的各类大模型。
- 管理:负责用户访问控制、权限管理、审计日志以及 d.run 个性化设置等

Expand Down
30 changes: 15 additions & 15 deletions docs/zh/docs/kpanda/intro/features.md
Original file line number Diff line number Diff line change
Expand Up @@ -5,21 +5,21 @@ hide:

# 功能特性

算力集群的功能特性参见下表:
算力集群提供基础设施能力,支持超大规模算力集群、异构 GPU 等一站式托管,并提供一系列如 vGPU 等软硬一体加速方案。

| 主要功能 | 细分项 |
| ------- | ------ |
| 异构加速 | 支持 Nvidia、天数、昇腾等异构硬件加速 |
| | 支持物理 GPU 单卡资源算力、显存、切分功能 |
| | 多个服务容器可共享单张GPU卡,并支持限制和隔离每个服务容器所占用的GPU算力、显存额度。保障服务间互不干扰,保障服务性能,提升资源利用效率 |
| | 支持按照项目对 GPU 资源进行配额管理 |
| 集群全生命周期管理 | 集群的统一纳管:支持所有特定版本范围内的任意 Kubernetes 集群纳入容器管理范围,实现云上、云下、多云、混合云容器云平台的统一管理 |
| | 基于 DaoCloud 自主开源项目 Kubean 支持通过 Web UI 界面快速部署企业级的 Kubernetes 集群,快速搭建企业级容器云台,适配物理机和虚拟机底层环境 |
| | 支持接入/创建集群,帮助用户构建一站式基础设施管理平台 |
| | 支持创建集群时指定运行时类型,支持 containerd、Docker 等多种运行时 |
| | 一键式集群升级:一键升级自建容器云平台的 Kubernetes 版本,统一管理系统组件升级 |
| | 集群高可用:内置集群容灾、备份能力,保障业务系统在主机故障、机房中断、自然灾害等情况下可恢复,提高生产环境的稳定性,降低业务中断风险 |
| | 节点管理:支持自建集群增删节点,保障集群能够满足业务需求 |
| 集群运维 | 全方位集群监控:全方位覆盖集群、节点的指标监控及告警,实时了解和查看集群和节点状态,及时实施运维措施,保障业务连续性 |
| | 开放式 API:提供原生的 Kubernetes OpenAPI 能力 |
| | CloudShell 访问集群:支持通过 CloudShell 连接集群并通过 Kubectl 访问集群 |
| 异构加速 | 支持 Nvidia、天数、昇腾等异构硬件加速 |
| | 支持物理 GPU 单卡资源算力、显存、切分功能 |
| | 多个服务容器可共享单张GPU卡,并支持限制和隔离每个服务容器所占用的GPU算力、显存额度。保障服务间互不干扰,保障服务性能,提升资源利用效率 |
| | 支持按照项目对 GPU 资源进行配额管理 |
| 集群全生命周期管理 | 集群的统一纳管:支持所有特定版本范围内的任意 Kubernetes 集群纳入容器管理范围,实现云上、云下、多云、混合云容器云平台的统一管理 |
| | 基于 DaoCloud 自主开源项目 Kubean 支持通过 Web UI 界面快速部署企业级的 Kubernetes 集群,快速搭建企业级容器云台,适配物理机和虚拟机底层环境 |
| | 支持接入/创建集群,帮助用户构建一站式基础设施管理平台 |
| | 支持创建集群时指定运行时类型,支持 containerd、Docker 等多种运行时 |
| | 一键式集群升级:一键升级自建容器云平台的 Kubernetes 版本,统一管理系统组件升级 |
| | 集群高可用:内置集群容灾、备份能力,保障业务系统在主机故障、机房中断、自然灾害等情况下可恢复,提高生产环境的稳定性,降低业务中断风险 |
| | 节点管理:支持自建集群增删节点,保障集群能够满足业务需求 |
| 集群运维 | 全方位集群监控:全方位覆盖集群、节点的指标监控及告警,实时了解和查看集群和节点状态,及时实施运维措施,保障业务连续性 |
| | 开放式 API:提供原生的 Kubernetes OpenAPI 能力 |
| | CloudShell 访问集群:支持通过 CloudShell 连接集群并通过 Kubectl 访问集群 |
23 changes: 12 additions & 11 deletions docs/zh/docs/monkey/features.md
Original file line number Diff line number Diff line change
Expand Up @@ -5,20 +5,21 @@ hide:

# 功能特性

流程编排的功能特性参见下表:
懂业务的大模型流程引擎,零代码构建高价值 AI 应用,提供流程可视编排、标准流程定义、构建终端应用、应用可观测性、统一工具实现。
具体的功能特性见下表:

| 主要功能 | 细分项 |
| ------- | ------ |
| 流程可视编排 | 配置每个工具节点之间彼此的参数传递 |
| | 可视化连接工具形成流程 |
| | 图灵完备覆盖所有场景 |
| 标准流程定义 | JSON 形式呈现的图灵完备 DAG 流程 Schema |
| | 基于流程 Schema 调度工具并统一运行 |
| 流程可视编排 | 配置每个工具节点之间彼此的参数传递 |
| | 可视化连接工具形成流程 |
| | 图灵完备覆盖所有场景 |
| 标准流程定义 | JSON 形式呈现的图灵完备 DAG 流程 Schema |
| | 基于流程 Schema 调度工具并统一运行 |
| 构建终端应用 | 将一条复杂流程沉淀成输入输出 |
| | 呈现成表单应用 |
| | 呈现成聊天机器人 |
| | 呈现成集成 API |
| | 呈现成表单应用 |
| | 呈现成聊天机器人 |
| | 呈现成集成 API |
| 应用可观测性 | 可视化呈现流程中的每一个工具节点的日志 |
| | 基于运行时间、运行效果迭代配置或调整流程 |
| | 基于运行时间、运行效果迭代配置或调整流程 |
| 统一工具实现 | 兼容已有开源项目和对应已部署的服务变成工具节点 |
| | 快速注册新工具节点 |
| | 快速注册新工具节点 |
2 changes: 1 addition & 1 deletion docs/zh/docs/news/0403-cp-to-profit.md
Original file line number Diff line number Diff line change
Expand Up @@ -13,7 +13,7 @@ hide:

人工智能大模型的兴起,让 GPU(图形处理器)算力成为极其重要的资源。在这个领域,GPU 算力云服务扮演着重要角色,可以实现算力资源跨地区、跨行业的自由流动。
最近,国家级专精特新“小巨人”企业——上海道客,联合行业伙伴发布了“d.run 算力一体化方案”。这个方案包括上海、合肥等地的算力中心服务,
算法开发、模型微调等模型开发工具以及智能应用、流程编排等应用开发工具,为用户提供一个 AI 算力生态平台。
算法开发、模型微调等模型开发工具以及智能问答、流程编排等应用开发工具,为用户提供一个 AI 算力生态平台。

[![解放日报头版](./images/profit01.png)](https://www.shobserver.com/staticsg/res/html/journal/detail.html?date=2024-04-02&id=370048&page=07)

Expand Down
12 changes: 7 additions & 5 deletions docs/zh/navigation.yml
Original file line number Diff line number Diff line change
Expand Up @@ -2,8 +2,8 @@
nav:
- 首页: https://d.run
- d.run 文档:
- 容器算力:
- d.run 简介: buy/index.md
- d.run 简介: buy/index.md
- 智能算力:
- 购买算力: buy/buy.md
- 算力集群:
- 介绍:
Expand Down Expand Up @@ -158,8 +158,8 @@ nav:
- 指标抓取说明: insight/user-guide/collection-manag/metric-collect.md
- 链路数据的时钟偏移: insight/reference/traceclockskew.md
- 模型应用:
- 智能应用:
- 什么是智能应用: dak/index.md
- 智能问答:
- 什么是智能问答: dak/index.md
- 功能特性: dak/features.md
- 应用中心:
- 创建应用: dak/user-guide/app-center/create-app.md
Expand Down Expand Up @@ -187,7 +187,9 @@ nav:
- 什么是流程编排: monkey/index.md
- 功能特性: monkey/features.md
- 模型工具:
- 算法开发: baize/index.md
- 算法开发:
- 什么是算法开发: baize/index.md
- 算法开发功能特性: baize/features.md
- 模型微调:
- 什么是模型微调: dtx/index.md
- 功能特性: dtx/features.md
Expand Down

0 comments on commit 5a9eccb

Please sign in to comment.