T/BECC 002-2024智算中心技術要求和評估方法

ICS35040

CCSI6.540

團體標準

T/BECC002—2024

智算中心技術要求和評估方法

Technicalrequirementsandevaluationmethodofartificial

intelligencecomputingcenter

2024-03-28發(fā)布2024-04-02實施

北京電子商會發(fā)布

中國標準出版社出版

T/BECC002—2024

目次

前言

…………………………Ⅲ

引言

…………………………Ⅳ

范圍

1………………………1

規(guī)范性引用文件

2…………………………1

術語和定義

3………………1

縮略語

4……………………1

智算中心總體要求

5………………………2

智算中心服務分類

5.1…………………2

智算中心功能架構

5.2…………………2

智算中心通用要求

5.3…………………3

智算基礎設施

6……………5

機房

6.1IDC……………5

網(wǎng)絡交換機

6.2…………………………9

智算算力服務器

6.3……………………11

通用計算服務器

6.4……………………12

存儲服務器

6.5…………………………12

安全服務器

6.6…………………………13

智算基礎平臺

7……………13

算力服務

7.1……………13

容器服務

7.2……………13

容器鏡像服務

7.3………………………13

網(wǎng)絡服務

7.4……………14

存儲服務

7.5……………14

安全服務

7.6……………14

機器學習平臺

8……………15

總體要求

8.1……………15

數(shù)據(jù)預處理

8.2…………………………15

模型開發(fā)

8.3……………16

模型訓練

8.4……………16

模型推理

8.5……………16

模型優(yōu)化

8.6……………17

模型評估

8.7……………17

模型納管

8.8……………17

Ⅰ

T/BECC002—2024

模型部署

8.9……………18

大模型智算平臺

9…………………………18

總體要求

9.1……………18

數(shù)據(jù)采集

9.2……………19

大模型訓練

9.3…………………………19

大模型微調

9.4…………………………19

大模型推理

9.5…………………………20

大模型多模納管

9.6……………………20

統(tǒng)一監(jiān)控運營平臺

10……………………20

平臺業(yè)務流程

10.1……………………20

統(tǒng)一門戶

10.2…………………………21

用戶控制臺

10.3………………………21

資源管理

10.4…………………………21

運營管理

10.5…………………………22

運維管理

10.6…………………………22

融合多租戶管理

10.7…………………22

統(tǒng)一安全管理

10.8……………………23

自動化安裝部署

10.9…………………23

通用基礎平臺

10.10……………………23

機器學習平臺和大模型智算平臺的運營

10.11………23

智算中心評估方法

11……………………23

評估原則

11.1…………………………23

評估內容與指標

11.2…………………24

評估方法

11.3…………………………24

評估結論與判定

11.4…………………24

附錄資料性智算中心典型場景案例

A()………………25

附錄資料性智算中心統(tǒng)一監(jiān)控運營平臺相關能力

B()………………32

參考文獻

……………………36

Ⅱ

T/BECC002—2024

前言

本文件按照標準化工作導則第部分標準化文件的結構和起草規(guī)則的規(guī)定

GB/T1.1—2020《1:》

起草

。

請注意本文件的某些內容可能涉及專利本文件的發(fā)布機構不承擔識別專利的責任

,。

本文件由北京電子商會提出并歸口

。

本文件起草單位北京電子控股有限責任公司北京電子數(shù)智科技有限責任公司阿里云計算有限

:、、

公司新華三集團首都信息發(fā)展股份有限公司中國軟件評測中心北京電子城數(shù)智科技有限公司

、、、、、

中國電信股份有限公司北京分公司中電云計算技術有限公司浪潮北京電子信息產業(yè)有限公司

、、()。

本文件主要起草人王琳楊坤徐文星陸海翔劉如冰王磊魏詩雅郭磊師宇楊鑫孫東明

:、、、、、、、、、、、

李輝于波徐高杰楊景劉小健劉俊偉馬輝蘭文麗趙德智郝杰

、、、、、、、、、。

技術審查專家吳志剛張群張東于鐵強蔡春久胡良霖曹建彤朱大培陳玉峰張雅彬

:、、、、、、、、、、

馬福忠

。

Ⅲ

T/BECC002—2024

引言

智算中心是開展算力資源服務支撐各領域開展數(shù)據(jù)運營的重要基礎設施之一目前智算中心存

,。,

在能力等級不清晰度量指標不統(tǒng)一服務商的服務能力不明確等問題亟待解決的典型問題包括

、、。:

對于中等復雜模型算力預訓練微調檢驗回歸測試全流程的效率較低

a),、、、;

算力隔離問題號稱支持多個隔離與實際效果不符缺乏隔離評價機制

b),CPU,;

如何保障存儲算力負載全鏈路的高效可靠

c)、、。

因此急需制定本文件從用戶對算力服務的不同需求數(shù)據(jù)應用服務的不同環(huán)節(jié)采集傳輸交互

,,、(、、

加工處理分析建模應用服務等出發(fā)明確算力服務類別功能性能要求和評估方法等作為智算中心

、、),、,

建設評估參考依據(jù)

/:

便于用戶依據(jù)應用場景資金預算對算力服務的選型參考

a)、;

為算力服務供應鏈各方的產品研發(fā)和統(tǒng)一對接提供參考標準實現(xiàn)高效高質量高性價比的

b),、、

算力服務

;

為政府企事業(yè)單位等各類算力用戶第三方評估機構開展算力服務評價提供參考依據(jù)

c)、/。

Ⅳ

T/BECC002—2024

智算中心技術要求和評估方法

1范圍

本文件規(guī)定了智算中心的服務分類功能架構通用要求智算基礎設施智算基礎平臺機器學習

、、、、、

平臺大模型智算平臺統(tǒng)一監(jiān)控運營平臺的技術要求和評估方法

、、。

本文件適用于指導智算中心的研發(fā)設計建設和運營

、、。

2規(guī)范性引用文件

下列文件中的內容通過文中的規(guī)范性引用而構成本文件必不可少的條款其中注日期的引用文

。,

件僅該日期對應的版本適用于本文件不注日期的引用文件其最新版本包括所有的修改單適用于

,;,()

本文件

。

潔凈廠房設計規(guī)范

GB50073—2013

火災自動報警系統(tǒng)設計規(guī)范

G