克日, 国际权势巨子 AI 机能基准评测平台 MLPerf 公布新 推理 (Inference v2.0) 测试成就, 总计跨越 10 家国际着名办事器厂商的数十种产物介入了本次测试。此中, 宁畅 X640 G40、X660 G45、X620 G40 野生智能办事器, 正在 Closed (封锁) 赛段的 3D-UNet99 (图象朋分)、SSD-large (方针检测重量级) 与 Bert-99 (天然说话处置) 等模子测试中机能表示超卓, 共取得 59 项 一成就。

MLPerf 基准测试正在国际 AI 范畴有极高影响力, 其基准同盟已有谷歌、Intel、NVIDIA、微软、Facebook 等超 50 家成员。MLPerf Inference v2.0 AI 基准测试包罗 Datacenter (数据中间) 和 Edge (边沿) 两年夜场景, 介入测试的各计较体系基于统一套参数运转。

X640 G40 取得 Datacenter 组全场 一

搭载 NVIDIA A100 Tensor Core 80GB GPU, 宁畅 X640 G40 正在 Closed (封锁) 赛段一切已公布的产物中, 取得 10 项 Datacenter 组整体机能 一成就, 也是本次测试中的全场 一。

新 的 MLPerfInference v2.0 设置了分歧范畴的 Benchmark 子项, 切近前沿 AI 利用场景。X640 G40 正在 3D-UNet99 (图象朋分)、SSD-large (方针检测重量级)、Rnnt (语音辨识) 和 Bert-99 (天然说话处置) 等多个典范模子测试中均获得高光表示。

具有微弱机能的宁畅 X640 G40 可针对分歧 AI 场景和练习模子停止互联优化, 知足分歧范例客户需求。此中,SSD-large 模子正在线分数 8994.9、离线分数 9279.37, 那一成就代表了宁畅 X640 G40 每秒可完成 9200 多张图片中信息的分类、定位与精准检测, 且可应对近 9000 次及时方针检测的推理使命;Rnnt 模子离线分数为 127213, 代表宁畅 X640 G40 每秒可完成 12 万次语音的辨认要求。

X660G45 拿下 Edge 组单项机能冠军,Datacenter 组同设置装备摆设 7 项 一

一切产物中, 宁畅 X660 G45 搭载 NVIDIA A100 Tensor Core80GB GPU, 正在 SSD-Mobilenet (方针检测挪动端) 模子测试的 Multi-Stream (大都据流) 场景中, 以 0.44 成就击败一切参赛产物, 获 一成就。同时,X660 G45 还获得 Datacenter 组同设置装备摆设的 7 项 一, 正在 SSD-large、ResNet、Bert-99、Dlrm -99 (智能保举) 四项使命中都实现了极佳的机能成果。其 ResNet 得分正在线为 286,030、离线为 316,636, 代表宁畅 X660 G45 可以或许每秒完成跨越 30 万张图片中各个事物种别的海量辨认。

X660 G45 是专为深度进修练习开辟的高机能计较平台, 采取 600GB / s 的 NVLink 总线高速互联, 每一个 GPU 还可搭配 HDR 200Gb / s InfiniBand 收集和 NVMe SSD 高速缓存, 帮忙用户搭建 GPU 高速集群, 同时连系近 500TB 的当地存储容量, 可极年夜收缩 AI 模子练习时候。

X620 G40 赢取 Datacenter 组同设置装备摆设 15 项 一

本次测评中, 搭载 4 颗 NVIDIA A2 Tensor Core 的宁畅 X620 G40 取得 Datacenter 组同设置装备摆设 15 项 一的成就。X620 G40 正在 SSD-large、ResNet、3D-UNet99、Bert-99、Rnnt 和 Dlrm-99 等几近一切模子测试中都获得优良成就, 充实证实产物正在推理机能上鹤立鸡群, 可以或许应对各类庞大的 AI 应战。

X620 G40 做为一款 2U 高度野生智能办事器, 撑持 PCIe4.0 高速总线手艺, 适配 NVIDIA 各种 GPU 加快卡, 是抱负 AI 推理计较平台, 同时还可胜任桌面假造化、云游戏和视频流转码等多 IT 行业用处需求。另外,X620 G40 还具有关头部件安康状况监控和上报功用, 能够为数据中间运维保驾护航。

此次 MLPerf Inference v2.0 榜单的公布, 进一步彰显了宁畅正在 AI 办事器范畴的气力职位。以此为依托, 宁畅将延续鞭策手艺立异, 不竭深切各类 AI 利用场景, 以智能定造算力赋能用户更好成长。