快捷搜索:  创意文化园  as  test  1846  as:3128  test:8080  1846:3128  www.ymwears.cn

运城市农廉网:Jetson Xavier NX开发套件着手玩硬体篇:同时执行4 个容器[榨干AI(电脑)

笔者在前篇文章中简朴先容了Jetson Xavier NX开发套件,以及NVIDIA带来的全新原生云端手艺,在这篇文章中我们将针对Jetson Xavier NX开发套件做更深入的先容,而且执行4款容器化的AI(应用程式),以及对Jetson Xavier NX <举行效能测> 试。

外型靠近但可扩充M.2固态硬碟

基本上Jetson Xavier NX开发套件就是把Jetson Xavier NX运算模组装在I/O扩充底座上,因此硬体规格大至相同,SoC方面具有6个Arm v8.2处置器焦点,在15W功耗设定下最高时脉可 达[1.9GHz,以外另有384个CUDA焦点、最高时脉为1.1GHz的Volta架构绘图处置器、48个Tensor张量处置器焦点与2个深度学习加速器(Deep Learning Accelerator)引擎,并搭载8GB LPDDR4x记忆体,在15W功耗搭配INT8运算模式下可以带来21TOPs的AI运算效能。2者最大的差别,在于运算模组内建16GB eMMC储存媒体,开发套件则无,需自行安装microSD卡。

在影像处置能力部门,Jetson Xavier NX开发套件具有2组MIPI CSI-2 DPHY摄影机端子,具有最高2组4K、30p的H.265、H.264影像编码能力,以及最高2组4K、60p的H.265或2组4K、30p的H.264影像编码能力。

Jetson Xavier NX运算模组的优点之一就是具有厚实的I/O端子,提供4组USB 3.1,以及USB 2.0 Micro-B、GbE乙太网路、支援4K影像输出的HDMI与DisplayPort端子各1组,而考量到Jetson Xavier NX较强的运算效能与更广的应用局限,因此搭载了M.2 Key E介面的Wi-Fi无线网路、蓝牙通讯模组,提供更多〖{元}〗的连线能力,使用者也可以透过M.2 Key M插槽安装NVMe传输模式的固态硬碟,弹性扩充储存容量。

Jetson Xavier NX与Jetson Nano等2款运算模组的尺寸相当靠近,而2者的开发套件的设计也十分靠近,但由于Jetson Xavier NX的最大功耗为15W,比Jetson Nano的10W多出50%,因此使用具有风扇的自动式散热器强化散热能力。

Jetson Xavier NX的详细规格,《可以》看到最佳效率(10W)与最大效能(15W)的电力模式差异。

Jetson Xavier NX开发套件为运算模组加上I/O扩充底座的组合。

开发套件提供厚实的I/O端子,利便开发者毗邻种种周边装置。

与Jetson Nano开发套件的尺寸相近,但包装盒尺寸却因Jetson Xavier NX附上电源供应器而相差甚远。

两款开发套件本体的设计相当靠近,图左为Jetson Nano,『右为』Jetson Xavier NX。

GPIO HAT的设计也相同,利便延用现有周边装置。

Jetson Xavier NX具有2组摄影机端子,Jetson Nano只有1组。

Jetson Xavier NX机身底部具有M.2 Key E、M.2 Key M插槽各1,Jetson Nano则一无所有。

容器让软体部署、执行更利便

受益于更强的效能与更大的记忆体容量,让Jetson Xavier NX能够同时执行多个容器化的AI(应用程式)、服务。而使用容器最大的利益就是能够大幅简化软体部署的程序,以安装NVIDIA 官方提供的范[例为例,透过Docker的「docker pull」指令就能快速下载容器并直接执行,历程能省下许多安装与设定的时间。

这些类型将应用情境设定为零售业、医疗院所、堆栈的服务机器人,而机器人需要具有辨识主顾、侦测主顾在和谁讲话、知道对话历程中主顾所指的位置、明白主顾的语言、提供有用的谜底等等。因此Jetson Xavier NX需要透历程式举行人物辨识、眼光辨识、姿势辨识、语音辨识、自然语言处置等事情,因此NVIDIA在类型中透过下列4个容器完成这些功效。

类型程式使用的容器
DeepStream容器:透过Resnet-18模子辨识人物
Pose容器:透过Resnet-18模子辨识姿势
Gaze容器:透过MTCNN模子侦测脸部区域、NVIDIA Facial Landmarks模子侦测脸部特征、NVIDIA Gaze模子侦测左/右眼与全脸
Voice容器:透过Quartznet-15X5模子辨识语音、BERT模子处置自然语言
(皆转换为TensorRT型式执行)

在下面实测影片中,可以看到画面左上是人物辨识,左下为姿势辨识,右上为自然语言处置,右下为眼光辨识,虽然类型并非透过摄影机即时撷取影像,而是透过预录影片取代,但仍可看到Jetson Xavier NX能在15W的功耗下完成这些事情,效能与电力效率相当精彩。

Jetson Xavier NX能透过容器同时执行多个AI(应用程式)与服务。

▲在实际操作录影中可以看到Jetson Xavier NX流通完成这些AI运算。

Jetson家族同台测试

在效能实测的部门,笔者稀奇准备了旗舰级的Jetson AGX Xavier与入门级的Jetson Nano等3款开发套件做为对照组,划分看看这些价位、功耗差别品级的AI电脑在效能的显示上有什么差异。

在AI推论效能测试方面,笔者接纳NVIDIA提供的Jetson Benchmarks工具举行测试,它会测试执行Inception V4、VGG-19、Super Resolution、Unet、OpenPose、YoloV3-Tiny、ResNet-50、SSD Mobilenet-v1等8种影像辨识、处置演算法的效能显示。

另一方面,笔者也会在Jetson AGX Xavier与Jetson Xavier NX上举行BERT自然语言处置的效能测试,其中Base项目为使用基准模子(Base Model),而Large则为使用大型模子(Large Model),Jetson Nano则因记忆体容量与效能限制无法执行而略过。

笔者稀奇准备了Jetson Xavier NX以及Jetson AGX Xavier、Jetson Nano <举行效能测> 试对比。

Jetson家族成员的效能对比,其中Jetson Xavier NX的义务就是取代Jetson TX2的市场定位。

在大部门的AI推论中,Jetson Xavier NX虽然只有Jetson AGX Xavier一半左右的效能,但可大幅领先Jetson Nano。

Jetson Xavier NX领先Jetson Nano的幅度约在10至20倍之间不等,差距相当大。

在BERT效能测试中,Jetson AGX Xavier效能约略比Jetson Xavier NX多出1倍。

由于边缘运算装置与AI装置依使用情境差别,尺寸、耗电量、事情温度、防水等需求都有着相当大的差异,这时候开发者就可以选择阶级定位差别的Jetson来完成义务,并在「One Software One Architecture」(单一软体、单一架构)的观点下,让相同的软体得以在效能与尺寸差别的Jetson运算模组上运作,不只降低了软体的开发与维护成本,也施展更大的使用弹性。

这次测试的3款Jetson开发套件各别有差别的定位,入门级的Jetson Nano以美金99〖{元}〗(约合新台币2,990〖{元}〗)的价钱杀入市场,并支援5W、10W等功耗设定,适合轻量装置应该,美金399〖{元}〗(约合新台币12,040〖{元}〗)的Jetson Xavier NX <站稳中阶市场> ,能在10W、15W的功耗设定下带来可关的效能提升,现在市价落在美金699〖{元}〗(约合新台币21,090〖{元}〗)Jetson AGX Xavier具有10W、15W、30W等功耗设定,虽然尺寸大了许多,但能知足更高阶的运算需求,开发者可以在初期阶段以开发套件快速打造试作品,并在正式量产时转移至运算模组。

最新推出的Jetson Xavier NX的定位为取代Jetson TX2,并填补Jetson Nano、Jetson AGX Xavier等2《者间》尺寸与效能的空缺,除了能知足现在许多AI应用聚焦的影像辨识,还能应用于更庞大自然语言处置、语音辨识等,赋予边缘装置更多可能性。 

 

系列文章:
Jetson Xavier NX开发套件着手玩软体篇:原生云端与容器功效引爆应用潜力
Jetson Xavier NX开发套件着手玩硬体篇:同时执行4个容器榨干AI电脑(本文)

,

sunbet 申博

Sunbet 申博www.1888ss.com秉承以客为先的理念,多年运营、专业团队、专注服务、值得信赖。

发表评论
来博棋牌招商声明:该文看法仅代表作者自己,与本平台无关。请自觉遵守互联网相关的政策法规,严禁发布色情、暴力、反动的言论。
评价:
表情:
用户名: 验证码:点击我更换图片

您可能还会对下面的文章感兴趣: