Nvidia Corp.将在周一早些时候推出其新的Nvidia EGX平台,将人工智能带入网络边缘,该平台可以实时感知,理解和处理数据,而无需先将其发送到云或数据中心。
将AI提供给智能手机,传感器和工厂机器等边缘设备是技术发展的下一步。 最早的AI算法是如此复杂,以至于只能在运行在云数据中心中的强大机器上进行处理,这意味着需要通过网络发送大量信息。但这是不希望的,因为它需要大量的带宽并导致更高的延迟,这使得“实时” AI的效果要差得多。
公司真正想要的是在创建数据本身的地方执行AI,无论是在制造设施,零售商店还是仓库。这是一些技术公司试图解决的问题,最近的一次是英特尔公司(Intel Corp.)今天发布了其首款10纳米“ Ice Lake”芯片,但也有数十家初创公司。
但是Nvidia在AI领域的优势是显而易见的,因为该公司的图形处理单元被广泛认为是周围最好的AI处理硬件之一。其中包括其 用于深度学习的Tesla V100和其Quadro GV100(可实时完成光线追踪,即创建逼真的图像的过程)。
新的Nvidia EGX平台可以从基于Jetson Nano处理器的轻量级服务器(可 在几瓦特的速度下每秒执行万亿次操作)扩展到具有机架式Nvidia T4边缘服务器的微型数据中心,该机架可以完成10,000每秒万亿次操作。芯片的节能功能对于AI很重要,因为传统硬件在执行此类任务时会耗费大量精力。
英伟达企业和边缘计算高级总监贾斯汀·博伊塔诺(Justin Boitano)在媒体发布会上表示,对诸如EGX的平台的需求巨大,因为全球将有大约1500亿个机器传感器和“物联网”设备。 2025年。他说,其中许多传感器将用于诸如“智能城市”之类的计划,并将出于需要降低等待时间,实时响应,数据主权等原因,抽出需要现场处理的数据规则或隐私问题。
Boitano说:“无论从视觉还是语言上来说,AI确实是所有行业的杀手级应用。”
如果人们实际上要充分利用这些筹码,则伙伴关系也很重要。因此,Nvidia正在将比在EGX上运行的Nvidia Edge Stack软件与Red Hat Inc.的OpenShift Kubernetes容器编排平台进行集成,以使其与现代软件应用程序兼容。
该平台还集成了Mellanox Technologies Ltd.的安全,存储和网络技术,该公司是Nvidia计划在年底前以69亿美元的价格收购的公司。
Mellanox首席技术官Michael Kagan说:“ Mellanox智能NIC和交换机为从边缘到超大规模数据中心扩展的数据访问提供了理想的I / O连接。”
Nvidia与至少13家不同的服务器制造商合作销售EGX平台,其中包括思科系统公司,Dell-EMC,惠普企业有限公司和联想集团控股有限公司等知名制造商。
EGX还与运行在主要云基础架构服务(例如Amazon Web Services和Microsoft Azure)上的AI应用程序兼容,并且可以连接到IoT服务(例如AWS IoT Greengrass和Azure IoT Edge)。