什么是边缘计算？

边缘计算是一种分布式计算架构，将应用程序、数据和服务从网络的中心节点移动到网络的逻辑边缘节点进行处理。边缘计算将原本由中心节点处理的大规模业务分解为更小、更易于管理的部分，分布到边缘节点进行处理。

什么是边缘计算？
边缘计算把需求放在离消费者越近的地方，越理想。当我想吃东西的时候，我想花时间走到街角的甜甜圈店，我觉得我很匆忙；如果你在桌子附近放一盒甜甜圈，你可以用手拿到它，你会立即感到满意。

边缘计算也是如此。在处理数据的过程中，将数据传输到运行在云环境中的人工智能应用中，难免会较慢得到答案；如果传递给相邻的边缘服务器，就像直接从手边的粉红色包装盒里拿起一个糖霜甜甜圈一样简单方便。

很有可能此刻你会享受到边缘计算带来的便利，而这种体验就来自于你口袋里的智能手机。存在于电信网络“边缘”的最新智能手机可以处理语音响应内容并以更智能的方式拍摄更好看的照片。

边缘计算已经讨论了几十年。这个概念是获取和处理尽可能靠近源的数据。边缘计算需要在海量流数据的地方进行处理，比如自动驾驶汽车、工厂机器人、医院医学影像机器、零售店收银台摄像头等，这些地方只有几千兆字节。甚至几TB的数据收集应用项目都依赖边缘计算技术。

预计到2025年将有1500亿个机器传感器和物联网设备不断传输各种数据，所有这些数据都需要进行处理。5G 网络的出现比 4G 网络快十倍，开启了人工智能服务数量增加的可能性，这进一步增加了对边缘计算的需求。

智能手机让一切变得更智能
谷歌、苹果和三星的新智能手机都加入了更强大的人工智能处理能力，以便更好地理解用户的问题，并利用计算摄影技术让用户拍摄的照片在几毫秒内变得更好看。只是从物联网设备流出的海量数据远高于人们使用智能手机产生的数据量。

许多联网的车辆、机器人、无人机、移动设备、摄像头和物联网传感器，再加上医学影像设备，都对边缘计算提出了更高的要求。这些巨大的计算操作的工作量和它们使用的海量数据需要部署人工智能进行高性能边缘计算。当前分秒必争的人工智能计算运算，需要边缘计算来减少数据在远程服务器处理的往返传输带来的延迟和带宽问题。

边缘计算的工作原理
集中管理服务器的数据中心通常位于空间成本和电力成本较低的地方。即使使用最高速的光纤网络，数据传输速度也不会快于光速。远程传输数据时，数据与数据中心之间的物理距离成为延迟的原因。

边缘计算可以解决这个问题。
边缘计算可以在多个网络节点上运行，缩小数据和处理器之间的物理距离以减少瓶颈并加速应用程序的执行。

数十亿个配备小型嵌入式处理器的物联网和移动设备在网络上运行。它们最适合处理电影等基本应用程序。

如果世界各地的各个行业和市政当局不对物联网设备生成的数据使用人工智能，那将是安全的。但是，他们需要开发和运行使用密集计算的模型，这需要传统的边缘计算。采取新的方法。

边缘计算对城市有什么用？
许多大型企业和初创公司已经协助市政部门在网络边缘加入人工智能，例如在一些城市开展人工智能应用，以缓解交通拥堵，提高交通安全。Verizon 使用 NVIDIA Metropolis IoT 应用程序框架，结合 Jetson 的深度学习能力，分析多个流式视频数据，以寻找改善交通流量、提高行人安全和解决大都市地区停车问题的方法。

Miovision Technologies 是加拿大的一家初创公司，它使用深度神经网络分析自己的摄像头和来自城市基础设施的数据，以优化控制交通信号并保持车辆行驶。

NVIDIA Jetson 的紧凑型超级计算模块与 NVIDIA Metropolis 提供的改进洞察相结合，可以加速 Miovision 和该领域其他公司的研究成果。高效节能的Jetson可以同时应对多个传入的电影内容，让人工智能进行后续处理。这种组合为网络瓶颈和流量拥塞提供了替代解决方案。边缘计算也在扩展。NVIDIA Metropolis 等工业应用程序框架和第三方人工智能应用程序在 NVIDIA EGX 平台上运行以获得最佳性能。

边缘计算是人工智能的优势
将边缘计算用于人工智能有很多优势，例如将人工智能计算技术带到数据产生的地方，包括智能零售、医疗保健、制造、交通和智慧城市。

这种计算领域的变革为企业提供了新的服务机会，提高了企业的运营效率和成本节约。与运行 CPU 机架的传统边缘服务器不同，从 Jetson 系列超级计算模块到全机架 NVIDIA T4 服务器，更轻、更小的 NVIDIA EGX 平台提供跨 NVIDIA AI 兼容性。

运行人工智能边缘计算的企业可以在紧凑型 NVIDIA Jetson Nano 上灵活部署低延迟人工智能应用程序。NVIDIA Jetson Nano 的紧凑型超级计算机仅消耗几瓦功率，每秒可执行 5000 亿次计算，用于图像识别等任务。一组 NVIDIA T4 机架式服务器每秒可执行超过 10 GB 的运算，用于要求最苛刻的实时语音识别和其他计算量大的人工智能任务。

围绕人工智能驱动的边缘网络进行更新并不难。EGX 软件堆栈在 Linux 和 Kubernetes 上运行，可以从云端或边缘服务器远程更新以持续改进应用程序。NVIDIA EGX 服务器也针对 CUDA 加速容器进行了调整。

企业边缘计算和人工智能服务
全球最大的零售商已经开始使用边缘人工智能来构建智能零售店。智能视频分析、人工智能库存管理以及客户和商店分析，这些功能共同让零售商享受更高的利润，并为客户创造机会享受更好的体验。沃尔玛使用 NVIDIA EGX 平台可以即时计算出每秒产生 1.6TB 的数据。它可以利用人工智能完成各种任务，比如自动提醒员工补货、回收购物车，或者开通新的结账渠道。

数百个连接的摄像头可以为人工智能图像识别模型提供数据，数据由 NVIDIA EGX 在本地处理，而 Jetson Nano 在连接到 EGX 和云端的 NVIDIA AI 时可以处理远程小型网络。全自动和对话式人工智能机器人监控商店的过道。这些机器人配备了 Jetson AGX Xavier 并运行 Isaac 以进行同步定位和地图构建 (SLAM) 导航。所有这些功能都与云中的 EGX 或 NVIDIA AI 兼容。无论使用哪种应用，NVIDIA T4 和 Jetson GPU 都可以在边缘提供智能视频分析和机器学习应用的强大组合。

智能设备到传感器融合
工厂、零售商、制造商和汽车制造商生成的传感器数据可以通过交叉引用提高服务质量。
零售商可以通过整合各种传感器数据来寻找新的服务项目。机器人不仅可以使用语音和自然语言处理模型与客户交流，还可以使用输入视频来运行姿势估计模型。通过连接语音和手势传感器信息，机器人可以帮助机器人更多地了解客户正在寻找什么产品或方向。

结合各种传感器数据可以为汽车制造商开辟新的用户体验并获得竞争优势。汽车制造商可以使用姿态估计模型来了解驾驶员视线的方向，也可以使用自然语言模型来了解驾驶员对汽车 GPS 地图发出的命令。

例如，司机询问7-11便利店的位置。这时候，他可以在GPS地图上指着一家7-11便利店，然后说“去这家店买甜甜圈”。借助传感器融合和边缘人工智能技术，汽车将确定驾驶员的目的地。

将边缘计算用于游戏
游戏玩家以高性能、低延迟的计算能力着称，在边缘提供高质量的云游戏可以满足他们的胃口。下一代游戏应用项目使用虚拟现实、增强现实、人工智能等技术，这确实是一个艰巨的挑战。

电信服务提供商已经开始采用 NVIDIA RTX 服务器，让世界各地的玩家能够享受通过光线追踪和人工智能增强的电影般的图像质量。这些服务器支持 NVIDIA 的云游戏服务 GeForce NOW，可以将功能不足或兼容性差的硬件变成网络边缘功能强大的 GeForce 游戏 PC。台湾的老大哥、韩国的LG U+、日本的软银、俄罗斯的Rostelecom都宣布有意向其云游戏客户推出这项服务。

什么是人工智能边缘计算服务？
借助边缘人工智能技术，电信运营商可以开发提供给客户的下一代服务，创造新的收入来源。
使用 NVIDIA EGX 的电信运营商可以通过图像识别模型分析输入的摄像头视频内容，帮助解决从人流、监控商店货架到物流配送的一切问题。就像星期六早上一家 7-11 便利店售罄货架上的甜甜圈一样，店长会收到一条提醒，他们需要补货。