英特尔高管：AI技术发展将重点从云转向边缘

denny

由于云端处理存在延迟、数据传输成本高昂，并且数据安全始终令人担忧，英特尔的高级副总裁Sachin Katti阐述了人工智能技术向边缘计算转移的必要性。

Sachin Katti，英特尔的高级副总裁兼网络与边缘事业部的总经理，在2024年的英特尔网络与边缘计算行业大会上做出了表述。“随着时间的推移，我们预见到人工智能模型将逐步从云端迁移到边缘端以便本地处理数据。” 他说明，在目前阶段，人工智能的主要运算还是在云端进行，但随着边缘设备在本地生成越来越多的数据，将这些数据全部发送到云端的成本变得越发昂贵，向边缘计算过渡已成必然。

数据的安全性和实时处理需求正推动着人工智能从云端走向边缘端。Sachin Katti提到，我们正在经历一个由人工智能辅助的时代，它帮助人们更加高效地完成工作。随着技术的发展，未来我们将步入一个由人工智能助理支持的新时代，“举个例子，当你驾车经过快餐店时，一个人工智能助手能够提供点餐服务，企业的工作流程也可以由人工智能来管理。在一个较远的将来，我们或许还将看到，像人类一样，不同的智能体之间能够协作，提供整个部门的解决方案。”据Sachin Katti所说，目前AI技术的增长重心主要落在云计算上，然而，朝向边缘计算的发展势在必行。“从前的AI讨论多集中在机器视觉或基于时间序列的自动化过程上。现而今日，边缘AI技术已从简单的机器视觉扩展至包含大型语言模型与生成式AI在内的应用。英特尔将持续推进，加快在边缘端实施生成式AI及大语言模型的部署。”

在边缘数据传输需求、数据安全和实时性方面，这些因素共同推动AI由云端迈向边缘端。英特尔市场营销集团副总裁兼英特尔中国网络与边缘及渠道数据中心事业部总经理郭威提到，企业对于将数据托管于云端感到忧虑；而边缘计算则有助于应对高实时性的需求。

英特尔副总裁兼网络与边缘事业部中国区总经理陈伟表示：“本年度有超过半数的客户正在探索基于边缘的大模型应用。”在边缘计算的实际部署过程中，所采用的模型不宜过大，而应适应市场实际应用的需求。“边缘计算的实施需要考虑众多元素，包括时延、可用性、微观数据的可调节优化以及信息的安全性等。”

边缘优化因数据量的限制而受到制约。“边缘特质在于其碎片性。”英特尔中国网络与边缘事业部的首席技术官，同时也是高级首席人工智能工程师的张宇指出，各个用户对算力和性能的需求不尽相同。边缘优化中的一个普遍问题是数据的数量有限，比如说一个学校或工厂实际可用于训练的数据量是十分有限的。不仅如此，不同企业和学校的数据亦有所不同，像是汽车零部件生产和机械加工的工厂面对的挑战也不一样，不可能通过一个统一的模型来检测产品的缺陷，而必须针对特定企业的数据进行模型训练。

同时，张宇补充说，“进行训终务必进行数据标注，这样机器才能明了你关注的重点是什么。想象一下，在一个工厂里，真正在操作AI设备的是忙于生产线的工人，他们哪有余力去进行繁琐的标注？”因此，在边缘的优化过程中需要采用自动化的标注方法，在数据较少的情况下也能完成标注工作。“在边缘端，终端用户追求的是业务的部署而非技术方案。他们的需求在于系统的便捷性、易部署性及后续的易管理性，这正是客户常遇到的痛点。”

郭威指出，要解决行业实际问题，单靠模型的训练是远远不够的，今年对推理能力的需求有明显的增强。大模型的实际应用必须涵盖从端到边缘，再到云端的算力分配，“如果仅仅是垂直大模型的标准应用话题，那么大模型主要是在云端部署。但受到行业需求的推动，AI的算力必须朝向边缘与端侧分散。”Sachin Katti阐述道，边缘端的核心任务集中在推理及持续性的学习上。有时它们一旦在边缘端部署，可能会发现其表现并没有达到预期，或者说在运行一段时间后，就有必要对现有模型进行适当的调整。

至于边缘端到底需求多少计算力？Sachin Katti指出，计算力与能耗之间具有直接的关联性。部署在边缘端的设备，其能耗大概需要200瓦。与之对比，云端部署的能耗大约是1-2千瓦，数据中心的每层机架的能耗甚至可能高达100千瓦。若将整个数据中心的能耗汇总，数字可能触及50-100吉瓦。在计算力或能耗较高的状况下，冷却效率与冷却能力变成了不得不重视的关键因素。面对大量数据和高计算力产生的热量，“我们目前正运用液体冷却技术有效地为机器群减温。目前的液体冷却技术已经能够为100千瓦的机器群成功降温，希望未来此技术能够拓展至300千瓦。因此，计算力的另一个限制因素，就是你是否具备足够的能力来高效地进行整体环境的降温。”