英特尔张宇：AI发展依赖于底层技术突破 边缘重要性愈发凸显
7月10日消息（艾斯）不少人用“百模大战”来形容刚刚落幕的2023年世界人工智能大会（WAIC 2023）。从ChatGPT开始的人工智能（AI）应用加速落地，在上周于上海举行的这场人气爆棚的全球盛会上得到了清晰印证。
英特尔中国区网络与边缘事业部首席技术官、英特尔高级首席AI工程师张宇博士在WAIC期间接受C114等媒体采访时表示，最新这一轮人工智能的发展起始于2012年，随后以卷积神经网络为代表的深度学习技术得到了大规模应用。而大模型的发展则始于2017年，从技术积累的角度来看，模型尺寸的增加是一个方面，引入Attention等机制和Transformer等模型则推动了大模型技术或应用场景的不断成熟。但需要看到的是，目前大模型的商业模式仍在摸索当中，仍需进一步观察。
他指出，推动本轮人工智能发展最核心的要素，实际上是计算、通讯和存储技术的不断提升。同时，无论是大模型还是融合AI，实际上边缘在整个AI生态系统中扮演着非常重要的角色。因为边缘离我们日常生活最近，会直接影响用户体验。
边缘AI发展仍处于推理阶段
目前，传统的人工智能算法和模型已经无法满足日益增长的数字化转型需求，因此在边缘场景中使用人工智能已成为一种重要趋势。边缘人工智能是将人工智能算法和模型部署在边缘设备上，从而提供更高效、更精准的用户体验，并为企业的决策和生产提供更多动力。但是，张宇分析称，边缘人工智能目前绝大部分的应用还处于边缘推理阶段。
具体来说，他认为边缘人工智能的发展可以分为三个阶段：第一个阶段是边缘推理，第二个阶段是边缘训练，第三个阶段是边缘自主机器学习。“如果以攀登高峰来描述整个边缘人工智能的发展，那么实现了边缘推理，仅代表我们站到了山脚；实现了边缘训练，也仅代表我们站到了半山腰；只有真正实现了边缘自主学习，才真正意味着我们站到了高山之巅。”
当然，边缘人工智能的发展也面临着众多的挑战，这其中不仅包括边缘训练的挑战，也包括边缘设备面临的挑战。由于提供的算力所能够承载的功耗往往是有限的，所以如何在有限资源的情况下去实现边缘的推理及训练，这对芯片的性能、功耗比提出了更高的要求。同时，边缘设备的碎片化非常明显，如何利用软件很好地实现在不同平台之间的迁移，实际上也提出了更多要求。再者，还有数据保护方面的问题必须进行思考。
面向边缘AI提供软硬件端到端服务
“人工智能未来的发展需要依赖于底层技术的突破，这包括计算、通讯和存储技术。只有这些底层技术不断突破，才能实现对人工智能更高的要求。而这些底层技术正是英特尔在努力发展的方向，包括人工智能、边缘到云的基础架构、无处不在的连接和传感技术等。英特尔的‘五大超级力量’也是在这些底层技术的基础上构建的，这些‘超级力量’是人工智能应用的基石。”张宇谈到，英特尔作为一家数据公司，其产品涵盖了推动人工智能发展所需的计算、通讯和存储的各个方面。
硬件层面，英特尔近日推出了面向边缘的“英特尔 Developer Cloud for the Edge”硬件平台，旨在为用户提供免费的评估、基准测试和原型设计环境，以支持使用英特尔硬件的人工智能和边缘解决方案的开发。该平台可满足开发者访问英特尔最新架构CPU、GPU、VPU和FPGA等硬件资源的需求。此外在第四代英特尔 至强 可扩展处理器上，英特尔也专门针对人工智能工作负载内置了AMX（Advanced Matrix Extensions）Al加速引擎，提供了高峰值的矩阵乘法计算能力，进一步提高了人工智能的性能和效率。
软件层面，英特尔近期发布了英特尔 OpenVINO 2023.0版本，从更大程度上帮助AI开发者简化工作流程，在企业中更高效地部署高质量的计算机视觉AI解决方案，以推动创新和自动化发展。通过用于数据上传、标注、模型训练和再训练的单一接口，英特尔Geti商用软件平台能够帮助开发团队减少模型开发所需时间，并降低AI开发技术门槛及开发成本。英特尔也将于2023年7月11日正式在中国市场推出第二代Gaudi深度学习加速器——Habana Gaudi2。这款专用于高性能深度学习AI训练的Gaudi处理器，能够帮助客户以更低的成本进行AI训练，更高效地进行大规模AI应用部署。
当边缘AI加入电信运营商网络
值得注意的是，今年英特尔集团进行了一次重大的战略调整，也即IDM2.0战略。基于此，英特尔内部新成立了网络与边缘事业部，将原来的物联网、通信网络和数据中心网络基础架构三个部分合并在一起。这样一来，该部门涵盖的范围就包括了物联网、5G基站、5G接入、5G核心网以及数据中心高速网络基础架构。如果从与AI的关系来看，这个基础架构可以真正实现边缘和云的打通——因为AI涉及到算法和数据的传输，而英特尔网络与边缘事业部关注的正是从边缘到云的整个数据通路，特别是边缘计算和人工智能应用这一部分。
“因为用户的AI系统往往是一个端到端的系统，我们部门则可以提供更全面的解决方案来服务于合作伙伴。例如，我们目前正在与一些运营商合作，他们提供的MEC服务通常在基站侧提供一些边缘计算能力，以与边缘物联网设备进行连接。因此，我们部门可以提供物联网解决方案和通信网MEC解决方案，将它们融合在一起，为运营商提供端到端的解决方案，从设备到网关再到MEC平台，而不仅仅是一个盒子或一个MEC平台。”张宇在介绍说。
另外，英特尔在通过将AI引入通信网络实现绿色节能方面也取得了显著成效。根据一些咨询公司报告，在整个整个端到端的通信网络中，大约70%的能量消耗发生在边缘侧，即接入网。但是接入网实际上有潮汐效应。因此，英特尔与合作伙伴一起，共同研究了如何利用AI技术更好地调度网络资源，从而使其平均能源消耗降低。据悉，在今年初的MWC巴塞罗那展上，英特尔就展示了利用英特尔底层技术的相关解决方案。
“在调配工作负载时，实际上需要调整CPU的一些参数，英特尔CPU中有不同的可调参数，如P-state、C-state等。我们将这些参数开放给上层应用，应用可以根据当前用户的负载流量主动利用AI分析的结果调整CPU的参数，使CPU工作状态与当前负载更加匹配，达到最佳系统性能功耗比的指标。”张宇表示，这是英特尔实际已经在做或已经在部署的例子。
