嵌入式AI如何解决能源危机？工业应用的节能新方向

人工智能的迅速崛起带来了能源消耗的激增。训练大型人工智能模型需要强大的计算能力和大量的电力和冷却用水。解决方案并非放弃人工智能，而是在其开发和部署过程中优先考虑能源效率。

判别式人工智能(Discriminative AI)专注于分析现有数据而非生成新内容，从而为降低能耗提供了一种途径。更广阔的前景在于更小巧的嵌入式人工智能模型，它们能够以更低的功耗实现类似的结果。

这些嵌入式系统在边缘网络上运行，能够实时处理数据，因此成为工业应用的理想选择。除了节能能力之外，嵌入式人工智能在训练、成本和数据隐私方面也具有优势。

像AITAD这样的公司，作为嵌入式、半导体和工业领域的人工智能专家，正在遵循这种方法，专注于尽可能地利用嵌入式人工智能，以确保未来人工智能的益处与我们的环境责任之间的平衡。

人工智能日益增长的能源需求

人工智能日益成为能源消耗讨论的焦点。鉴于现代人工智能模型的巨大功耗需求，这并不令人意外。早在2019年，美国的一项研究就警告称，训练一个神经网络产生的二氧化碳排放量相当于五辆传统汽车在其整个生命周期内产生的二氧化碳排放量。在训练ChatGPT背后的模型时，估计消耗了1287MWh的电力，相当于一座中型核电站一小时的发电量。

信息和通信技术的能源消耗目前占全球温室气体排放量的2%至4%，与航空业相当。预计这一需求还将增长，据估计，到2027年，人工智能的电力消耗可能高达134TWh。此外，人工智能训练需要大量的水进行冷却——据报道，训练GPT模型耗水量约为70万升。

前所未有的计算能力需求

训练大型人工智能模型需要巨大的计算能力。例如，英伟达计划到2024年底销售超过200万台H100“Hopper”型人工智能加速器。如果所有这些芯片满负荷运行，将需要1.6GW的电力，这比一座典型的大型核电站所能提供的电力还要多。

除了训练之外，运行人工智能模型也会消耗大量能源。据估计，单次ChatGPT查询就需要3到9Wh的电量。如果全球每天90亿次搜索查询都由人工智能而非传统方法处理，全球搜索引擎的功耗将增加两倍。随着人工智能搜索功能被整合到微软必应和谷歌双子座(Gemini)等平台中，预计能耗将大幅上升。

工业领域的人工智能：效率与能耗

“人工智能在医疗技术和工业领域的应用也在不断增长，例如在生产领域。”AITAD公司创始人兼首席执行官Viacheslav Gromov表示，“人工智能在工业领域的应用有望提高流程效率，避免生产停机。然而，提高机器效率也会导致能源需求显著增加。”

鉴于这些日益增长的需求，人工智能必须提高能源效率。除了节省成本外，提高效率对于解决潜在的能源短缺问题和减少环境影响也至关重要。人工智能和智能传感器可以提高能源效率，但优化必须从神经网络开发阶段开始。

判别式人工智能在工业应用中拥有巨大潜力，能够解答诸如“现在发生了什么，接下来会发生什么？”之类的关键运营问题。

更大并不一定更好

AI模型的大小直接影响其能耗。更大的神经网络在训练和运行时需要更多的计算资源。然而，如果优化得当，较小的模型也能同样高效。最近的技术进步使得AI甚至可以在小型半导体上运行，从微控制器(MCU)到现场可编程门阵列(FPGA)。

“这种嵌入式AI在网络边缘完全自主运行，其主要优势在于它可以实时评估从传感器接收的所有数据，因此几乎不需要任何连接。”Gromov说道，“嵌入式AI在众多应用领域对工业界的重要性日益凸显，同时有助于大幅降低能耗。”

例如，配备神经处理单元和直接内存访问的Cortex-M MCU的效率比同等运算能力的典型Intel i-PC处理器高出20到60倍。在网络边缘自主运行的嵌入式AI正在改变游戏规则。本地处理传感器数据可以最大限度地减少连接需求，并显著降低功耗。

使用嵌入式系统进行节能的AI训练

为嵌入式系统训练AI模型不需要庞大的服务器基础设施。与大规模AI训练(可能涉及数万个GPU，每个GPU的成本超过40万美元)不同，嵌入式AI开发通常只需使用标准PC即可完成。这些系统专为高度特定的任务而设计，例如监测机器健康状况、实现简单的语音控制，或根据刷牙过程中的超声波信号评估牙齿健康状况。

由于嵌入式AI系统旨在利用最少的资源运行，因此它们消耗的能量非常少——有时仅为几毫安。许多系统可以使用电池供电，有些甚至可以通过能量收集供电，从而无需外部电源。

嵌入式人工智能的多功能性和可持续性

虽然嵌入式人工智能并非通用解决方案，但它适用于任何需要部署传感器的场景。它不仅可以提高能源效率，还能增强实时数据分析能力和隐私保护。嵌入式人工智能不传输原始传感器数据，而是只发送处理后的洞察结果，从而进一步降低网络负载。此外，这些系统的开发和生产成本往往低于基于云的人工智能解决方案。

“嵌入式人工智能允许人工智能驱动的操作去中心化，使大型互联工业系统能够以显著降低的能耗运行。”Gromov说道，“只要有可能，就应该利用嵌入式人工智能来优化能源使用并确保长期可持续性。”

AITAD：工业嵌入式人工智能的先驱

AITAD是一家德国嵌入式人工智能供应商，专注于开发、测试和量产人工智能电子系统。公司专注于工业机器学习应用，涵盖从数据采集到产品交付的全流程。公司为客户定制人工智能解决方案，确保以最低的资源需求实现最佳集成。

公司的专业领域涵盖预防性维护、用户交互和功能创新。与许多提供“一刀切”解决方案的人工智能供应商不同，AITAD开发定制化的人工智能系统，以满足每位客户的需求。其内部原型设计能力(图1)支持快速开发和部署，使工业合作伙伴能够更轻松地实施人工智能。

AITAD因其对人工智能创新的贡献而获得认可，并获得了多项奖项，包括人工智能类别的嵌入式奖、中型企业百强创新奖以及2023年巴登-符腾堡州人工智能冠军称号。通过优先发展嵌入式人工智能，该公司正在帮助各行各业向更可持续、更高效的人工智能运营转型。

图1：AITAD开发电子相关的人工智能(嵌入式人工智能)，可在设备和机器中实时执行本地定义的任务。(来源：AITAD公司)

随着人工智能的普及，其能源需求不容忽视。推动由嵌入式人工智能驱动的小型化、专业化模型的发展，为平衡创新与可持续发展提供了蓝图。通过优先考虑效率，各行各业可以充分利用人工智能的变革潜力，同时降低其环境成本。“人工智能的未来不仅仅是做更多，而是要做得更好——为企业、用户和地球。”Gromov说道。

（原文刊登于EE Times姊妹网站Embedded，参考链接：AI Efficiency Will Depend on Model Size，由Franklin Zhao编译。）