欧洲能否在边缘AI领域领先？安全挑战与技术突破

在全球软件架构师和开发者们讨论如何更好地保障边缘人工智能安全的同时，一项耗资4100万欧元的泛欧项目旨在让欧洲引领这一领域。EdgeAI-Trust项目由欧盟芯片联合计划(Chips Joint Undertaking)资助，于去年启动，合作伙伴包括英伟达、英飞凌、采埃孚和TTTech Auto(现归恩智浦半导体所有)。所有参与方均致力于开发鲁棒、安全且节能的架构，用于网络边缘和设备上的人工智能处理，应用于三大关键应用领域：自动驾驶汽车、制造和工业流程以及农业。但该项目的意义不仅限于技术开发。

欧洲在云端人工智能开发方面落后于美国，这已不是什么秘密。麦肯锡去年年底发布的数据显示，美国超大规模企业占据约85%的市场份额，而欧洲云计算企业的份额不到5%。EdgeAI-Trust项目的合作伙伴希望他们的项目能够帮助欧洲在边缘人工智能领域取得进展。

EdgeAI-Trust协调员兼TTTech高级创新与融资经理Mohammed Abuteir表示：“随着行业向边缘AI迈进，我们欧洲不想重蹈在云端AI领域的覆辙。在美国，我们已经看到强劲的AI创新。出于这些原因，我们正寻求在边缘计算领域进行创新，尤其是在AI领域，而安全性是一个巨大的挑战。”

欧洲在云端人工智能创新方面正在奋力追赶，但它能在边缘人工智能领域引领潮流吗？(来源：Free Malaysia Times)

边缘安全

传统上，人工智能依赖于大型数据中心进行模型训练和部署，但这种方法带来了高能耗和延迟等挑战，限制了实时处理能力。

将人工智能引入设备可以减轻中央处理器的负载，减少网络拥塞和延迟，并消除通过网络传输敏感数据的需要。此外，由于边缘人工智能设备不依赖于云端连接，因此即使连接中断，它们也能继续运行。然而，去中心化的人工智能在安全性方面带来了新的挑战。

随着边缘人工智能的发展，越来越多的数据将在更多设备上处理，因此每个设备都必须得到安全保障。同时，如果边缘人工智能设备的计算能力和存储空间有限，数据将需要存储在本地，这会增加隐私泄露的风险。

为此，EdgeAI-Trust正在设计架构，以支持从传感器到云端系统的跨设备和平台互操作性及可信数据交换。下一代硬件和软件正在开发中，将使设备能够在边缘进行学习和适应。

EdgeAI-Trust的Mohammad Abuteir

Abuteir指出：“随着去中心化AI的发展，多个系统将相互协作，这意味着数据将在系统间共享。最终用户需要确保他们的个人数据不会被泄露给全世界。我们必须关注边缘AI的安全。”

但这不仅仅关乎数据。确保设备上运行的实际AI模型的安全至关重要。潜在的攻击者可以访问边缘AI设备，利用逆向工程攻破AI模型和算法，然后操纵模型的输出或修改算法以传播虚假数据或危及性能。

EdgeAI-Trust项目的合作伙伴之一，Asvin公司(位于德国斯图加特)，概述了所谓的对抗性机器学习如何操纵AI生成错误结果，从而使模型变得不可靠。在自动驾驶汽车、无人机或工业机器人中，受损AI模型所犯的错误可能会造成灾难性的后果。作为EdgeAI-Trust项目的一部分，这家网络安全软件开发商正在寻找监控边缘AI应用中的决策并检测其异常的方法。

Asvin首席执行官Mirko Ross表示：“通过EdgeAI-Trust，我们致力于为开发和部署可信赖的AI解决方案打下坚实基础，这些解决方案不仅要确保安全性与可靠性，还需满足边缘系统对低延迟和低能耗的要求。我们的重点是帮助运营技术运营商提高其AI增强型边缘系统对错误决策和操控的抵御能力。”

巴塞罗那超级计算中心(BSC)计算机架构-操作系统(CAOS)小组的研究人员正在与EdgeAI-Trust项目合作伙伴合作，定义和生成安全的AI模型，并将其映射到硬件平台上。BSC拥有欧洲强大的MareNostrum 5超级计算机，该计算机搭载NVIDIA-Arm超级芯片，作为该项目的一部分，CAOS研究人员将与NVIDIA合作开发其AI加速器。

“EdgeAI-Trust为BSC提供了在复杂的工业用例中测试其AI相关技术的机会，”EdgeAI-Trust BSC首席研究员、CAOS研究小组联合负责人Jaume Abella表示，“这使我们能够达到更高的技术就绪水平，并为充分利用我们的AI相关资产铺平了道路。”

EdgeAI-Trust于2024年5月正式成立，拥有来自13个欧洲国家的约53个成员组织，所有成员组织均致力于合作，使去中心化的边缘智能可持续、安全且值得信赖。(来源：EdgeAI-Trust)

全球监管

2024年8月，就在EdgeAI-Trust项目启动后不久，欧盟《人工智能法案》正式生效，该法案为在国际范围内安全透明地使用人工智能提供了首个监管框架。欧盟提出这一全球性目标并不令人意外；欧洲在人工智能创新方面落后于美国和中国，但在负责任地使用人工智能方面却一直处于领先地位。2018年，欧盟《通用数据保护条例》(GDPR)确保了所有个人数据(包括人工智能处理的数据)的数据保护，这有助于塑造全球人工智能伦理。如今，2024年欧盟《人工智能法案》通过基于风险的方法，专门规范人工智能的开发和部署，禁止被认为对公民构成“不可接受风险”的人工智能应用。

对于EdgeAI-Trust项目的合作伙伴来说，欧盟《人工智能法案》凸显了他们项目的及时性。正如Abuteir所说：“欧盟《人工智能法案》在我们的项目启动后获得了批准，我们对此非常关注。这些人工智能规则适用于所有行业，我们将与之保持一致。”因此，在EdgeAI-Trust成员推动边缘AI安全发展的同时，他们的系统也在最新立法的背景下进行开发，供所有人使用。“包括我在内的所有合作伙伴都对《人工智能法案》感到高兴，现在我们可以真正根据该标准开发出符合要求的产品了。”Abuteir说道，“人工智能正在快速发展，我们的项目不仅仅是为了推进技术；这是一个战略举措，旨在确保欧洲始终处于全球科技行业的前沿。”

（原文刊登于EE Times欧洲版，参考链接：AI Is on the Edge, but Is Safety in the System?，由Franklin Zhao编译。）

本文为《电子工程专辑》2025年6月刊杂志文章，版权所有，禁止转载。免费杂志订阅申请点击这里。