科技领域有一种假设集中化的叙述：数据移至云端,在那里进行运算,然后结果返回。对于云基础设施公司来说,这种叙述很方便。但对于实际构建需要在现实环境中可靠、快速和安全运行的人工智能系统的公司来说,这种叙述越来越具有局限性。
边缘运算——将运算能力转移到更接近数据生成和需要做出决策的地方——并不是新概念。新的是它的紧迫性。实时人工智能需求、隐私法规、网络带宽限制以及物联网和自主系统日益增长的复杂性的结合,正使边缘运算不再是一个小众的架构选择,而是整个应用类别的核心要求。
我一直通过NexaTech Ventures密切关注这一转变,因为它代表了自云运算本身转型以来,科技基础设施领域最重大的架构转型之一。
云架构的局限之处
云运算建立在一个假设之上,这个假设在互联网的前二十年被证明是正确的：将数据传输到中央运算资源比在网络中分布运算更便宜。对于大多数网络应用程序——搜索、社交媒体、电子商务——这仍然是正确的。但对于不断扩大的应用程序集,这个假设正在瓦解。
考虑自动驾驶汽车。自动驾驶汽车根据传感器数据在毫秒内做出安全关键决策。将原始传感器数据发送到远程云服务,等待响应,然后接收返回的决策不仅效率低下;从根本上来说是不可行的。延迟是不可接受的,可靠性要求无法满足。运算必须在车辆本身上实时进行,使用本地处理。
或者考虑医疗保健或金融服务中受隐私监管的应用程序。GDPR和类似法规越来越要求敏感个人数据在特定司法管辖区内并在特定安全控制下处理。将医疗数据或金融交易详情传输到另一个国家的云服务,即使是为了合法分析,也会造成合规复杂性,使集中式处理在法律和操作上存在风险。
或者考虑工厂车间的制造。一个从生产设备生成TB级传感器数据的制造设施无法现实地将所有数据流式传输到云服务进行分析。带宽成本过高,实时流程调整的延迟不可接受,操作弹性风险太高。运算需要在本地进行。
这些不是边缘案例。这些是新兴应用的核心类别。而云运算架构在设计上不适合所有这些应用。
所需的技术转变
边缘人工智能需要与基于云的人工智能不同的技术架构。机器学习模型需要更小、更高效,并针对资源受限的设备进行优化。推理管道需要对间歇性网络连接保持稳健。安全模型需要适用于分布式系统而不是集中式数据中心。更新和版本控制机制需要高效且安全地将更改推送到数千或数百万个边缘设备。
这些都是难题,它们需要与云人工智能开发不同的方法。解决这些问题的公司不是云运算公司;它们是构建边缘优化人工智能基础设施的新公司。
几个技术趋势正在汇聚,使这一转型成为可能。模型压缩和量化技术正在快速改进,允许复杂的人工智能模型在边缘设备上以部分运算资源运行。专用硬件——TPU、NPU和其他人工智能加速器——正在边缘设备中变得可用,提供必要的运算能力。边缘部署的开放标准正在出现,打破了对专有平台的锁定。
在NexaTech Ventures,我们正在支持边缘人工智能基础设施中的三个类别的公司。首先,模型优化和部署平台,这些平台采用大型人工智能模型并将其压缩以进行边缘执行。其次,针对低延迟、分布式执行优化的边缘推理引擎。第三,边缘编排系统,用于管理分布式边缘基础设施中人工智能工作负载的部署、更新和监控。
欧洲的定位
欧洲在边缘运算方面的基础设施优势虽然微妙但却是真实的。该大陆在电信基础设施和5G部署方面投入巨资,这为边缘运算提供了必要的网络容量和低延迟连接。欧洲的数据保护法规远非障碍,反而推动了对将敏感数据保留在本地的边缘运算解决方案的需求。
更重要的是,欧洲的制造业、汽车和工业部门正在推动对边缘人工智能的真正需求。德国汽车公司需要用于自动驾驶汽车的边缘人工智能。意大利制造商需要用于精密制造的边缘运算。荷兰农业需要用于精准农业系统的边缘人工智能。这创造了一个良性循环,其中需求推动对边缘人工智能基础设施的投资,吸引人才和资本,提高技术能力,从而推动进一步采用。
美国的边缘运算叙述目前由试图将其平台扩展到边缘的云公司主导。AWS、Google Cloud和Azure都在提供边缘服务。但这些本质上是以云为中心的架构,边缘只是附加的。变革性的边缘人工智能架构正在由那些从运算发生在边缘而云是例外而非规则的假设出发的公司构建。
投资案例
边缘运算和边缘人工智能代表了软件部署和运行方式的结构性转变。这不是暂时的趋势或小众市场。这是由云运算无法满足的真实技术需求驱动的基本架构转型。
投资机会存在于多个层面。在基础设施层,构建边缘优化人工智能平台和部署工具的公司正在创造持久的竞争优势。在应用层,为边缘执行重新构建其软件的公司——自动驾驶汽车、工业系统、医疗保健设备——将获得难以取代的性能和可靠性优势。
在NexaTech Ventures,我们寻找既了解技术要求又了解操作挑战的边缘人工智能公司。最好的公司不仅仅是优化算法;它们构建完整的边缘部署系统,包括监控、安全、更新管理和操作支持。
从集中式云到分布式边缘运算的转变代表了自迁移到云以来科技领域最重大的基础设施转型。在这一转型中及早定位的公司将建立实质性和可防御的业务。
Scott Dylan是NexaTech Ventures的创始人。他撰写有关技术基础设施、人工智能和深度科技投资的文章。更多信息请访问scottdylan.com。
