边缘人工智能软件层图。来源：Numurus
在 Windows 之前，只有工程师和计算机科学家才能使用计算机做很多事情。 Windows 为每个人提供了一个可以协同工作的用户界面、内置应用程序和即插即用的硬件功能，从而改变了这一状况。现在机器人也面临同样的转变。
我记得第一台个人电脑问世时。我刚刚开始上大学，成为一名机器人工程师，我很兴奋。个人电脑是功能强大的机器。微处理器比大多数人接触过的任何东西都要快，它们提供的解决数学问题和在几分钟内运行复杂工程流程的能力令人兴奋。
但当时，个人电脑的用途仅限于一小部分人何拥有学习如何使用它们的技能和兴趣。要让 PC 做某事，您必须知道如何使用仅限命令行的操作系统界面，学习复杂的硬件协议，并从头开始编写软件。
像我当时的大多数朋友和家人一样，世界看到 PC 时看到的是一个对他们没有多大作用的昂贵盒子。当 Windows 进入市场并将 PC 从一种小众工程工具转变为世界上任何人都可以使用的设备时，这一切都发生了变化。
如今，边缘 AI 处理器、在机器人和其他自动化系统中运行 AI 模型的嵌入式处理器（来自 NVIDIA、AMD、Qualcomm、Hailo 等公司）出现了一个快速增长的新市场。这些芯片使系统能够快速分析摄像头和其他数据，并在无需连接到互联网的情况下做出瞬间控制决策。
它们足够快、便宜且节能，足以在现场运行真正的人工智能工作负载。硬件已经过去了拐点。
但真正能够使用这些处理器的人仍然是一小部分。虽然它们通常配备 Linux 操作系统，该操作系统具有内置应用程序、硬件支持和类似于 Windows 和其他桌面 PC 操作系统的用户界面，但该解决方案几乎无法满足想要使用这些芯片的客户的需求。
首先，机器人需要与摄像头、激光器、GPS、电机和控制系统连接，而不是鼠标、键盘和打印机。机器人还需要能够将实时传感器数据连接到人工智能模型来控制电机的软件应用程序，而不是文字处理和电子表格应用程序。
最后，机器人通常没有连接的键盘和显示器；它们是由计算机控制的。他们需要通过网络连接的 PC 上的网络浏览器进行连接的用户界面。
这些限制再次意味着只有一小部分经验丰富的工程师和软件开发人员能够利用网络的功能这些新的边缘人工智能处理器使之成为可能。对于其他人来说，边缘人工智能处理器就像 1981 年 PC 一样昂贵的盒子。功能强大，但难以访问。
作为一名机器人和自动化工程师，我很快就看到了这些芯片在解决行业多年来一直面临的许多挑战方面所提供的潜力。在机器人和智能传感项目上使用一些边缘人工智能处理器后，我还意识到，即使对于经验丰富的工程师和开发人员团队来说，使用这些芯片是多么困难和耗时。
2020 年，我的公司 Numurus 从销售机器人智能传感器转向开发一个名为 NEPI（Numurus 边缘平台接口）的易于使用的软件平台，该平台负责大多数机器人所需的大部分底层软件。
NEPI 提供用于相机、导航传感器、电机、灯光和控制系统的即插即用驱动程序。它还支持AI模型的自动检测和编排，内置自动化应用程序，以及用于从远程网络连接的 PC 连接的直观的基于浏览器的用户界面 (UI)。
NEPI 作为 Docker 容器安装在边缘 AI 芯片的本机操作系统之上并运行，允许任何人在几分钟内下载并开始工作，无需计算机编程经验。 NEPI 还包括一个简单的拉取、部署和构建系统，用于从 NEPI Github 存储库下载和自定义源代码。
Windows 为 PC 所做的事情
解锁 PC 的不是更快的硬件。它是一个软件层，可以处理大多数人不想学习如何做的事情。
Windows 随即插即用驱动程序一起出现。连接打印机，系统找到它并使其工作。连接鼠标，同样的事情。用户无需编写一行代码即可与他们事先未选择的硬件进行交互。
Windows 带有内置应用程序。文字处理程序、电子表格、查看信息的方式莱斯。大多数用户不需要编写应用程序。他们需要应用程序的存在。
Windows 为 PC 提供了屏幕、键盘和鼠标，所有这些都通过不需要手册的 UI 协同工作。大多数用户花了一个下午就搞清楚了。
Windows 之后，PC 不再只是专家的专利。这是给每个人的。硬件没有改变。访问确实如此。
边缘人工智能处理器需要什么才能对更多人有用
边缘人工智能正在等待同样的转变。硬件都在这里了。缺少的是一个软件层来处理大多数人不想学习如何做的事情。该层需要即插即用的硬件驱动程序。
如果团队想要添加摄像头、声纳、激光雷达、IMU 或 GPS 模块，他们应该能够连接它并让系统识别它。他们不必为它编写驱动程序。
它需要人工智能模型管理。加载模型、对其进行版本控制、将其更换为新模型、在出现故障时进行恢复。大多数团队都有一个模型。很少有团队愿意构建围绕它的运行时。
它需要针对实际用例的内置应用程序。机器人技术。自动化。检查。传感器数据处理。事件驱动的行动。这个领域最常见的需求应该立即解决，而不是重建每个项目。
并且它需要一个操作员可以实际使用的 UI。这就是边缘人工智能具有原始 PC 所没有的问题的地方。大多数边缘人工智能系统是机器人、无人机、船舶或工业设备。它们没有连接键盘、鼠标或屏幕。 UI 必须来自其他地方。
答案是由设备本身提供的基于浏览器的界面。连接一台笔记本电脑，将浏览器指向设备，您就拥有了一个 UI。没有专门的硬件。没有专门的软件。任何拥有浏览器的人都可以与系统交互。
当边缘人工智能变得可用时，谁会受益
PC 的故事也是谁开始使用计算机的故事。
在 Windows 之前，计算机是为程序员、研究人员和愿意学习如何编写代码的人服务的。 Windows 之后，计算机是为会计师、作家、学生、孩子、家长和学校服务的。受众群体呈数量级增长，而构建在其之上的应用程序反映了新的受众群体。
边缘 AI 也即将经历同样的扩张。如今，边缘人工智能主要面向有能力聘请嵌入式软件专家的团队。这通常意味着资金雄厚的机器人初创公司、成熟的原始设备制造商和国防承包商。其他人都被排除在外，不是因为硬件成本，而是因为软件复杂性。
一旦边缘人工智能变得可用，受众就会发生变化。 STEM 程序可以集成基于人工智能的自动化，而不需要每个团队成员都是嵌入式软件专家。邻近领域的研究人员可以对支持人工智能的硬件进行原型设计，而无需雇用单独的嵌入式团队。初创公司可以在几周而不是一年内发布其产品的第一个版本。 OEM 厂商为客户提供人工智能功能，客户可以实际配置自己。
这种扩展不仅对获得新访问权限的人有利。这对行业来说是好事。 PC 生态系统并没有因为程序员的生产力提高而变得更大。它变得更大是因为非程序员的人开始使用计算机。边缘人工智能的设置遵循相同的路径。
现场一瞥
这种转变已经开始在生产中显现出来。建造用于海上威胁检测的自主水面船只的团队能够专注于船只和任务，而不是构建自己的边缘人工智能堆栈。
使用人工智能声纳的商业捕鱼运营商已经能够专注于使他们的产品与众不同的渔业专业知识。水下检查机器人制造商已将人工智能驱动的检查添加到其平台中，而无需从头开始构建模型部署管道和数据捕获系统。海底基础设施检查ion 团队能够专注于检查方法，而不是嵌入式系统工程。
在每种情况下，该团队都不必成为嵌入式软件商店才能交付支持人工智能的产品。访问权限就是解锁。随着越来越多的平台在未来 12 到 24 个月内推出此类别，更多的团队将获得相同的选择。
对于专家：从头开始构建问题
即使对于拥有嵌入式软件专家的团队来说，数学也有改变了。在过去十年中，大多数构建人工智能产品的机器人团队都从头开始重建了相同五层的某些版本。传感器集成。 AI 部署运行时。自动化逻辑。数据管道。操作员界面。这些都不是该产品的独特之处。它们是每个产品都必须立足的基础。直到最近，大多数团队都在铺设自己的地板。
成本这体现在四个地方。团队交付实际产品的第一个版本之前，工程时间通常为 6 到 12 个月。脆弱性是指每次硬件更改时自定义集成代码都会中断。人才分配，当高级工程师最终维护驱动程序而不是构建差异化功能时。
最难衡量的成本是，由于基础设施投资太令人畏惧而永远无法构建的产品。对于拥有专业知识的团队来说，平台层并不是构建边缘人工智能的唯一途径。但这是一种交付速度更快、需要维护的自定义代码更少、并且下次出现新产品创意时无需重建基础的方法。
边缘 AI 转变正在发生
PC 时代并不是由更快的硬件赢得的。它是由软件层赢得的，它使更快的硬件对非专业人士也有用。
边缘人工智能正在进入同样的转变。硬件都在这里了。该软件拉现在，一小部分平台团队正在构建使其易于使用的功能，这些团队已经弄清楚了它需要是什么样子。
如果您正在从事涉及边缘人工智能的工作，无论您是机器人工程师、OEM、STEM 教育者还是研究人员，值得问的问题不是硬件是否可以实现您想要的功能。几乎肯定可以。问题是您是否想花数年时间从头开始开发所有内容，还是想投入并开始开发自动化解决方案。
关于作者
Jason Seawall 是 Numurus 的创始人兼首席执行官，Numurus 是一家位于西雅图的边缘人工智能平台公司。
他之前创立了 BlueView Technologies，后来被 Teledyne 收购，并在 Teledyne 中担任技术副总裁，负责监督该公司的技术。Teledyne 海洋技术团队的创新。
Numurus 声称，通过自动化安装脚本，任何人都可以在几分钟内下载并试用 NEPI，并在短短几天内让机器人开始工作。