Wilder X是一家处于种子轮前阶段的科技公司,致力于填补人工智能决策与现实世界行动之间的治理缺口。公司公布了Wilderson协调充分性架构(WCSA),这是一套面向机器的治理层,位于智能请求与会产生实际后果的物理动作之间。
公司还面向合格的系统开发者、独立评审人员、工业运营方、研究人员和投资者,启动了一项有边界的机械臂验证计划。
WCSA背景
Wilder X 说,这个想法很简单:情报可能会建议采取行动,但情报本身不应该创造力量。在受保护的机器输出可用之前,Wilder X建议检查是否有正确的行为者在询问、权限是否当前、当地条件是否合适、机器和周边系统是否准备就绪、矛盾是否已解决以及证据是否已保存。
Wilder X 将这种纪律描述为“先许可后后果”。该公司表示,其运营模式为系统提供了五个可能的答案:
- 缺少所需证据时拒绝
- 当仅支持更安全的子集时,范围缩小
- 当信息冲突时保留
- 当所需的证明收敛并保持最新时允许
- 仅在故障或停止后出现新证据后才恢复。
Wilder X 创始人 K. P. Wilderson 表示:“人工智能可以在几毫秒内生成答案,但机器可以产生无法挽回的结果。” “我们的问题不是智能是否令人印象深刻。我们的问题是,在智能被允许成为运动、力量、能量、路线或通道之前,机器必须保持什么是真实的。”
一个日益增长的物理人工智能问题
Wilder X 表示时机很重要。国际机器人联合会 据报告,2024 年工业机器人安装量将达到 542,000 台 全球运行工业机器人466.4万台,同比增长9%。与此同时, 美国职业安全与健康管理局 识别危险,包括意外运动、控制和编程错误、未经授权的访问、机械故障、电气和流体动力危险、环境干扰、安装不当以及快速重新启动操作的压力。
该公司表示,现有的纪律已经解决了问题的主要部分。功能性 安全 管理安全功能。 网络安全 保护系统和信息。机器人标准涉及机器人和集成安全。人工智能治理解决模型和组织风险。上锁/挂牌可在覆盖服务和维护期间控制危险能量。 Wilder X表示,它并不是声称这些系统出现故障或应该更换。
该公司表示,其更狭隘的论点是,当人工智能或网络请求跨越物理能力时,可能仍然存在协调差距:决定性的机器端边界应该独立地要求当前的并发性,使所请求的能力足以满足当时和使用的需要。 Wilder X表示,WCSA是否具有独特性、技术上是否可行以及商业上是否有价值,还有待通过受控测试和独立挑战来确定。
从建筑到证据
Wilder X表示,它已经完成了实质性的受控架构和开发记录,包括条令、需求、接口、故障状态、恢复条件、构建手册、组件图、行动卡和验证计划。该公司报告了两项美国临时专利申请。这些记录是高级工程计划,而不是完整原型、经过认证的产品或经过验证的安全功能的证明。
第一个提出的证据计划使用低压、受保护的机械臂工作台。该公司表示,其目的是测试一个狭隘的问题:外部局部边界能否可靠地拒绝或移除受保护的对象? 运动- 当所需证据不存在、陈旧或矛盾时启用信号,同时保留可审查的记录并补充现有的机器人控制器和安全系统?详细的阈值、拓扑和专利敏感的实施仍然受到控制。
Wilder X表示,计划的工作包括:
- 可行性审查合格
- 危害和故障分析
- 最低可信硬件和软件堆栈
- 受控构建和集成
- 挑战案例
- 可重复测量
- 独立控制或机械保证审查
- 书面决定、调整或保留
该公司表示,在审核人员批准测量方法和通过/失败标准之前,任何时间或绩效目标都仍然是临时的。
专为挑战而不是掌声而设计
Wilder X表示,正在积极招募合格的合作伙伴来挑战和尝试打破架构。该公司表示,近期的里程碑是在受保护的机械臂工作台上进行一项受资助的、受控的评估,产生可重复的测量结果、独立的技术审查以及书面的继续、调整或保留决定。
该公司表示,优先对话对象包括机器人和自动化工程师、集成商、工业运营商、功能安全和机械保证专家、网络安全和人工智能治理研究人员、大学、保险公司、标准参与者、公共部门技术项目以及在规模之前资助证据的投资者。
“一个严肃的想法应该能够经受住试图反驳它的人们的考验,”威尔德森补充道。 “如果证据说要调整,我们就调整。如果证据说坚持,我们就坚持。如果它证明受控边界可以使物理人工智能更容易审查,而不干扰现有的安全责任,那么我们将赢得采取下一步的权利。”
该公司表示,其近期商业测试同样受到约束:
- 通过可衡量的调试确定负责任的工业买家
- 故障调查
- 重新启动
- 资助受控评估的人的授权或证据负担
Wilder X 表示,兴趣和介绍不会被描述为牵引力,除非它们产生重复出现的问题、确定的预算所有者和具体资助的下一步。