本报将由Serve Robotics专业企业 (主要) 罗伊根· 박성기代表的'0) 机器人面临的两个世界 - - 物理AI和社会AI'主题,由总共9次发布为系列: (1) 通过可行的行为适当的行为, (2) 无法被数据捕获的社会正确答案, (3) 良好的句子和良好的判断, (4) 如何绘制不见的社会, (5) 通过行为模特超越规范学习, (6) 失败率, (7) 从审稿到现实, (8) 提出的判断书.
这一侧将迄今为止的讨论 - - 两种世界模型 (第四),规范层次和混合型学习 (第五),五层级评估 (第六) - - - 集成成成一个系统结构.
起点是对市场上已经蔓延的一个设计实践提出问题.如果将最新的大型语言模型连接到机器人的头脑,则 Social AI将得到保障.流动的对话会直接跟随,看起来很可能.但问题并不是大型模型的缺乏能力.问题在于将概率生成的判断连接到物理执行的结构上,没有验证.
这一节的重点是这样:社会 (Social) AI不是与机器人连接的对话模式,而是从社会意识到判断,验证,行为,寻求,人类的人类的执行结构.其结构的核心是学习的范模型的灵活性和可验证的控制层的结合.
一行任务后的七个阶段
302号金OO患者将下午药物交付.机器人R的任务是一行.但如果把这一行分离出来,人类护理人员的过程至少产生了七个阶段的判断链.
找个受试者. 判断现在是否可以说话 - - 办公室,面试中,子. 扫描周围 - - 没有第三个人不应该看到药包上的病名. 检查自己是否正确. 检查接收医生. 拒绝或缺席时,选择替代方案 - - 等待,交给护士.
模型可以用可信的句子描述七个步骤,并提出适合情况的行为.但在工业系统中,需要的问题是不同的.是否可以保证三级个人验证没有被规避.病人拒绝药物,但机器人误解了它,可以隔离哪个判断阶段失败了.自己验证不够的情况下,机器人是否可以迫使其停止行为.是否可以重组发生事故时基于什么行为.看和保证的区别.建筑的必要性在这里.
两个循环:系统的骨架
结构的骨格在四个部分中被预示,如果有两个世界模型,就需要两个运行循环来运行.
物理行动循环: 环境意识 → 物理状态估计 → 目标设置 → 路径;预测计划 → 执行 → 结果确认 → 错误修复
社交协调循环: 人·群体认识 → 角色·关系·关注状态估计 → 意图·权力推理 → 相关规范搜索 → 行为候选人产生 → 评价 → 解释·询问 → 人的反应观察 → 关系状态更新 → 失败恢复或人类收获
第一个循环是机器人工程长期以来一直的熟悉结构.第二个循环是这个剧情声称的 Social AI 的核心结构.两个循环的区别之一是决定性的.物理循环通常是执行动并检查结果的轮.而在社会循环中,行为后面必然是人的观察反应.当机器人说是的时间时,根据患者伸出手,头,表现不舒服的表情而有所不同.机器人的出力产生了人的反应,这种反应再次成为机器人的下一个入力.在第二节中所看到的循环结构将刻在系统的循环上.
在社会循环的终点上,总是存在恢复或人类人数.让机器人自己解决所有情况并不是社会AI的目标.到决定自己何时行动,何时询问,何时停下来,何时交给人,都是社会AI的能力.在第六节,我们再次确认了为什么建立了恢复能力作为评估的独立层次.
两个环在哪里相遇?
两个循环在联合行动规划器 (Joint Planner) 中见面.物理行为循环计算了什么行为可以在当前空间和机器人的身体能力内执行.社会调整循环评估了该行为在当前的关系,权限,规则,情况中有多合适和有什么风险.
想象一下302号前面到达的机器人. 从物理上可以通过门,移到床旁边,给药包.但如果病人正在面试中,那么等待可能比现在接近更合适.如果第三方可以看到药包的信息,那么他必须改变传递方式.如果自己确认不够,那么向护士确认的行为更安全.因此,共同行动计划器不仅仅是寻找一个可的行为和废弃的行为的结合.将物理可的行为候选人和社会适用性测试的评价结合起来,然后选择下一步行动.
在执行前的最后门口.
在社会判断中,涉及概率和解释.但任何界限不应只被委托给概率判断.因此,共同行动计划器所制定的行动计划在实际执行前通过社会执行门.
这门口至少检查了:是否有执行权,是否需要同意的行为,是否可能侵犯隐私或个人信息,是否有脆弱的用户参与,社会不确定性是否超出了允许范围,如果失败时是否可以恢复,是否需要人类的预先批准的行为.
在302号的药物传递中,不能忽略确认子3人是否在身边.该确认不应该是语言模型幸运地记住的固的习惯语.如果不满足必要条件,必须是执行条件,使其无法过渡到下一步.这就是为什么判断和执行之间需要界限的原因.
什么是社会判断的基础?
这一社会调整循环的主要功能主要是四个阶段.
第一个是社会状况跟踪.不断估计进入视野的人的目标,角色,知识,线路和当前状况.重要的是不确定一个正确答案,而是保持这一猜测的不确定性.在四节中所述的论的集合是实际数据结构的点.假设第302号患者闭着眼睛.机器人从一开始就无法确定是否睡觉或只是休息.
第二个是规范权限判断:判断谁有权作出什么命令,谁可以向谁披露什么信息,哪些行为需要同意.分辨手术护士的指示和实习生的玩笑,判断保护者不应该披露所有的医疗信息.
第三,是不确定性管理.如果判断的可信度下降到限度,我们会问问题,或者等待,或者向人类确认,而不是执行行为.
第四个是失败恢复和人类关系. 检测错误,停止行为,必要时解释或道歉,如果可能的话撤回或重新启动. 如果机器人自己无法解决的情况,则将这些功能交给适当的人. 这些功能由规范,政策层,角色,权力图,关系记忆,审核记录等共同的支持结构支.
这是一个巨大的模型,一个明确的结构.
如果你读到这么多,就会问你是否应该放弃最终的大型模型. 在这种结构中,大型模型扮演着难以取代的角色:开放世界的丰富的情况理解,可行的行为候选人的产生,给人提供自然语言的解释,设计师对未预料的例外情况的通用化.
灵活性是学习,边界是明确的结构的责任.而这种分离是学习和执行的分离.学习的自由与执行的自由不一样.模型可以通过各种数据和经验进行广泛学习.但在现场上对人影响的行为必须有明确的执行边界.因此,在实际系统中学到的建议规范;权威的验证;风险评估 → 执行验证 → 执行验证 → 行为结果;对人进行监测的响应都会达到底线.这将使未经验证的人无法直接接触到现场的判断.这也是一个系统中的4个层次的反-模式.
实际实现是通过几个神经网络实现的.可以在一个大型模型内部实现多个功能,也可以分为多个模型和规则基础的模块.本质是单独的.验证和隔离和责任的边界在架构中明确存在.没有边界的系统正常运行时似乎没有问题.但在失败时很难解释什么是错误的.
预期的反驳是:我们需要这么复杂吗?
这种层积累后,响应会缓慢,发展会困难.
但在与人类持续接触的系统中,解释可能性,错误隔离,责任追踪,安全停止不能仅仅视为附加功能.如航空和医疗器械等重要的安全系统所示,更重要的是以可验证,识别和可追溯的结构管理,而不是消除复杂性.
更重要的问题是:忽略这个结构,而不是复杂性消失.在建筑中,取消的判断在现场取代人.在机器人旁边守护的员工的眼睛取代了社会执行门.每当出现问题时,奔跑的员工的手成为失败恢复模块.从格机器人原始的格里约来看,现场人员承担了解释功能.机器人无法判断的例外情况最终被处理为电话和呼叫和手工.复杂性不是被消除的,而是被转移到人类身上.在那一刻,技术债务被转换为运营成本.在开发阶段被忽略的社会判断结构的成本将以现场监控人力,重复干预,民事回应,事故查询,停用形式再次被收费.该账单的形状在最后一封信中讨论.
结论:不是连接,而是循环.
简而言之,物理AI和 Social AI的整合并不是两个模型的源头连接的问题.物理行为候选人通过社会判断,在执行前突破可验证的边界,对行为的人的反应再次形成了修改下一个物理计划和社会判断的循环结构的问题.在这种结构中,巨型模型和明确模块不是竞争关系.学习的模型提供了应对开放世界的灵活性,明确结构提供了不应超越的界限和责任的基础.因此, Social AI 架构的关键问题不是使用什么巨型模型.模型的判断和机器人的执行之间是否存在可验证的界限.在这个问题上,必须能够回答对话模型连接的机器人在行为中可以突破社会.
技术论证已经完成了:社会AI是什么?第一部分:为什么不仅仅是数据?第二部分:为什么不仅仅是数据?第二部分:为什么不仅是流利性与差异?第三部分:为什么需要什么表达?第四部分:如何学习?五部分:为什么储备?
最后一边开始于试点工作结束日的机器人R. 从物理上从来没有失败过,但最终是现场撤回的机器人.为什么撤回.答案不在机器人的发动机或电池上.在建筑中被忽略的社会判断的复杂性回归于人的劳动和运营成本的时刻.最后一边,在解体了成本结构后,这系列将达到最初预测的结论 - - 韩国的战略机会.