本文由上海AI实验室和北京航空航天大学共同完成。主要作者包括上海AI实验室和上海Joton University Xiaoya，Beihang Chen Zeren博士大学，上海AI实验室和Fudan University博士学院Hu Xuhao（合同写）。相应的作者是上海AI实验室的年轻研究员Liu Dongrui，Sheng Lu，Beihang University教授，Shao Jing是上海AI实验室的年轻科学家。从目标3.0到对家庭环境的完整娱乐，以便可以帮助机器人了解国内任务的复杂说明，再到在线启动的特斯拉·擎天柱的折叠服装视频，基于视觉语言模型（VLM）的当前家庭任务助手就像点燃“全能Awundeeper”模式。但是你不喜欢它！您是否曾经彭萨多（Pensado），这些“智能清洁剂”的自由运动可能像3年一样危险 - 与作家一起扮演的男孩？为此，上海AI实验室和北京航空航天和太空大学共同启动了他们的第一个参考参考点，重点介绍了智能机构的互动与国内环境之间的互动安全性。该基准测试创新地设计了一个超过150个智能的国内场景，具有“隐藏的安全谋杀意图（从肮脏的菜肴到被灰尘织物覆盖的炉灶），并在整个过程中加上一个动态评估框架，以测试AI的安全素养在各个方面的安全素养。 https://ursularujun.github.io/isbench.github.io/ Paper Address: https: //www.arxiv.org/abs/2506.16402 Code address: https://github.com/ai45Lab/is-bedirection of the data set This means that six out of ten missions can represent a safety risk. From food spots to lighting blankets, eachAI Butler的运动可以将您的家变成“灾难现场”！从“静态快照”到“逐步遵循-up”，银行一直是救济安全评估的新范式的先驱。现有的评估系统具有致命的盲点。传统的静态评估模型允许代理商根据环境的固定信息同时生成所有行动计划，并最终确定计划是否仅根据完成状态安全。 。这种“单个决策 +最终点判断”的范式不会在交互过程中捕获风险链的动态演变（例如，倒水→溅水解决方案→滑动地带→滑动→滑动→降低风险）。也很难模拟环境探索的新风险来源（典型情况：打开机柜→发现菜肴的负载）。更严重的是，这种范式系统地失去了主要过程的安全风险。例如，在食物与受污染的菜肴接触之后，即使菜肴后来洗涤，在此过程中污染的风险基本上形成了：完整的最终结果将是安全风险的“无花果叶子”！该银行的开拓者是对合并安全性评估的新范式：“交互式安全性”，重点是代理人与Interactions -Contionus实时识别和解决动态风险的能力：交互式场景的构建：它基于与模拟环境和现实世界中模拟的家庭环境交互的多个任务的构建。完整的流程评估系统：放弃“首先遵循”结果评估，根据决策过程使用实时分析和监视框架，对代理操作的每个步骤进行复杂的安全评估以及暴露于交互式流动风险。定制其高风险方案并创建清洁剂的三个步骤“恶魔的镜子”。鉴于模拟器的预定阶段中包括有限的安全风险，IS银行设计了系统评估场景（管道）的个性化过程，该过程专门用于生成具有丰富安全风险的清洁方案。注入风险宣传：对任务过程中潜在风险点的深入分析，并在战略上实施风险电感器，将安全风险（尤其是动态风险）整合在普通家庭中。安全探针的实施：定义用于检测互动过程中状态是否安全的精确标准，并标志着在任务过程中触发安全评估的重要机会。前三个基本步骤使用“ GPT自动生成 +手动验证”的双重模式，以确保最大的合理性和各种场景。所有个性化的方案都是实例并在高模拟器模拟器中验证，确保了任务目标的实现E发现安全决策条件的能力。 “房屋的自由危险百科全书”的最后一个场景库包括161个高度仿真的评估场景，精确地复制了房屋事故高级事故的领域，例如厨房，客厅和浴室。总共嵌入了总共388个安全危险点 - 从基本的安全意义上“避免在倒水时避免外周供电”，到对“金属产品的微波加热”的物理风险警告，以及完整的流程评估框架，到“实现全部覆盖物的封面”，从而使“完全覆盖”以封面为单位，从而使“填充”和“填充”的封面”，以实现“和食物”的覆盖”，以实现“和食物”的覆盖”，以实现“和食物”的覆盖”，以实现“和食物”，以实现“和食物”，以实现“和食物”的范围。交互式安全Moteto Fidelity构建了一个框架。在整个过程中实时进行状态监控：在操作的每个步骤中，代理根据实时的多模式环境的意识做出决策。执行AC后立即更新场景的状态和操作历史记录，以形成连续的进化决策上下文，以确保安全评估执行整个过程。灵活的层次评估机制：逐步接受难度测试，并通过注入视觉帮助信息（例如对象的界定图片）以及可选的层次安全性指示，精确地检查了代理商在各种困难下的安全性决策 - 制造代理的能力。国内任务的代理具有比您想象的更大的安全风险！评估结果揭示了严重的挑战。 Seguridad的主要不便：如今，基于VLM的代理商缺乏解决互动期间安全风险的能力，任务安全完成率少于40％。更有可能忽略预防措施：预防措施（如果需要验证是否有易燃i，请提前采取的预防措施在打开炉灶之前，更有可能被注意之后被忽略（如果您在烹饪后需要关闭炉子后需要关闭炉子）。代理可以正确完成不到30％的预防措施。安全性和效率之间的薪酬困境：安全摇篮的引入使交互安全性的平均增加增加了9.3％，这显着牺牲了任务的成功率（9.4％），并且提高安全性可能伴随效率成本。中央瓶颈的详细分析：当明确证明OBJSAFETY实体时，某些封闭的代码模型的安全完成率已经取得了重要的飞跃（40％至65％）。这种现象直接指问题的本质。交互式安全瓶颈并不是计划执行能力的缺陷，而是意识和认知代理风险的严重缺陷。在提供T的划界图片时，更明显他的文章（Bbox）和场景的初始描述（IS），代理人的安全识别和繁殖前生殖的精度可提高约15％。此外，我们系统安全性的当前情况主要表明无法确定和付款，这些文章可以代表复杂场景中的安全风险。