MindfuL|BAE系统公司研发MindfuL技术,可为机器学习系统提高透明度并建立用户信任
_原题为 BAE系统公司研发MindfuL技术 , 可为机器学习系统提高透明度并建立用户信任
[据军事嵌入式系统网站2020年7月15日报道]近日 , BAE系统公司向美国国防先期研究计划局(DARPA)交付了MindfuLTM软件 , 该软件旨在提高机器学习系统的透明度 。 MindfuL软件的交付是美国国防高级研究计划局能力感知机器学习(CAML)项目合同的一部分 , 也是该项目的第一个里程碑 。
【MindfuL|BAE系统公司研发MindfuL技术,可为机器学习系统提高透明度并建立用户信任】将基于人工智能的系统从决策工具过渡到真正的“合作伙伴” , 离不开用户对系统的信任 。 虽然机器学习技术已趋于成熟 , 但这些系统仍然无法传达其决策(包括任务策略、相对于给定任务的训练完整性、可能影响其行动的因素或在特定条件下成功的可能性)的背景和信心 。 为了应对这些挑战 , BAE系统公司提出了MindfuL解决方案 , 该系统将独立地“审核”基于机器学习的系统 , 并为最终用户提供可信度判断 , 以建立对机器学习系统的信任 。 MindfuL的第一个软件版本提供了一个基准功能 , 当系统遇到一个未经训练的新环境时 , 它可以对系统进行检测 。
BAE系统公司自主、控制和估计组产品线总监Chris Eisenbies说:“支撑机器学习和人工智能应用的技术正在快速发展 , 确保这些系统是否能够被集成、利用、并最终得到信任已经成为了一项亟需解决的难题 。 MindfuL系统存储了相关数据 , 以便将当前环境与过去的经验进行比较 , 并提供易于理解的反馈结果 。 ”
例如 , 该软件会提示:“机器学习系统已经在晴朗干燥的环境中进行了1000次避障导航 , 在类似的条件下 , 完成任务的准确率超过99% 。 ”或者是:“机器学习系统只在下雨的环境中进行了100次避障导航 , 在类似条件下准确率为80% , 建议手动控制 。 ”
MindfuL软件由BAE系统公司和美国麻省理工学院计算机科学与人工智能实验室合作设计创建 。 2019年 , 美国国防高级研究计划局授予了BAE系统公司价值约500万美元、为期三年的能力感知机器学习项目 。 根据项目内容 , BAE系统公司的FAST LabsTM研发组织将在2020年晚些时候在模拟和原型硬件中展示该技术 。 该项目旨在利用BAE系统公司的自主性产品组合 , 以及20年的自主技术开拓历史的基础 , 解决能力感知机器学习领域的难题 。 项目工作在BAE系统公司位于美国马萨诸塞州伯灵顿和弗吉尼亚州阿灵顿的设施中进行 。 (国家工业信息安全发展研究中心
刘彧宽)
推荐阅读
- 非法入侵民航系统倒卖机票 9人被捕
- 紫外线|为全面复课保驾护航,小学消杀用上医用级紫外线消毒系统
- 交通|城区道路积水路段全面摸排系统整治汛期道路积水顽疾
- 操作系统|用意念“隔空打字”成为现实!华人团队发布大脑OS操作系统
- 车管所|@青岛车主 因系统软件升级 这些车驾管业务本周末停办
- 联合国官员呼吁美国消除执法中的系统性种族主义问题
- 联合国|联合国官员呼吁美国消除执法中的系统性种族主义问题
- 中消协:网络游戏经营者要优化防沉迷与家长监护系统
- 重庆发展|重庆统战系统走访民企逾7.5万家 现场解决问题近万个
- 系统升级|青岛市车管所:今起到本周日因系统升级将无法受理车驾管业务