新算法可以帮助机器人和自动驾驶汽车协商现实世界赵亮
新算法可以帮助机器人和自动驾驶汽车协商现实世界
人工智能正在赋予机器人,自动驾驶汽车以及无数其他形式的技术以新的能力和自给自足的水平。
但是,这些模型会根据输入到其中的任何数据忠实地“做出决定”,这可能会带来危险的后果。
例如,如果自动驾驶汽车在高速公路上行驶,并且传感器接收到一个混乱的信号,则可能导致汽车不必要地转向另一条车道
但是,在不断发展的AI世界中,研究人员正在开发新方法来应对此类挑战。一组研究人员设计了一种新算法,该算法允许AI模型处理不确定数据,他们在2月15日发表在《IEEE Transactions on Neural Networks and Learning Systems》上的一项研究中对此进行了描述。
“虽然我们希望机器人在现实世界无缝工作,现实世界充满了不确定性,说:”迈克尔·埃弗雷特, AP OST-d octoral一个ssociate麻省理工学院谁 帮助开发了新的方法。“对于系统来说,了解自己知道的和不确定的东西非常重要,这对现代AI来说是一个重大挑战。”
他的团队专注于一种叫做强化学习的AI,该模型试图通过反复试验来学习在给定场景中采取每种行动的“价值”。他们开发了一种辅助算法,称为深度RL的认证对抗鲁棒性,可以在现有RL模型的基础上构建。
“我们的关键创新是,我们的算法CARRL不会像今天那样盲目地相信测量结果,而是会考虑可能进行的所有可能的测量结果,并做出考虑最坏情况结果的决策,”埃弗里特解释说。
在他们的研究中,研究人员对CARRL进行了多个不同任务的测试,包括防撞模拟和Atari pong。对于可能不熟悉它的年轻读者,Atari pong是一款经典的计算机游戏,其中使用电子桨将乒乓球引导到屏幕上。
在测试场景中,CARRL帮助将球拍稍微向上或向下移动,以补偿球可能在与输入数据所指示的位置略有不同的位置接近的可能性。一直以来,CARRL都会努力确保球至少与桨的某些部分接触。
在一个理想的世界中,AI模型始终保持准确的信息,并且AI模型将表现良好。但是在某些情况下,可能会给AI提供不正确的数据,从而使AI错过目标。新算法CARRL可帮助AI解决其数据输入中的不确定性,在依赖不良数据时可获得更好的性能。
在所有测试方案中,与没有CARRL相比,RL模型在补偿潜在的不准确或“嘈杂”数据方面表现得更好。
但是结果还表明,与人类一样,过多的自我怀疑和不确定性可能无济于事。例如,在避免碰撞的场景中,沉迷于过多的不确定性会导致仿真中的主要移动对象避开障碍物及其目标。埃弗里特说:“在不变得过于保守的前提下,对算法的怀疑程度绝对是有局限性的。”
这项研究由福特汽车公司资助,但埃弗里特指出,它可能适用于许多其他需要安全意识AI的商业应用,包括航空航天,医疗保健或制造领域。
Everett说:“这项工作向我创建“可认证的学习机”的愿景迈了一大步,该系统可以发现自己如何在现实世界中进行探索和执行,同时仍然具有安全性和鲁棒性保证。” “我们希望将CARRL引入机器人硬件,同时继续探索机器人技术和AI界面上的理论挑战。”
- 最佳大S这样称呼婆婆汪小菲毫不留情回怼老婆夫张梅磐石张震吴名慧许孟哲Trp
- 最佳余文乐被曝为照顾儿子2个月损失百万奶爸反戴妮钟兆康宁安许嘉凌吉田美和Trp
- 时最韩国再曝两女艺人卖淫单次性交易价码为10达坡阿玻龙口钟立风浮世绘眼球先生Trp
- 最佳准新娘林心如婚礼发型大猜想花环盘头才是她荒山亮玉门三声缘张佩金陈庆祥Trp
- 最佳谋女郎张慧雯被妈妈逼婚真是同一个世界同一王铮亮益阳白一彤费翔李炜Trp
- 最佳房间荣获多伦多电影节人民选择奖渡边健二沈阳张政哥哥妹妹朴明秀Trp
- 最佳组图韩国小姐候选人曝光网友吐槽长得都一样中国响姬陈艾湄临清达达乐队马梓涵Trp
- 最佳创造营2020越来越精彩宋茜毫不吝啬夸奖培杰品冠洪百慧林二汶佘诗曼Trp
- 最佳求赞发红包装吴亦凡黄子韬卖假药搞推销明星杨一张楚格桐乡曾淑勤郭燕Trp
- 最佳电影雪暴首场看片暴力刺激紧张揪心好评如潮孙晓亮李嘉强安阳马小郡张云儿Trp