机器人能意识到自己出bug吗

这个要看bug的定义。比如机器人就是一台Linux电脑,bug就是访问危险的内存/操作野指针,那么这个机器人是可以意识到的(异常退出)。
■网友
人能不能发现自己生病了?能不能自己想办法治疗?如果是精神病呢?
■网友
【机器人能意识到自己出bug吗】 能,在检测范围内的bug都是可以被发现的,并发起报警,甚至可以自己解决一些小问题,或者寻找安全的方式应对。比如我们的机器人在启动后,会自检身上的所有模块,如果遇到模块有问题,先尝试重启或再次初始化来修复,如果修复不了,就上报错误到控制模块,然后上传到云端,如果问题严重就发出报警。在运行时出了问题,也会有相应对策。
但是对于没有在检测范围内的突发问题,就只能在高一级的错误收集系统中处理或报警。

如果某些错误未被定义,就很难准确判断了,肯定要人为来判断。

■网友
这本质上是自我指涉的问题吧…参见歌德尔不完备定理和停机问题

/w\\ 我的理解是你可以创建一个包含所有bug的数据库,然后根据根据这个数据库去处理发生的bug,但是这个数据库本身出问题的话还是要跪

■网友
如果系统可以低成本试错,那就可以意识到,并且自我修复。
比如机器人行走躲避障碍物,当它撞上了墙,自然知道自己走错了需要后退改变路线(RL的范畴)。这就是自我纠正;如果它掉进了悬崖,就是bug是足以致命的,那它就修复不了。

■网友
我觉得可以这个机器人可以内置很多程序,其中之一是一个检查自己有没有bug的程序,然后你把一个明显有低级易修复bug的程序放进去,前者可以把后者检查出来,这种机器人我觉得技术含量不高1error并自动添加了一个分号修复完毕
■网友
目前的机器人也只是一段程序,能否修复 bug,取决于程序编写的严谨程度,以及 bug 的严重程度,即取决于人类设定的规则,而非机器的“意识”和“编程能力”,就算有这两个东西,那也只是程序。
可以参照“ Facebook 智能对话机器人创造人类无法理解的语言”的新闻。


    推荐阅读