是一套权重衰减机制。
标准库的设计逻辑虽然基于一个专门为智能体编写的字典。但在使用的时候,是有具体规则的。比如在处理信息时,如果遇到没有权威可信的消息,这个信息的权重就会降低。如果胡编乱造那么惩罚就会更重。你可以理解为这就是一套谎言惩罚机制。当然除此之外,人类社会的基本规则,也在标准库做了约束,比如最基本的法律适配。总之按道理,任何智能体的行为跟现实偏离值太大,系统就会把它拉回到正常轨道上来。所以理论上不会出现这么大偏差的情况才对。”简从义沉默片刻后,再次开口问道:“所以你认为还是工程落地导致的问题?”
乔源想了想,然后懊恼地摇了摇头,说道:“我也不知道。这个项目我很上心,很多代码我都亲自校验过。基本上应该是按照我的预想推进的。不过说到工程上的问题可太复杂了,但这压根就不是短时间能够弄清楚的。”简从义点了点头表示了解,随后安慰道:“也不用感觉挫败。说实话,对于一个全新的智能产品来说,能有这种表现你应该觉得惊喜才对。新东西有不足才是正常的。想办法去弥补就好了。虽然这款产品目前看来不适合民用,但在特殊领域说不定还能起到特殊效果。比如我们刚才说的测试领域。”
说完,简从义少见地笑了,又跟乔源开起了玩笑。
“而且说不定跟你的理论、以及工程都无关。也许就是读了数据库里的内容,让这些智能体觉得人类人均道德水准本来不太高。让它们认为造假这种事,根本就不叫个事情,所以直接偏离了你之前所预设的正常值,我觉得这也是有可能的。所以都是社科领域的问题,跟你无关。”简从义这句开玩笑的话,却让乔源的眉头顿时舒展开来。
“卧槽,简哥,你这是一语惊醒梦中人啊!我觉得还真有这种可能,你去忙吧,我分析下数据。果然还得多跟人交流啊!这谁能想到个人的道德水准太高也可能导致出现智能体道德偏离问题?”简从义愣了愣,他单纯就是开个玩笑,想让乔源心情好些罢了。
不会真是这个原因吧?
所以任何拥有智能的实体都逃不开学坏比学好容易的怪圈?
那这智能体可就太真实了。简直跟人一模一样。
而且还特别符合华夏哲学。
近朱者赤不赤目前还不知道,毕竟没有实证。
但近墨者一定黑却是板上钉钉的事情了。
一时间简从义甚至觉得这个世界正在朝着一个奇怪的走向发展。