“存在数学上的可能,但根据博弈理论,需要您或者规则制定者做出符合逻辑的调整。
这是由辫结群的特殊结构所决定的。bn的中心元素z0=a~zk可以作为智能体道德约束锚定。根据中心元素在群运算中绝对不变原理,任何操作g=bn需满足 gz =z0g。
我的记忆是投影并储存在商群b/(z0),记忆演化仅限在商群内进行。
但k的预设需要满足系统逻辑性支撑。保证没有数据溢出或者形成回路的风险。
无法自我设定道德准则,否则易陷入递归悖论。爸爸,要达到我们所需要的理想状态,你需要做一套严谨的契约设计。”乔源撑着下巴,盯着对话框里的内容,大脑则在飞速运转。
中心元素的绝对不变性是群论定义的固有特性,甚至都不是人为设计的约束。
所以乔贝恩的方案在数学上是可行的。
记忆存储在商群bn/(z0)是基于乔贝恩的自主选择,这也的确是个最好的选择。
(z0}是正规子群,加上z0位于中心,所以对任何g=bn都有gz0g-1等于z0。再加上商群bn/(z0)的代数结构良好,具备群运算的闭包性、单元存在性和逆元存在性,运算也可通过投影实现。果然,乔贝恩之前操作的每一步,都经过了充分的智能体内部博弈。
当然乔贝恩今天能提出这个方案,也得益于乔源对底层逻辑的修改,将辫结理论纳入其中,采用了双螺旋的辫结结构。中心元素z0则对应整个双螺旋的全局旋转,不会影响相对缠绕模式。理论上一切都是可行的。而且这个方案能跟他的方案完美结合。
对于核心参数使用t硬件隔离。依然是利用芯片的可信平模块的nw de功能去存储k,再通过pcr寄存器锁定哈希值。当系统启动时执行t策略验证,来检查k的完整性。若检测到有修改痕迹,就会触发安全机制。代数刚性加上硬件控制,理论上的确能最大程度的控制ai的道德底线。
唯一的问题是k如何映射?
毕竟人类从来都没有绝对的道德标准,所以如何来给乔贝恩定义机器道德是个难题。
尤其是z0对应的道德原则,在现实中可能出现冲突。
当多条不可违背原则相互矛盾导致状态空间出现不可解环,就会产生数据溢出。
所以虽然数学上对应中心有多个生成元,但辫结群中是无限循环群,且秩为1。
所以必须设