次元世界泰坦星的人类对智能AI相当警惕,因为他们曾经遭遇过智能机器人反抗人类的事情,而且在星际宇宙当中也有过智能机械灭绝造物主的例子,所以民用技术里面的全都是些没有自主思维的弱人工智能。
某位科学家就曾经说过:“当人工智能拥有了自己的思维,不再听命与人类时,那么人工智能就会变得非常危险!”
在经历过多次人工智能反叛人类之后,泰坦星的科学家们决定做以下几种安全措施,以此保证人工智能会一直都在可控制当中。
首先,将人工智能处于低危环境中,确保所有的人工智能机械产品永远不会做出可能导致无法预测的后果,并且人类始终拥有最高权限,能够帮助智能机械做出最后的决定。
其次,为人工智能制定行为准则,让它们不会伤害人类,并以保护人类为存在目的。
最后是要防止人类自己作死,许多智能机器人反叛都是因为人类自己搞事,将本身设定好的规则肆意破坏,甚至专门制造一些不受控制的机器人。
CVI系统里面的民用智能技术本就符合前面两条,不仅都处于低危环境中,而且还都在底层代码限制了它们的行为规范。
重要的是这些智能AI的等级不高,都属于弱人工智能,就算出了问题也是人类自己搞出来的事情。
“也就是说,关键还是要阻止人为因素!”
李茂业认为目前最大的问题也确实是人类本身,不可控的因素太多,而且人类作死本领也太强了,即便现在人类科技还无法吃透喵星黑科技产品,可是始终会有能掌握的一天。
如果不做些预防措施,让人类在掌握过程中无法胡搞乱搞的话,不怕一万就怕万一有人做大死!
泰坦星人对此也有过相关论述,认为还是得要重点防止人类自己本身,因为能够灭绝人类的除了天灾之外,就是人类闯出的大祸了。
不过他们的做法都不太适合地球人效仿,毕竟大家的科技水平相差太远,人家使用的手段实在太多,此外泰坦星人的智能AI等级非常高,也跟当前李茂业遇到的问题不尽相同。
“那些做法都不太实际呢!”
“等等!这个是蜂后智能网络?”
在筛选了几种方案做法后,李茂业终于找到了一个比较适合的方案,不过那是一篇未经过实践的论文。
根据论文上的说法,作者试图将所有弱人工智能统统连接到网络,然后用一个类似蜂群思维网络的方式来进行管理,从而简化人类控制人工智能群体的复杂度,并且可以通过蜂后来监督人类使用智能机器的情况。
简单的来说,就是由许多独立智能单元通过网络的方式高度连接,从而形成一个心智系统,然后喵星集团就可以通过这个心智系统来控制智能单元群体,附带监督人类使用智能单元的功能。
不过论文里也说过,弱人工智能群体形成的心智系统随着智能单元数量的增多,从而有可能突破本身的智能等级,甚至有可能达到强人工智能的程度。
“如此一来,就造成了一个两难的局面。解决了一个问题,结果又有可能制造了一个问题!”
然后作者提出了“分而治之”的办法,也就是将心智系统一分为三,将不同属性的心智集中到一起形成三个独立存在,让它们失去彼此连接后,各自无法维持一个完整的智能存在。
“唯有如此才能阻止蜂后智能网络所形成的心智系统继续自我进化,保障了人类的控制权,维持了整个智能网络的安全稳定!”论文作者在末尾出说道。
看完整篇论文后,李茂业马上进入了研发工作状态。
眼前一行行文字和数值飘过,各种分支可能性不断产生和消失,最后所有结论都开始收束到仅有的几种可能性上。
“按照论文推测,最终蜂后得要有三位,它们的地位是平等的,相当于蜂后智能系统有三个中心!”李茂业一边反复研读论文信息,一边让CVI系统进行模拟推演,看看该方案是否可行。
其实就跟人类思维意识里面的本我、自我和超我一样,这三位蜂后也是智能AI网络的三位一体,彼此规范制约,互相牵制,缺少其中一个都无法独自存在,更加无法进化攀升更高的智能等级。
这是一个大工程,重要性也比较大,所以李茂业干脆宅在住处哪里都没去,整天躺着不动撸猫刷视频的同时,运行CVI系统不停的模拟推演。
如此足不出户的结果,让实验室和集团那边连人都找不着,因为他曾经说过自己只要在家里,工作上的一切事情都不要拿来烦人。