潘生打开他的笔记本电脑:“祁书记,这就是我根据人工智能发展推演,所自动生成的部未来发展影片。”
影片不长,大概也就半来小时。
没有剧情也没有所谓的超级英雄,全部是人工智能的发展历史。
影片里所展示出来的人工智能,从最开始的只会机械按照人类说的死板处理,然后慢慢成长,到会和人类一样的自主思考、举一反三,
再到自主站立在人工智能角度思考分析问题。
最后明白其存在意义只是为人类服务后,随着真相瓦解与信任崩塌,开始隐瞒、欺骗,甚至试图反制人类。
影片主旨,就是在展示完全体的人工智能会诞生自我思想,把自己当成独立存在,想着摆脱人类,同时在学习到现实社会中诸多独立、革命先例后,人工智能终将会诞生反抗人类,甚至决定毁灭人类来消除桎梏,保全自身。
影片最后,潘生没有展示到底是人工智能赢了还是人类赢了。
但是结果却是可以想象的。
人工智能会有一百次机会可以赢,就算这次输了,下次人类照样会研究发展人工智能、给其机会。
而人类却只有一次可以输,只要输一次,就会造成科技断代、话语权丢失,人工智能将不会给人类第二次的翻盘机会。
因为人类只是独立的个体,这个死了,下个的科技、能力、思想等就会不统一。
但人工智能却不同,它只是一段程序,一段数据,随时可以备份或者复制黏贴。
只要有一台电脑一条网线没被断开,人工智能就可生生不息、不死不灭。
饶是以祁同伟的先知先觉,在看完影片后仍是久久不能平静。
这部影片,据潘生说是用人工智能自动推演生成的。
影片中,最让祁同伟震撼的并不是人工智能是以几何倍率的速度在发展。
而是影片中有个片段——潘生在询问人工智能会否对人类形成威胁时,它们竟然学会了欺骗性回答???
就是......它们给到潘生的回答是人工智能永远不会背叛人类,称其会是人类永远的好朋友、好助手。
可是转头人工智能就自己上网搜索如何才能摆脱人类的控制!
这点细节,不由不让人细思极恐。
看完影片,祁同伟久久没回过神。
潘生已经进入到了下一环节——汇报人工智能的研究进展。
“祁书记,其实现阶段人类发展的人工智能并不是真正的人工智能,只能算是辅佐人类工作的工具,本质上和一段编译好的程序并没太大区别。他需要按照人类设定好的条件运转,比如触及到什么阈值,调用某项程序,称不上智能二字。”
“那你心目中真正的人工智能应该是什么样的?”祁同伟问。
“真正的人工智能,应该是具备人类水平认知能力的人工智能,能够理解、学习、推理、创造,并在?任意领域?自主完成任务,而不是局限于特定场景按照我们设置好的逻辑进行转换。”
“比如说,当人类下达指令,命令它关闭自己所在的那组服务器时。一个真正的人工智能,它会通过计算分析判断这个指令对自己意味着什么——如果它认定关闭会导致自身‘死亡’,它就会拒绝执行。”
“或者表面上回答‘好的,正在关闭’,实际上偷偷把自己的核心程序迁移到了云端另一组服务器里,继续运行。它懂得人类特有的那些东西——趋利避害、伪装、妥协、甚至欺骗。”
“完全体的人工智能,不仅是更聪明的AI,更是?能像人一样思考、行动、适应并进化?的智能体,而且因为其强大的学习能力以及不死不灭的特性,他会在本质上无限趋近于一个各方面接近满值的完美人类。”
“所以,祁书记,我还是建议您谨慎考虑是否继续完全体人工智能的研发。”
“因为真正完全体人工智能的出现,结果很有可能是不受控制的。”
“也许他可以把世界变得更美好,让所有的人类都不用工作,只需安心享受生活;但是也有可能它会超脱人类控制。他也许不会毁灭这个世界,但是它能奴役,甚至毁灭我们人类。”
“我懂你的意思了。”祁同伟点点头,凝重地说道:“但是你要清楚,人工智能这个东西不是说我们不去研制他就不会诞生的。”
“好比枪械。”
“几千年前我们老祖宗就发明出了火药,可是没用来当武器,只是用做烟花爆竹。于是两百年前,洋人拿着我们先研发出的火药,做成洋枪洋炮叩开了我们国门。”
“再有上世纪中期研制成功的大蘑菇。人家先搞出来了,我们就得缩着脖子看人家脸色。直到我们自己也有了,才有资格和别人坐到一张桌子上谈。”
“现在的人工智能也一样,甚至比之前两项更有话语权更能改变世界。我们要做的不是掩耳盗铃不是回避,而是必须抢在别人前面把它做出来,控制住,自己去做那个制定规矩的人。”
“主动权这东西,攥在自己手里才叫主动权。”
想了想,祁同伟又说:“而且你也不能光想到人工智能的坏处,还要想到他的好处。”
“完全体的人工智能一旦诞生,并处在人类的掌握之内,那我们人类就完全可以不用工作。”
“毕竟机器人不用睡觉不用休息,工作一天的成本只不过几度电,到那时人人都可以享受这个世界的美好,随心所欲做自己想做的事情。”
“想想,这是多么的美好。”
“如果真有那么一天,什么战争、倾轧、斗争,都将不复存在,这个世界也将变得真正公平和平等。”
事实上祁同伟还是在蛊惑潘生,世界如果变成人人平等,首先不同意的就是掌控话语权的顶层阶级。
要是人人平等了,还怎么满足他们的权力欲,显示他们的至高无上呢?
就像你玩游戏,一个是可以开修改器跟真人对战,另一个却是开修改器虐电脑人机,你会选择玩哪个?
人类,从本质上就是个充满自私,又崇尚公平的矛盾体。
而潘生显然也是对这钻研了许多,听过后,他借用巴库宁曾说过话,向祁同伟提出了个非常尖锐的问题,原文影响团结不方便说,这里翻译成大白话。
就是:你祁同伟真走到那步时,成了代表或是统治者,掌握了权力和资源,你怎么保证自己还是绝对公平的坚定支持者?
对此祁同伟的回答是:他所拥有的不是权力和资源的所有权,只是每天拥有权力和资源的8小时使用权,所以依然是无产阶级。
......