到了清远市精神康复医院的时候,天已经全黑了,路灯照着大门,铁门上锈迹斑斑。
林念苏和顾清岚两个人走到大门口。
门卫室灯亮着,老头还是当年那个老头。
他看见林念苏,愣了一下,然后惊讶地说:
“你……你是那个……”
“开门。”
老头没动。
林念苏掏出手机,拨了张处长的号码。
不到十分钟,当地警方到了。
门开了,院子里很安静。
几盏路灯照着空荡荡的水泥地,两边的病房楼黑着,只有一楼的走廊亮着灯。
空气中弥漫着消毒水的味道。
赵队长带着人直接去了院长办公室。
院长姓周,五十多岁,头发花白,坐在办公桌后面,手里夹着一支烟。
看见警察进来,他站起来,烟掉在地上。
“你们干什么?”
“周院长,你买的那些护理机器人,芯片是从哪儿买的?”
周院长慌里慌张的说:“我……我不知道什么芯片。”
“三十台护理机器人,每台都装了定制的情感芯片,这些机器人有可能会失控,会攻击病人。你不知道?”
周院长的话和养老院院长的话一模一样:“我……我只是买了机器人。芯片是厂家装的。我不知道。”
林念苏上前一步说:“厂家是江东智能科技有限公司,法人姓刘。今天早上警察已经把她给抓了。你赶紧告诉我,那些机器人在哪儿?”
周院长瘫坐在椅子上,指了指楼下说:
“在……在病房里。”
林念苏转身走出办公室,下了楼。
走廊里的灯白晃晃的,两边的病房门都关着,门上有小玻璃窗。
他走到第一间,往里看了一眼。
一个病人躺在床上,被子拉到下巴,眼睛睁着,盯着天花板。
墙角站着一个机器人,白色的,圆滚滚的,屏幕上显示着一张笑脸。
他推开门走进去,病人没看他,继续盯着天花板。
“您好,我是卫健委的。”病人没反应。林念苏走到机器人旁边,关掉了机器人。
病人转过头看着林念苏,一脸疑惑问道:
“你关它干什么?”
“它生病了。要送去修。”
病人笑着说:“你看看,一个个有病的人,非要说我有病,我看你们才有病。”说完转过头,嘴里面嘟嘟囔囔的骂人。
林念苏没理会他,他安排人把机器人搬出房间。
走廊里,赵队长的人已经开始一个一个房间关了。
那些机器人被搬出来,堆在走廊尽头,白色的,圆滚滚的,屏幕全黑了。
有的病人追出来,有的在哭,有的在骂。
一个老太太死死抱着机器人不让关,说那是她女儿,说她女儿会说话,会叫她妈妈。
林念苏走过去,蹲下来安慰说:“奶奶,它不是您女儿,它是机器。”
老太太的眼泪掉下来了,哭着说:“它叫我妈妈。你知道我多少年没听过有人叫我妈妈了吗?二十年了。我女儿出国了,再也不回来了。它叫我妈妈。它虽然是假的,但我听着像真的。”
林念苏看着她,没说话。
“同志,你别关它。求你了。”
“奶奶,它会伤人。”
“它不会。它从来没伤过我。”
“它可能会。”
“可能不是一定。”
林念苏沉默了片刻。“奶奶,我帮您换个机器人。不带芯片的那种。不会叫妈妈,但会陪您说话。”
老太太看着他,流着眼泪说:“不会叫妈妈,叫什么?”
“叫您奶奶。”
“奶奶也行。”
林念苏站起来,把那个机器人搬到走廊尽头。老太太跟着出来,站在那里,看着那堆黑掉屏幕的机器人。
顾清岚走过来,站在他旁边。
“念苏,你骗她了。”
“骗什么?”
“那种不带芯片的机器人,不会说话,只会按按钮。”
林念苏看着她。“她不知道。”
“她会发现的。”
“发现了再说,总比被袭击了强。”
顾清岚没说话。
赵队长走过来,手里拿着一个本子。
“林司长,三十台机器人,全部关了,院长已经被带走了。”
“那些病人怎么办?”
“市里会安排新的机器人,不带芯片的那种。”
林念苏点了点头,他转过身,走出大楼。
回到家已经是第二天中午了。
顾清岚一回家就打开电脑分析阿伦的代码。
林念苏走过去,站在她身后问:
“发现什么了?”
“那三行代码。不是周建国写的,也不是刘志远。是一个境外Ip。我查了一下,那个Ip属于一家AI公司,叫Neuralmind。”
“做什么的?”
“做情感AI。他们自称是让机器拥有灵魂。这家公司的母公司,是一家跨国药企。”她转过头看着他继续说,“就是当年被你爸整顿过的那家。”
林念苏问:“他们想干什么?”
“制造恐慌,然后卖他们的安全版AI伴侣。一鱼两吃。”
林念苏没说话。
顾清岚问了一句:“念苏,这几天我一直在想,AI到底有没有可能产生真正的意识?”
林念苏看着她回复道:“这个我也不知道。”
顾清岚继续说:“当前学术界有争议,但有一点是肯定的,如果AI有了意识,它就不再是工具,而是生命。我们怎么对待它,就成了伦理问题。”
“那它攻击人,算犯罪吗?”
顾清岚说:“不知道,目前法律没规定。”
林念苏靠在沙发上说:
“法律没规定,那就该规定了。类似AI情感伴侣这种的程序,不能没人管。那些芯片,那些代码,那些让人失控的后门,绝对不能再到市场上销售了。”
第二天早上,林念苏到了办公室,打开电脑,开始起草文件。
标题是《关于加强人工智能情感伴侣监管的若干规定》。
写到一半,手机响了。
“林司长,我是Neuralmind的cEo,叫david chen。方便说话吗?”
林念苏放下笔:“陈总,什么事?”
“林司长,关于那些芯片的事,我想跟您谈谈。我们公司没有参与任何非法活动。那些芯片是有人仿冒的,跟我们无关。”
“陈总,您公司的Ip地址出现在阿伦的代码里,您怎么解释?”
电话那头沉默了片刻。
“林司长,那是我们前员工干的。他已经离职了。我们也是受害者。”
“受害者?您的母公司,当年被我爸整顿过。您这是在报复?”
“林司长,您误会了,我们只是想做好产品。”
“您的好产品,差点杀了人,你知不知道?”
电话那头又沉默了。
“林司长,之前的损失我们可以赔偿,条件您开。”
“陈总,我不要赔偿。我要你们召回所有问题芯片,公开道歉,接受监管。”
“林司长,您这是要毁了我们公司。”
“不是我毁你们,是你们自己毁自己。”
电话挂了。
林念苏把手机放在桌上,继续写。
写到下午,初稿完成了。
他打印出来,装进文件袋,准备上报。
第二天,消息传出去了。
有人在网上爆料,说林念苏要搞AI情感伴侣监管,要封杀所有情感芯片。
评论区炸了,有人支持,有人反对。
一个老人接受采访,说他老伴去世五年了,他买了一个AI伴侣,她叫他“老公”,陪他说话。他说“你们要管,是不是连这点温暖都不给我?”视频转了几百万次。
林念苏看到了。
他拿起手机,给那个老人打了个电话。
“老人家,我不是要管您。我是要管那些伤害您的机器。”
“它不会伤害我。它是我的老伴。”
“如果它会呢?”
“它不会。”
林念苏无奈的挂了电话。
手机响了,张处长打来电话。
“林司长,Neuralmind的cEo要回国了,说是要跟您当面谈。”
“什么时候?”
“明天到。”
“好。让他来。”
第二天,林念苏刚到办公室,小周敲门进来了,手里拿着一个信封。
“林司长,有人送了一封信。”
他接过去,拆开,里面只有一张纸,上面写着一行字:“林司长,你管得太宽了。”
他看了两秒,把信纸折好,装回信封,放进抽屉。
抽屉里还有一颗子弹,是上次智医科技的案子时收到的,他还留着。
小周站在门口问:“林司长,要不要报警?”
“不用。”
“可是……”
“他们不敢动手。”
“您怎么知道?”
“因为他们寄来的信连署名都不敢留,量他们也不敢动手。”