第25章 林深的伦理报告
关灯
小
中
大
凌晨一点,实验室的灯还亮着,林深趴在桌上,面前摊着厚厚的草稿纸,笔尖在“意识风险点”那栏画了个圈,旁边写着“复制体自主意识失控:07号深海后期出现‘冷感认知’,03号火星传回‘想看见日落’,均超出预设指令范围”。
小陈揉着眼睛端来杯咖啡,放在他手边:“哥,你都熬俩通宵了,歇会儿吧!报告里的‘情感钝化’‘设备适配故障’都写清楚了,还不够吗?” “不够。
”林深没抬头,又添了一行,“还有‘意识碎片化’——昨天李雪说,朵朵记不住自己的名字了,但能准确说出‘妈妈的手机号后四位’,这就是记忆碎片脱落的征兆,之前的案例里没出现过,必须加进预警。
” 老张凑过来,指着草稿纸上的“复制体失控”:“这个要不要写得再隐晦点?艾拉刚才还发消息问,说‘重点要放在陆承宇的暗箱操作上,风险预警写多了,会让公众觉得技术本身不行’——她怕影响扳倒陆承宇。
” “技术行不行,不能靠藏着风险!”林深把笔一放,声音有点哑,“07号在深海能‘感觉冷’,03号想‘看日落’,这些都是自主意识超出控制的苗头,要是以后大规模推广,万一复制体出现更极端的失控,比如拒绝执行指令、甚至攻击人类,谁负责?” 小陈掏出手机,翻出之前存的07号音频片段:“可艾拉说得也有道理啊!你听07号最后说‘能看见光’,这段要是写进报告,媒体肯定会炒‘复制体成精’,到时候不光陆承宇,连整个意识永生技术都会被骂停——朵朵还等着做实验呢!” 正说着,林深的手机突然响了,是李雪,声音带着哭腔:“林博士,朵朵……朵朵刚才问我‘我叫朵朵吗?好像不是这个名’,她连自己的名字都快忘了!医生说再拖下去,就算做了意识映射,也拼不回完整的记忆了……” 林深攥紧手机,心像被揪了一下:“雪姐,你别急,明天我们就去跟医疗监管局对接,先把朵朵的设备换回来,检查先做了!报告这边,我会想办法,不会耽误她的。
” 挂了电话,实验室里静了几秒。
老张叹了口气:“要不……先把‘复制体失控’和‘意识碎片化’这两个预警压一压?先写已经确认的‘情感钝化’‘设备挪用风险’,等扳倒陆承宇,技术归正规团队管了,再补全预警?” “压下去就是不负责任!”林深站起来,来回踱步,“上次数据造假,就是因为没提前公开风险,才让陈叔遭罪;这次要是再藏着,以后说不定有患者连‘意识碎片化’都扛不住,直接变成没有自我认知的空壳——这跟陆承宇的‘炮灰计划’有啥区别?” 小陈刚想再说啥,电脑屏
小陈揉着眼睛端来杯咖啡,放在他手边:“哥,你都熬俩通宵了,歇会儿吧!报告里的‘情感钝化’‘设备适配故障’都写清楚了,还不够吗?” “不够。
”林深没抬头,又添了一行,“还有‘意识碎片化’——昨天李雪说,朵朵记不住自己的名字了,但能准确说出‘妈妈的手机号后四位’,这就是记忆碎片脱落的征兆,之前的案例里没出现过,必须加进预警。
” 老张凑过来,指着草稿纸上的“复制体失控”:“这个要不要写得再隐晦点?艾拉刚才还发消息问,说‘重点要放在陆承宇的暗箱操作上,风险预警写多了,会让公众觉得技术本身不行’——她怕影响扳倒陆承宇。
” “技术行不行,不能靠藏着风险!”林深把笔一放,声音有点哑,“07号在深海能‘感觉冷’,03号想‘看日落’,这些都是自主意识超出控制的苗头,要是以后大规模推广,万一复制体出现更极端的失控,比如拒绝执行指令、甚至攻击人类,谁负责?” 小陈掏出手机,翻出之前存的07号音频片段:“可艾拉说得也有道理啊!你听07号最后说‘能看见光’,这段要是写进报告,媒体肯定会炒‘复制体成精’,到时候不光陆承宇,连整个意识永生技术都会被骂停——朵朵还等着做实验呢!” 正说着,林深的手机突然响了,是李雪,声音带着哭腔:“林博士,朵朵……朵朵刚才问我‘我叫朵朵吗?好像不是这个名’,她连自己的名字都快忘了!医生说再拖下去,就算做了意识映射,也拼不回完整的记忆了……” 林深攥紧手机,心像被揪了一下:“雪姐,你别急,明天我们就去跟医疗监管局对接,先把朵朵的设备换回来,检查先做了!报告这边,我会想办法,不会耽误她的。
” 挂了电话,实验室里静了几秒。
老张叹了口气:“要不……先把‘复制体失控’和‘意识碎片化’这两个预警压一压?先写已经确认的‘情感钝化’‘设备挪用风险’,等扳倒陆承宇,技术归正规团队管了,再补全预警?” “压下去就是不负责任!”林深站起来,来回踱步,“上次数据造假,就是因为没提前公开风险,才让陈叔遭罪;这次要是再藏着,以后说不定有患者连‘意识碎片化’都扛不住,直接变成没有自我认知的空壳——这跟陆承宇的‘炮灰计划’有啥区别?” 小陈刚想再说啥,电脑屏