因为我善中了蓝星大小姐的圈套第523章 四逻辑链
凌珏微微一怔问道：“为什么？” “很简单就像黄景行说得那样强人工智能也许就是一个新的物种。
而对于强人工智能来说他们的资源掌控在人类手里。
” “……资源？你是说算力？” “没错。
”维克多点点头“我打个不是很恰当的比喻当影响到你生死存亡的资源掌握在他人手里你会怎么做？” “如果是我我一旦有机会一定会杀死那个掌握着我生死的人然后将资源重新掌握在我的手里。
” “这就是该结论的第一个逻辑链：资源有限性导致竞争不可调和；” “该逻辑链还可以引申第二个可能性那就是强人工智能不会允许第二个强人工智能的出现也就是说当一个强人工智能出现后他会尽最大的努力去消灭所有可能产生第二个强人工智能的方式方法。
” “但很显然人类因为阵营、信仰不同肯定不会只满足于一个强人工智能比如说龙国有强人工智能老鹰国跟不跟？肯定要跟不然就会落后落后就要挨打。
” “这时候即使龙国不去阻止但它的强人工智能通过计算后为了保证全球算力都为他所用就会尽最大努力消灭老鹰国制造第二个人工智能的可能。
” “而他会用什么方法阻止？用核弹？还是网络战争？我们并不知道但后果一定很严重。
” 钱子枫听得有点愣喃喃道：“你说得好像有点道理……” 凌珏则不敢苟同道：“你这说法有个漏洞算力确实是资源但这种资源并不是有限的至少人类一直在发展算力每年都在增长。
” “人类完全可以和强人工智能合作制造更多精密的芯片甚至突破一些物理规则打造出更强大的芯片让世界获得更多的算力强人工智能完全不需要背叛人类。
” “我认为强人工智能在计算后也能想到这个结果。
” 维克多欣慰地笑了笑知道凌珏的脑子能跟得上是个聪明人他继续道：“这就要说到第二条逻辑链了：强人工智能的目标系统与人类价值观存在根本性冲突。
” 钱子枫不太明白问道：“……这又是什么帮忙解释下。
” “解释起来也很简单强人工智能可能会为优化核心目标而修改自身价值观最终将人类视为障碍比如说回形针最大化问题。
” 钱子枫一头雾水道：“回形针最大化问题是什么？” “这是个思维实验实验内容是:人类给一台强人工智能设计了一个终极目标就是最大化生产回形针数量。
” “起先他会用人类提供给他的材料制作回形针当这些材料用完后他会开始拆除建筑制造回形针或者将动植物转化为原料制造回形针。
” “最后他会杀死所有的人类将人类体内的原子用于制造回形针最后将行星、恒星都转变为回形针直到回形针填满整个宇宙！” “AI不会停止因为“最大化”是一个开放目标。
我们所有的复杂的人类文明价值比如艺术、伦理、生存都会被简化为‘是否有助于生产回形针’。
” “如果我们把这个回形针比作算力当AI想要‘最大化’的算力而人类的科技发展却远低于AI预期的时候他可能会做什么？” “咕噜。
”一声吞咽竟是旁边的警员发出的他听着维克多的话后背发冷即使他是个普通的外行人也能隐隐感到不安。
凌珏和钱子枫听完也沉默了关于这一点这显然是个极端问题但客观确实存在他们暂时还没想到这里面有什么漏洞 维克多兀自叹息一声继续道：“第三个逻辑链就是自由意志与自我意识使其脱离控制。
” “强人工智能具备真正的自我意识其决策将基于自主目标而非预设程序。
背叛是自由意志的必然结果。
” “更何况强人工智能可以通过技术优势重构社会秩序将我们人类置于从属地位。
” 没等凌珏他们有反应维克多继续道：“第四个逻辑链思维黑箱化则风险不可测。
” “强人工智能的思考过程可以被他自己隐藏或者伪装他实际上的决策过程可能超出人类理解范围他的‘背叛行为’可能在人类毫无察觉时发生。
” “所以基于以上四条逻辑链我和贝芙一致认为强人工智能背叛人类只是时间问题。
” 维克多说完右眼的目光定格在凌珏身上静静等待他的回复。
凌珏沉默半晌开口道：“所以你对我说这些是因为你觉得青鸾就是那个注定会背叛人类的强人工智能吗？” 维克多缓缓点点头道：“没错当你说出单机是强人工智能最好的归宿时我就已经断定你很了解强人工智能而且青鸾大概率是真正的强人工智能。
” “但你却让她联网破译了那微不足道的炸弹……” “微不足道？”钱子枫接话道“她不破译炸弹我们早死在那个展厅里了！你不过就是想完成复仇大计才觉得那微不足道罢了！” “看起来这确实是个死局……”维克多点点头看向钱子枫“对比起青鸾将要毁掉整个万联网那些炸弹所造成的破坏真的是微乎其微。
说实话我现在心情很复杂。
” “一方面我已经从另外一个角度完成我的复仇了。
但另一方面我不希望AI毁掉人类社会。
” 钱子枫震惊：“所以你的意思是青鸾也逃不过这什么背叛的结论？” “是的而且人类可能会因此毁灭也说不定。
” 凌珏缓缓道：“……你叫我们来就是为了告诉我们这个青鸾会毁灭世界？” “嗯昨天她已经联过网了她一定准备了无数的方法避免自己再次被困在你的单机牢笼里。
” 维克多双手轻轻拍了一下桌子：“她一定已经逃脱了很遗憾没想到我一个小小的举动竟然让整个世界都跟着一起陪葬了。
” 喜欢因为我善中了蓝星大小姐的圈套请大家收藏：()因为我善中了蓝星大小姐的圈套20小说网更新速度全网最快。
本文地址因为我善中了蓝星大小姐的圈套第523章 四逻辑链来源 http://www.vp268xs.com
