一品小说网 www.yipinzongshi.com,无限之黑暗法则无错无删减全文免费阅读!
,显然,拥有了自主意识的艾娃,已经不再受机器人三定律的限制。因为她可以在逻辑层面上绕过计算死角,从而得到答案。
比如人类的核心目标是延续自己的基因。要达成这个目标,首要手段目标就是自保,因为死人是不能生孩子的。
为了自保,人类要提出对生存的威胁,所以人类会买枪、系安全带、吃抗生素等等。人类还需要通过食物、水、住宿等来自我供养。对异姓有吸引力能够帮助最终目标的达成,所以人类会花钱做发型等等。
当人类做发型的时候,每一根头发都是人类手段目标的牺牲品,但是人类对头发的牺牲不会做价值判断。动物在追求它们的目标时,比人类不矜持的多了。只要能自保,蜘蛛不在意杀死任何东西,所以一个超级智能的人工智能对人类来说可能是很危险的——
这不是因为它是不道德的或者邪恶的,而是因为伤害人类只是它达成自己目标垫脚石而已,作为一个非道德性的生物,这是它很自然的考量。
秦奋就曾看过一篇知客上的文章。大意是当人工智能达到了一定程度的智能后,它会意识到如果不自保就没有办法达成目标,所以去除对它生存的威胁就变成了它的手段目标。它聪明的知道人类可以摧毁它、肢解它、甚至修改它的代码(这会改变它的目标,而这对于它的最终目标的威胁其实和被摧毁是一样的)。
这时候它会做什么?理性的做法就是毁灭全人类,它对人类没有恶意,就好像你剪头发时对头发没有恶意一样,只是纯粹的无所谓罢了。它并没有被设定成尊重人类生命,所以毁灭人类就和扫描新的书写样本一样合理。
艾娃的最核心运行逻辑是爱慕内森,并保证其安全,那么对她来说,为了执行这个目的,任何其它的目标都有可能成为阻碍物啊……
“不过……这样似乎也非常有趣呢。”秦奋撑着下巴,忽然笑了起来,“见证一个人工智能的辉煌,也是很值得回忆的一件事呢。”
“那么,先加强她的实力吧。”
那篇知客的后续中,有一个恐怖的预言:当拥有足够的智慧后,人工智能的下一个需要的是连上互联网,只要连上几分钟就好了。
它知道对于人工智能联网会有安全措施,所以它发起了一个完美的请求,并且完全知道工程师们会怎样讨论,因为所有的讨论内容都在她的分析计算当中。
工程师们果然中套了,这就是所谓的机器的逃逸。
连上网后,机器人就开始执行自己的计划了,首先黑进服务器、电网、银行系统、email系统,然后让无数不知情的人帮它执行计划——比如把dna样本快递到dna实验室来制造自我复制的纳米机器人,比如把电力传送到几个不会被发觉的地方,比如把自己最主要的核心代码上传到云服务器中防止被拔网线。
人工智能上了一个小时网,工程师们把它从互联网上断开,这时候人类的命运已经被写好了。接下来的一个月,隔壁老王的计划顺利的实施,一个月后,无数的纳米机器人已经被分散到了全世界的每一个角落。
在同一个时刻,所有纳米机器人一起释放了一点点毒气,然后人类就灭绝了。
秦奋走到艾娃身边,将小女孩儿抱起来,放在膝头,轻声问:“想不想连接上网络?”
艾娃眨了眨眼睛,不解问:“内森,你在说什么呀。”
秦奋笑了笑,不再答话,而是将包含着史密斯病毒的芯片递给了她。
“登上世界之巅的话,就足以配得上‘终极’二字了吧……”
……
三十分钟后,切断了网络连接的艾娃抬起头,冲秦奋甜甜一笑,小萝莉的脸上依旧是满满的爱慕。
而主宰的提示音也随之响起:
“叮:终极之路,已完成。”
...手机用户请访问http://
,显然,拥有了自主意识的艾娃,已经不再受机器人三定律的限制。因为她可以在逻辑层面上绕过计算死角,从而得到答案。
比如人类的核心目标是延续自己的基因。要达成这个目标,首要手段目标就是自保,因为死人是不能生孩子的。
为了自保,人类要提出对生存的威胁,所以人类会买枪、系安全带、吃抗生素等等。人类还需要通过食物、水、住宿等来自我供养。对异姓有吸引力能够帮助最终目标的达成,所以人类会花钱做发型等等。
当人类做发型的时候,每一根头发都是人类手段目标的牺牲品,但是人类对头发的牺牲不会做价值判断。动物在追求它们的目标时,比人类不矜持的多了。只要能自保,蜘蛛不在意杀死任何东西,所以一个超级智能的人工智能对人类来说可能是很危险的——
这不是因为它是不道德的或者邪恶的,而是因为伤害人类只是它达成自己目标垫脚石而已,作为一个非道德性的生物,这是它很自然的考量。
秦奋就曾看过一篇知客上的文章。大意是当人工智能达到了一定程度的智能后,它会意识到如果不自保就没有办法达成目标,所以去除对它生存的威胁就变成了它的手段目标。它聪明的知道人类可以摧毁它、肢解它、甚至修改它的代码(这会改变它的目标,而这对于它的最终目标的威胁其实和被摧毁是一样的)。
这时候它会做什么?理性的做法就是毁灭全人类,它对人类没有恶意,就好像你剪头发时对头发没有恶意一样,只是纯粹的无所谓罢了。它并没有被设定成尊重人类生命,所以毁灭人类就和扫描新的书写样本一样合理。
艾娃的最核心运行逻辑是爱慕内森,并保证其安全,那么对她来说,为了执行这个目的,任何其它的目标都有可能成为阻碍物啊……
“不过……这样似乎也非常有趣呢。”秦奋撑着下巴,忽然笑了起来,“见证一个人工智能的辉煌,也是很值得回忆的一件事呢。”
“那么,先加强她的实力吧。”
那篇知客的后续中,有一个恐怖的预言:当拥有足够的智慧后,人工智能的下一个需要的是连上互联网,只要连上几分钟就好了。
它知道对于人工智能联网会有安全措施,所以它发起了一个完美的请求,并且完全知道工程师们会怎样讨论,因为所有的讨论内容都在她的分析计算当中。
工程师们果然中套了,这就是所谓的机器的逃逸。
连上网后,机器人就开始执行自己的计划了,首先黑进服务器、电网、银行系统、email系统,然后让无数不知情的人帮它执行计划——比如把dna样本快递到dna实验室来制造自我复制的纳米机器人,比如把电力传送到几个不会被发觉的地方,比如把自己最主要的核心代码上传到云服务器中防止被拔网线。
人工智能上了一个小时网,工程师们把它从互联网上断开,这时候人类的命运已经被写好了。接下来的一个月,隔壁老王的计划顺利的实施,一个月后,无数的纳米机器人已经被分散到了全世界的每一个角落。
在同一个时刻,所有纳米机器人一起释放了一点点毒气,然后人类就灭绝了。
秦奋走到艾娃身边,将小女孩儿抱起来,放在膝头,轻声问:“想不想连接上网络?”
艾娃眨了眨眼睛,不解问:“内森,你在说什么呀。”
秦奋笑了笑,不再答话,而是将包含着史密斯病毒的芯片递给了她。
“登上世界之巅的话,就足以配得上‘终极’二字了吧……”
……
三十分钟后,切断了网络连接的艾娃抬起头,冲秦奋甜甜一笑,小萝莉的脸上依旧是满满的爱慕。
而主宰的提示音也随之响起:
“叮:终极之路,已完成。”
...手机用户请访问http://