人工智能——谁会掌握超人工智能的力量
当我们考虑各种力量持有人和目标的排列组合时，最糟糕的明显是：怀着恶意的人/组织/政府，掌握着怀有恶意的超人工智能。这会是什么样的情况呢？http://v.youku.com/v_show/id_XMTM0NTk4ODc3Mg==.html怀着恶意的人/组织/政府，研发出第一个超人工智能，并且用它来实现自己的邪恶计划。有人把这称作贾法尔情况。阿拉丁神灯故事中，坏人贾法尔掌握了一个精灵，特别让人讨厌。所以如果ISIS手下有一群工程师狂热的研发人工智能怎么办？或者说伊朗和朝鲜，机缘巧合，不小心造成了人工智能的快速发展，达成了超人工智能怎么办？这当然是很糟糕的事，但是大部分专家认为糟糕的地方不在于这些人是坏人，而在于在这些情况下，这些人基本上是不经思考就把超人工智能造出来，而一造出来就失去了对超人工智能的控制。
然后这些创造者，连着其他人的命运，都取决于这个超人工智能的动机了。专家认为一个怀着恶意并掌握着超人工智能的人可以造成很大的伤害，但不至于让我们灭绝，因为专家相信坏人和好人在控制超人工智能时会面临一样的挑战。
如果被创造出来的超人工智能是怀有恶意的，并且决定毁灭我，怎么办？这就是大部分关于人工智能的电影的剧情。人工智能变得和人类一样聪明，甚至更加聪明，然后决定对人类下手——这里要指出，那些提醒我们要警惕人工智能的人谈的根本不是这种电影情节。邪恶是一个人类的概念，把人类概念应用到非人类身上叫作拟人化，因为没有哪个人工智能会像电影里那样变成邪恶的。
超人工智能在电影里的出现，那么未来在现实生活中也会实现。你觉得呢？ 这是很有可能的事件，比如战争机器人，设计者一开始的目的是要用它来消灭隐藏的敌人，就会把敌人的特征教给机器人，为了机器人不被敌人破坏和反控制，又会给机器人开发自我保护的功能，对试图改变自己的人类进行伤害，这种辨识敌人和保护自我的能力将越来越强，到达一定程度后，就有可能出现不受设计者控制的情况发生，就像电影中描述的情节那样出现严重后果。 自信无声 发表于 2015-11-19 07:49
这是很有可能的事件，比如战争机器人，设计者一开始的目的是要用它来消灭隐藏的敌人，就会把敌人的特征教给 ...
有道理，为了能控制智能机器人，那么这个过程一定会很漫长
页:
[1]