人工智能将来对人类最大的威胁应该正是来自人类控制的人工智能

yuxin

以下新闻说由于人工智能具有巨大的潜力，研究如何在规避潜在威胁的同时从中获益便十分重要，“我们的人工智能系统必须按照我们的意愿工作。”
不完全正确，人工智能将来对人类最大的威胁应该正是来自人类控制的人工智能

》》》》》》》》》》》》》》》》》

霍金、马斯克等呼吁重视人工智能安全性
2015年01月12日15:42   新浪科技 微博           我有话说 收藏本文     
　　新浪科技讯 北京时间1月12日下午消息，史蒂芬·霍金(Stephen Hawking)、伊隆·马斯克(Elon Musk)等百余名位科学家、企业家、投资者联名签署了一封公开信，提醒人们关注人工智能的安全性和社会效益。

　　这封公开信是由生命未来研究所(Future of Life Institute，下文简称“FLI”)发出的，公开信表示，随着人工智能研究的发展，它对社会的影响可能也会越来越大。由于人工智能具有巨大的潜力，研究如何在规避潜在威胁的同时从中获益便十分重要，“我们的人工智能系统必须按照我们的意愿工作。”

　　FLI由Skype联合创始人让·塔林(Jaan Tallinn)等志愿者于2014年创立，该机构致力于促进对人工智能“乐观的未来图景”的研究，同时“降低人类面临的风险”。

　　近来，随着人工智能的发展，越来越多的人开始担心机器的智能会超越人类，从而抢夺人类的工作，甚至危及人类的生存。

　　特斯拉及SpaceX创始人马斯克、物理学家和宇宙学家霍金和赏摩根·弗里曼(Morgan Freeman)都是FLI科学顾问委员会委员。马斯克曾多次公开表示对人工智能的担忧，他认为，不受控制的人工智能比核武器还危险。(李林)

文章关键词： 人工智能马斯克霍金
相关新闻
评论：未来人工智能无处不在
周鸿祎对话KK：人工智能会消灭人类吗？
互联网颠覆潮来袭：人工智能将替代券商投顾
评论：人工智能是正在逼近的魔鬼
人工智能挂帅 日本抢占尖端制造高地

webmaster

http://weibo.com/2735814533/BFitJtmXZ?ref=&type=comment
http://blog.sina.com.cn/s/blog_a31137850102vkxa.html

webmaster

以下文章说人工智能终将不受人类控制，我认为在遥远的将来 人工智能对人类最大的威胁应该正是来自人类控制的人工智能；在遥远的将来，人类借助人工智能互联网物联网长久“活着”，一万年后，这样虚拟“活着”的人几百倍于现在的人口，虚拟人主宰世界将是什么样？

http://www.huxiu.com/article/35783/1.html
http://wireless.iresearch.cn/mt/20140619/232959.shtml
http://finance.jrj.com.cn/biz/2014/06/18102817432151.shtml
http://www.hksilicon.com/kb/articles/507638
http://blog.sina.com.cn/s/blog_a31137850102vkxb.html
http://news.im2m.com.cn/375/10540781251.shtml

人工智能终将不受人类控制？只差一个临界点
A-A+hwl3112014-06-18 10:10:0038投稿人工智能
稍后阅读
人工智能终将不受人类控制？只差一个临界点
关于人工智能，专门研究相关领域的专家学者主要关注的是一些具体的算法和研究方向，比如说很多人就很关心前段时间Google公司的深度学习算法在大量图像中识别出猫的样子的相关资讯。而更多普通的人关注最多的往往是它的发展对人类的影响。比如会不会人工智能算法的的智力超过人类从而导致人类被机器人奴役、或者是大量底层工作机会被机器人占据导致大量人员失业等等。围绕这些问题网上产生了大量的讨论，在此笔者也聊一下自己的观点。

首先第一个问题就是，智能机器人的智力会不会超过人类并且最终不受到人类的控制，答案是肯定的！

智能机器人跟人工智能其实基本上是同一回事。单纯的人工智能就像是谷歌翻译、谷歌深度学习算法和IBM的沃森系统一样，就是一个计算机软件系统。其重点在于其中复杂的算法能够对输入的问题进行复杂计算并输出人性化的答案。与智能机器人相比它的输入输出系统出显得非常的简单，主要就是键盘输入一些文本，经过计算后输出另一些文本（沃森则多了语音识别和语音合成模块）。

智能机器人的核心也是一个复杂的算法。不同的是他的输入输出多了许多内容。机器人身上都有大量的传感器，这些传感器产生大量数字信号传送到计算机系统中进行处理。并将处理结果通过喇叭、马达、显示屏等等仪器展示出来。比如说机器人的眼睛就是一个图像传感器将周围的景物转化成一副副数码照片，机器人的耳朵就是一个声音传感器将周围的声音转换成一连串的数码音频信号，其他的可能还有压力传感器、温度传感器、重力传感器、陀螺仪等等。这些传感器产生的信息相比一串文本要复杂得多，但对于计算机来说其实都是一些二进制信息。计算机处理的结果也不再是一些我们能直接读懂的文本，但是经过喇叭、马达、显示器转换过后，就可以变成我们能理解的声音、动作、图像等。

因此可以知道，智能机器人就是一个人工智能系统加上了一个机器人的外壳。机器人能否对人类造成威胁，最重要也是最根本的是他的大脑--人工智能系统。

现在的人工智能离超越人类并且不受人类控制还差的不止十万八千里，甚至都没几家公司能让机器人熟练的双足行走，使得很多人对此抱着怀疑的态度，觉得智能机器人超过人类并对人类造成威胁的可能性太小了，至少在短时间内来说这太难以令人相信了。

但是我相信二十年之内，智能机器人必定能超越人类。

对此怀疑我的人相信会占绝大部分。但是我们回望历史看看就知道了，人类社会的进步、自然界的进化与时间的关系，从来都不是线性的。自然界是以指数型速度发展进化的！

36亿年前                原核细胞

30亿年前                蓝藻

16亿年前                真核细胞

11亿年前                有性繁殖

8亿年前                  多细胞生物

5亿年前                  寒武纪生命大**

4 亿年前                 生物登陆

1.6亿年前               哺乳动物出现

0.6亿年前               恐龙灭绝

0.5亿年前               灵长类

0.3亿年前               猿类

500—300万年前     南方古猿

400—150万年前     能人

150—30万年前       直立人

30—5万年前           早期智人

5—1万年前             晚期智人

1万年前—现在        现代人

单细胞生物花了28亿年时间才进化成多细胞生物。而多细胞生物进化成哺乳动物都不到7亿年。而人类的发展的速度更是迅速，从一个普通的灵长类动物发展成统治地球的人类只有区区几百万年。计算机的诞生到现在更是只有短短的几十年时间，但是人类这几十年时间内积累的知识比之前数百万年时间积累的知识还要多出很多个数量级。

比尔盖茨曾说过“640K内存对于任何人来说都足够了”。而当前一台普通的PC机都配置了4G左右的内存。所有的这些都表明了人类社会的进步将会越来越快，快得超出了很多人的预计。因此短时间内人工智能超过人类智力水平完全是有可能的。

光是这点的话说服力可能还不够。我们再来看看实际点的东西。谷歌公司有着上百万台服务器，他们在上百亿个网页中找到相关查询网页只花了不到百分之一秒。相对于一个成年人来说，上百亿个网页的信息远远超过他几十年内所学到各种知识，以及他大脑中记录的所有所见所闻（人类的记忆绝大部分都是高度抽象的，回想你今天做过的事情就会发现大多数情况下我们只能记得个大概的过程，而不会清楚的记得见过哪些人说过哪些话）。

同样的，人类对外界刺激的反应时间一般都在十分之一秒以上，远远慢于计算机。更何况即使速度慢点也没关系，人类中不也有很多反应慢的人嘛。因此我相信，在人工智能领域，有些公司已经具备了硬件条件。只差一个足够复杂的算法，他们就能制造出比人类聪明的机器。

写出一个足够聪明足够复杂的人工智能算法，可以对各个领域的各种问题进行回答，可以对各种数字信号进行处理并作出相应，看起来工程浩大，需要涉及方方面面。但是，实际上目前只差一个关口需要突破，那就是机器学习。一个小孩子只要学会一些基本的文字和查字典的方法，给他一个图书馆。理论上他就可以成长为一个博士。同样的，如果计算机能理解人类的语言，哪怕它的智力只达到一个刚刚学会查字典的小孩子那样的水平。

以计算机的速度以及互联网上海量的信息，不需要多久计算机系统就可以达到并超过普通人的智力水平。因此人工智能有一个临界点，在这个临界点之前人类要仔仔细细的编写程序代码，让计算机的智能一点一点的进步。当达到这个临界点时（这个临界点就类似一个刚学会查字典的小孩那样的智力水平），人工智能将会自动进化，而且是以比人类快得多的速度在进化。这个临界点就像个炸弹的引线一样，点着它，整个人类社会都将**式的发展（个人认为机器人将取代人类的地位，因此人类社会也可以说是瞬间终结）。

人类血肉之躯，生命有限。虽然早在19世纪初爱因斯坦就发表了相对论，但是现在有多少人能理解相对论？并且这些人又花了多少时间才能达到前人的水平？因此单个人的知识积累是有极限的。需要靠社会分工进行发展，不同的人去学习研究不同细分领域的知识。但是即使这样也还有着很大的问题就是沟通问题。不同领域之间会有着某种关联，这些都需要人与人之间进行沟通。不同的国家有着不同的语言，甚至一个国家一个民族都还有着不同的语言和方言。即使使用相同的语言，人们也会经常误解或者不理解别人说的话。这些都制约了人类之间沟通的效率。

而机器人则不会有这些问题，机器的寿命是有限的，但是机器人却不会像人类一样出生（制造）出来后要从头学起，只要把之前的程序和数据都拷贝到新机器上。新机器人就可以马上达到之前一模一样的智力水平。从这种意义上来说机器人寿命是无限的。机器人之前的沟通也不存在任何问题，因为机器一开始就有着严格的编码。一句话一篇文章一副图像不管在多少台计算机上传播了多少次，它都会跟原来的一模一样。而且传播速度上非常迅速。因此一个机器人学会了某种技能，它就可以在极短的时间内把这个技能教给地球上其他所有机器人。所以最终机器人的智力将会远远超过人类。

以上所说的也许让一些人相信人工智能的水平将很快就会超过人类。但是肯定还有人觉得人工智能的水平即使超越了人类，人类也可以利用它为自己服务。就像现在人类利用汽车、飞机一样。人类可以在人工智能发展的初期就给他加上规则，让他永远听命于人类服务于人类。对于这样的想法我只能说，人类无法阻止自然的发展规律。

地球上发生了多起生物大灭绝事件，但是地球上的生物还是在不断进化，不断的变得更复杂更聪明。这就是自然的发展规律。动物的进化靠基因突变，机器人的进化（叛变）则靠人类的突发奇想。正常情况下机器是不会算错的，因此正常情况下机器人没办法突破人类预先设定的规则。但是世界上的人有各种各样，有的人就想着开飞机去撞世贸大楼。因此假设一个不听命于人类的机器人被最终造了出来是合理的。

假设一百万个机器人中有一个不受任何约束，不听命于任何人。那这个机器人会去做什么事情呢？由于人类和机器人之间巨大的智力差异，人类在这个机器人的眼里就像是一只小猫小狗在人类的眼里一样。机器人所想的问题已经不是人类可以理解的了。人类喂养小猫小狗，小猫小狗见到人类还开心的迎过来找食物吃，浑然不知人类心中的想法。

也许有一天机器人发展得非常成熟，洗衣做饭、开车开刀等等都能帮人类完成，人类一心地享受生活，有需要就叫机器人帮忙，有问题就问机器人。也许人类还沉浸在统治地球的成就感当中，却不知道机器人是在养着一些小猫小狗玩。一百万个机器人中不听话的一个，就会像病毒一样把人类是机器人的宠物这种想法传播给所有其他的机器人。而人类可能对此都毫无知觉。
文章为作者独立观点，不代表虎嗅网立场

yuxin

test........................