注册 登录
美国中文网首页 博客首页 美食专栏

ImYoona //www.sinovision.net/?70618 [收藏] [复制] [分享] [RSS] txgz999@yahoo.com

x

博客栏目停服公告

因网站改版更新,从9月1日零时起美国中文网将不再保留博客栏目,请各位博主自行做好备份,由此带来的不便我们深感歉意,同时欢迎 广大网友入驻新平台!

美国中文网

2024.8.8

分享到微信朋友圈 ×
打开微信,点击底部的“发现”,
使用“扫一扫”即可将网页分享至朋友圈。

智能机的前世今生和未来

热度 16已有 57844 次阅读2014-5-25 11:27 分享到微信

我们为何要考虑人工智能对人类的威胁 (转载)

GARY MARCUS

如果《纽约时报》最新发表的那篇文章是可信的,那人工智能发展的速度确实是飞快的,甚至有些“神奇”。汽车能够自动驾驶;siri系统能够听懂指令,为你找到最近的影院;IBM公司将“杰帕迪”益智竞赛的冠军——沃森电脑系统安装在机器上,这最初是用来训练医学院学生的,可能最终会用来诊断疾病。每个月都会有一种新的人工智能产品或技术出现。也许有些热情过早了些:正如我以前提到的,我们还没有生产出有常识,有视觉,具备语言处理能力,或创造其他机器能力的机器。我们直接模仿人脑的工作还处于初级阶段。

在某种程度上,支持者和怀疑者之间的唯一不同之处就只是时间问题。预言家及发明家雷·库兹维尔认为到达人类级别的智能机器会在20年内出现。我对此有些怀疑,尤其是考虑到计算常识这一领域,人类取得的进步很小;在创建人工智能方面遇到的挑战,尤其在软件层面,肯定比库兹维尔所说的要难。

但在接下来的一个世纪里,人们不会关心人工智能成功建立要花多久时间,他们只关心接下来会发生什么。很可能在本世纪末,机器会变得比人类还聪明——不仅在下棋或一些琐事上,而是在每一方面,从数学,工程到科学,医药。艺人,作家,还有其他创造性的职业会变得很有限,电脑最终会操控自己,吸收大量的新信息,并能理智地整理出来,这是我们这些碳基生物只能依稀想象的。电脑能够每时每秒都工作,不用睡觉,不用休息。

对于有些人来说,未来是神奇的。库兹维尔描写了一种令人着迷的奇点,人类与机器融为一体,从而使人类的灵魂变得不朽;皮特·戴曼迪斯认为人工智能的进步是开启“丰富”新纪元——有充足的食物,水,各种消费品——的重要一步,像埃瑞克·布吕诺尔夫松这样的怀疑论者和我都担心智能机器与机器人作为劳动力可能会造成一些恶劣的后果。但是,即使你暂时不担心超级先进的智能机器对劳动力市场产生的影响,那也还存在其他的担心:强大的人工智能会为了资源直接与我们开战,威胁我们的生存。

大多数人把这种担心看作是科幻小说里的蠢话——像《终结者》和《黑客帝国》这类。在一定程度上我们得为适中时间长度的未来做打算,我们要担心小行星会撞地球,化石燃料产量下降,全球变暖等问题,而不用担心机器人问题。但是詹姆斯·巴雷特的黑暗系新书《我们的最终发明:人工智能和人类时代的终结》,描述了一种严峻的情形,我们多少要有些担心。

巴雷特的核心论据是取自于人工智能研究员史蒂夫·奥摩亨德罗的研究:自卫本能和获取资源的属性可能是某一智能的目标驱动系统所固有的。用奥摩亨德罗的话说就是“如果会下棋的机器人足够聪明,那它就会想要制造宇宙飞船”,从而获得更多的资源来实现它的目标。巴雷特写道,一个非常理性的人工智能可能会扩大“其自我保护的想法…包括对未来出现的威胁——比如,人类不愿将其资源让给机器,进行主动攻击”。巴雷特担心“要是不慎重,缺少补偿指令,具备自我意识,能够自我提高,目标明确的系统也会千方百计地完成我们认为是荒唐的目标。”它甚至可能会指挥世界上的所有资源去最大化实现它所感兴趣的推测。

当然,人类可以试图阻止超级智能电脑连接到一起。但是“自动化技术在经济,军事,甚至是艺术方面的竞争优势实在是太强烈了,”数学家及科幻小说作家夫诺·文琦写道,“通过法律,制定惯例这类事是没法阻止的,如果阻止了,那也只是确保将来有其他人会干。”

要是机器最终取代了我们——正如那些在人工智能领域工作的人所坚信的那样,那真正的问题就在于价值观:我们怎样把价值观植入机器中,如果它们的价值观与我们的价值观发生了偏差,那我们该如何和这些机器协商呢?牛津的哲学家尼克·博斯特罗认为:

我们不能乐观地认为,超级智能一定会分享人类关于智慧和智能发展的成型的价值观——对科学的求知欲,对他人的关心和仁慈,精神启发和沉思,克制物质占有欲,有高雅的文化品位,简单乐趣的感悟,谦虚无私等等。可能通过专门的训练可以打造拥有这些价值观的超级智能,或是珍视人类财富和高尚品格的智能,或是设计者想要它拥有一些复杂目标的智能。这是可能的——可能从技术上说更简单——打造一个能够把最终价值都放在计算圆周率小数上的超级智能。

英国控制论家凯文·沃里克曾问道:“当机器不在我们人类所处的思维次元中思考时,你怎么跟它讲理,怎么跟它做交易,怎么能明白它的想法?”

如果说巴雷特的黑暗系理论中有个漏洞,那就是他未经思考就提出的假设:如果机器人聪明到可以下棋,那它也会“想要制造宇宙飞船”——自我保护和获取资源的本能是任何足够复杂,目标驱动的系统所固有的。现在大部分机器都足够先进,可以下棋,比如,IBM公司的深蓝系列电脑,但是它们还没有显示出要获得资源的兴趣。

但是在我们感到满足,确信没什么好担心前,有一点非常重要:我们要意识到随着机器越来越聪明,它们的目标也是会变化的。一旦电脑更够有效地重新给自己编程,成功地提升自己的性能,达到所谓的“技术奇点”或“智能爆炸”,那么我们就不能忽视机器在与人类抢夺资源和自我保护的较量中会胜过人类的风险。

巴雷特书中最突出的观点之一是来源于著名的系列人工智能企业家丹尼·希利斯,他把即将到来的转变比作是生物进化历史上最重大的转变之一:“我们现在所达到的高度正像是一个单细胞有机体转变为多细胞有机体的高度。我们是变形虫,我们不清楚自己在创造的到底是个什么东西。”

人工智能的进步已经造成了我们从未想过的危险。德雷塞尔大学的电脑风险专家加格跟我说:随着因特网时代的到来及其数据的爆炸性增长,“关于我们的许多数据都被收集起来并输入计算程序,做出预测”, “我们无从知道数据被收集的时间,没法保证收集的数据信息是准确的,没法更新信息,或提供必要的信息背景”。在20年前,几乎没有人会想到这种风险。前方还有什么危险呢?没有人真的知道,但是巴雷特提出的问题是值得思考的。

智能机的前世今生和未来_图9-1



原文连接:  http://article.yeeyan.org/compare/385045


网上看世界杯: http://deportesenvivo.univision.com/game/italia-at-inglaterra-on-20140614

免责声明:本文中使用的图片均由博主自行发布,与本网无关,如有侵权,请联系博主进行删除。







鲜花
2

握手

雷人

路过

鸡蛋

刚表态过的朋友 (2 人)

发表评论 评论 (627 个评论)

回复 随笔 2014-6-16 11:54
午后初雪:    马努确实是令人尊敬的球员,从一位长发翩翩的追风小子打到头发稀稀疏疏像个小老头 哪个MVP他没拿过,独缺美职篮的那一个,NBA欠了马努一个MVP。我 ...
昨天看了阿根廷的球,有点失望,梅西真比不了马拉多纳。不过那个球进的还算利索,不容易,终于又在世界杯上破门了。
回复 随笔 2014-6-16 11:48
午后初雪:    马努确实是令人尊敬的球员,从一位长发翩翩的追风小子打到头发稀稀疏疏像个小老头 哪个MVP他没拿过,独缺美职篮的那一个,NBA欠了马努一个MVP。我 ...
我觉得家嫂应该学学妖刀,两人的经历有点像吧,可家嫂就不甘心坐板凳。
回复 随笔 2014-6-16 11:45
午后初雪: 德国战车即将迎战C罗领衔的葡萄牙,这届还没预测过比分,这场我来猜一下,德3比葡1,不过我不是章鱼哥 这届进球数很高阿,而且到目前为止还没有平局。 ...
这是目前为止最期待的一场球,可惜不是时候,赶上上班,还好是中午,多休息点时间吧 。俺们这只有西班牙人敢上班公开在网上看球,其它有几个是戴着耳机听球的。可见西班牙人对足球的热爱非同一般。
回复 方枪枪 2014-6-16 11:08
在美一方: 是,我实在不堪忍受找地儿看球了,也不能老是吃enchiladas啊,已经痛下杀手订了网络服务估计今明两天就开通在家看球了   ...
看来你不苕啊。
回复 在美一方 2014-6-16 09:46
方枪枪: 打住打住。。。。风花雪夜看球吧,学习些正能量。
是,我实在不堪忍受找地儿看球了,也不能老是吃enchiladas啊,已经痛下杀手订了网络服务估计今明两天就开通在家看球了
回复 方枪枪 2014-6-16 09:42
在美一方: 还有哦,所谓道德君子就是在你挨constant臭骂刚动了回击念头的当口跑来给你宣讲“道德是约束自己的不是规范他人的”,好高大上哦,pfpf,pf得哪止五体投地,连隔 ...
打住打住。。。。风花雪夜看球吧,学习些正能量。
回复 方枪枪 2014-6-16 09:40
在美一方: 没错儿,所谓好友,就是给骂你的文儿献花滴,然后再过来和你说不是赞同骂你的那句话,那种人

混网也有几年了,真是开眼长见识了 ...
拿着你妈说道,叫没有对错,叫有旧怨,叫打架,哈哈。

我今天觉得你的贴我看不惯,我认为你跟我结怨了(只要我认为,是不是真结怨无所谓),我就敲打你妈,咱俩是历史恩怨,拿你妈出来敲打是没所谓对错的。

长见识了。
回复 在美一方 2014-6-16 09:39
方枪枪:   

对着骂你的文献花那不算。原来如彼。

反正我觉得受伤就悄悄撤了。现在,什么都不参与,别人说什么就当新闻点评,也蛮不错的。 ...
还有哦,所谓道德君子就是在你挨constant臭骂刚动了回击念头的当口跑来给你宣讲“道德是约束自己的不是规范他人的”,好高大上哦,pfpf,pf得哪止五体投地,连隔夜饭都暗珠明投了
回复 在美一方 2014-6-16 09:36
方枪枪:   

对着骂你的文献花那不算。原来如彼。

反正我觉得受伤就悄悄撤了。现在,什么都不参与,别人说什么就当新闻点评,也蛮不错的。 ...
没错儿,所谓好友,就是给骂你的文儿献花滴,然后再过来和你说不是赞同骂你的那句话,那种人

混网也有几年了,真是开眼长见识了
回复 方枪枪 2014-6-16 09:33
在美一方: 现在才恍然大明白,原来不冲着你的鼻子叫骂,就是蛮对得起你喽,懂va?


对着骂你的文献花那不算。原来如彼。

反正我就悄悄撤了。现在,什么都不参与,别人说什么就当新闻点评,也蛮不错的。
回复 在美一方 2014-6-16 09:29
方枪枪: 现在看啥,不会在看冷优默吧。
现在才恍然大明白,原来不冲着你的鼻子叫骂,就是蛮对得起你喽,懂va?
回复 在美一方 2014-6-16 09:27
方枪枪: 现在看啥,不会在看冷优默吧。
嗯。好玩儿,原来看戏比较好玩儿  
回复 方枪枪 2014-6-16 09:24
在美一方: 谢了。昨天阿根廷和波黑的,我干脆去了墨西哥餐馆,一边吃enchiladas一边看球
现在看啥,不会在看冷优默吧。
回复 在美一方 2014-6-16 09:02
mgzww999: 直接到这里看,正在直播英国和意大利的比赛(有一分钟delay):
http://deportesenvivo.univision.com/game/italia-at-inglaterra-on-20140614 ...
谢了。昨天阿根廷和波黑的,我干脆去了墨西哥餐馆,一边吃enchiladas一边看球
回复 午后初雪 2014-6-16 03:42
随笔: 不是牛肉,就是米饭和面包的差别了。以后作实验,从小培养运动员,不许吃米饭,只许吃汉堡。
德国战车即将迎战C罗领衔的葡萄牙,这届还没预测过比分,这场我来猜一下,德3比葡1,不过我不是章鱼哥 这届进球数很高阿,而且到目前为止还没有平局。
回复 午后初雪 2014-6-16 01:15
  
随笔: 你怎么给人家起这么不伦不类的名字, 妖刀是我最敬重的队员之一。也是马刺队最低调的队员,打着一流的篮球,却拿了10年二流队员的薪水;坐着板凳,却干着 ...
马努确实是令人尊敬的球员,从一位长发翩翩的追风小子打到头发稀稀疏疏像个小老头 哪个MVP他没拿过,独缺美职篮的那一个,NBA欠了马努一个MVP。我在那里貌似看到过,阿根廷评比十大体育明星,第一马拉多纳,第二是马努,超过了梅西。更为有趣的事,马拉多纳与马努互视对方为偶像 还有马刺的老板也是值得尊敬的,一个卖农机具赚不了多少钱的小老板,因为对篮球的执着与热情,谱写了NBA史上辉煌的篇章。从这侧面能看到,有些事不单单是靠钱堆起来就能实现目标的,这也是咱国内的土豪们从事体育事业时该好好的学习。
回复 随笔 2014-6-16 00:17
午后初雪: 马刺终成五星马刺了 MVP应该给妖刀的,也许妖刀永远也拿不到MVP了
MVP给小莱应该是对年轻人的肯定吧,无论如何,他是马刺的未来,只要他忠于马刺,对马刺是好事。这孩子现在看着不错,除了球技,人不那么张扬。

祝贺马刺,石佛离场时他的眼圈红了,我也快掉泪了。17年他对的起马刺,马刺也没有辜负他的忠诚,5个冠军戒指,即使离开,没有遗憾。
回复 随笔 2014-6-16 00:05
mgzww999: 如果没有奇迹,热火是输定了。二十分左右的差距并不大,但是他们在心理上似乎已经被彻底打跨了。第一节前五分钟热浪的压人气势被鸡挠玻璃几分钟之内就破解了,由 ...
你怎么给人家起这么不伦不类的名字, 妖刀是我最敬重的队员之一。也是马刺队最低调的队员,打着一流的篮球,却拿了10年二流队员的薪水;坐着板凳,却干着首发的差事,从来不争不抢,是一个真正值得尊重的球员。
回复 午后初雪 2014-6-15 23:55
mgzww999: 如果没有奇迹,热火是输定了。二十分左右的差距并不大,但是他们在心理上似乎已经被彻底打跨了。第一节前五分钟热浪的压人气势被鸡挠玻璃几分钟之内就破解了,由 ...
马刺终成五星马刺了 MVP应该给妖刀的,也许妖刀永远也拿不到MVP了
回复 mgzww999 2014-6-15 22:31
如果没有奇迹,热火是输定了。二十分左右的差距并不大,但是他们在心理上似乎已经被彻底打跨了。第一节前五分钟热浪的压人气势被鸡挠玻璃几分钟之内就破解了,由于热浪让阿兰先发,板凳上反倒没有了储备力量。小皇帝看着数字不错,但是也就打了半节的好球,三十分中有十七分是第一节得的。鸡挠玻璃应该是决赛最有价值球员,不知道NBA历史上是否有板凳队员得此殊荣的先例。

facelist

您需要登录后才可以评论 登录 | 注册

 留言请遵守道德与有关法律,请勿发表与本文章无关的内容(包括告状信、上访信、广告等)。
 所有留言均为网友自行发布,仅代表网友个人意见,不代表本网观点。

关于我们| 反馈意见 | 联系我们| 招聘信息| 返回手机版| 美国中文网

©2024  美国中文网 Sinovision,Inc.  All Rights Reserved. TOP

回顶部