别再害怕人工智能了

下一篇文章

RefreshBox:任何人都可以创建本周“最值得阅读”新闻列表

编者按: 蒂姆·奥特斯(Tim Oates)是 CircleBack 公司首席科学家,他拥有马萨诸塞大学阿默斯特分校计算机科学博士学位(主攻机器学习技术),还是马里兰大学巴尔的摩分校计算机科学与电气工程系教授。

近日,又一位与人工智能毫无关联的科技先驱公开表达了对人工智能的担忧,称这种技术对人类来说就是一个灾难。在这种情况下,我觉得有必要对此作出回应。虽然我本人很尊重斯蒂夫·沃兹尼亚克(Steve Wozniak)对人类科技文化所作出的贡献,不过我担心他和马斯克、霍金、盖茨等人一样,因为恐惧自己不懂的东西而深受其害。

将科技快速进步的事实与好莱坞电影对智能机器的描述混为一体,这本身就是一件很气人的事情(老实说,在我最喜欢的科幻图书和电影中,人工智能是我最喜欢的一个元素),但人工智能并不是活在好莱坞电影中,也不是只存在于 HAL 或 Skynet 中,而是一个值得我们展开理性剖析的问题。

为了方便讨论,假设我们已经开发出超人般的人工智能技术。这种人工智能像我们人类一样,对五花八门的事情进行思考——“人类创造了我,他们的确很有趣”、“人类的身体机能真是太讨厌了”、“所有的人最后一定会死的!”——所有这些都是貌似有理的观点。所以,为什么有人非得要比别人更在意这种“世界末日猜想”呢?这让我觉得有点不可思议。

也许是这样的吧,在一个充斥着流行文化故事以及因害怕科技而受到“污染”的世界,有关“世界末日”的故事是最吸引人的,成为仅次于“UFO 创造麦田怪圈”的神秘事件。而基于这种传闻提出的假设毫无事实根据,可能性也不大。

对于人工智能,大家的认识可能仅局限于下面这些:

·AI(人工智能的英文首字母缩写形式)中包含字母“I”,表明了不同于他人的自我意识。

·它具有走出“预期目的”(intendedpurpose)界限的智力,并且形成全新的“自我”目标。

·它打算从无数有效的计划(涉及大量死亡与毁灭)中来实现这些目标。

·它可以利用全球资源来实施这一计划。

对你来说,这听上去合情合理吧?对我同样如此。

但明了起见,还是让我们将这些假设置之身后,从上面提到的那个概念开始阐述吧,即人工智能具有一个独一无二的“我”,可以置身于“有意识编程”之外。即便是快速瞥一眼人工智能的历史,都可以明白机器智能和适应性之间的博弈。

像“深蓝”(DeepBlue)、“沃森”(Watson)这些较为高级的智能机器人可以下国际象棋,或是回答《Jeopardy》节目上的问题,虽然它们在这方面的技艺能超过任何一个人,但却不懂西洋跳棋或是 Trivia Crack 应用。另一方面,更为通用的智能机器人可以“学会”做许多事情,但没一样能做好。

例如, 美国人工智能发展协会(Association for the Advancement of Artificial Intelligence)就“一般游戏玩法”举行了一次比赛,开发人员给一套程序输入了游戏规则,然后要求其去玩各类游戏。在“阅读”了游戏规则以后,该程序可以玩大量类型不同的游戏——棋类游戏、纸牌游戏、策略游戏等等,但其表现都很差劲。

根据我自己对此的理解,擅长针对不同情况设计抗癌药的人工智能,通常情况下并不适合从事其他任务。“深蓝”不会玩西洋跳棋,是因为它无法“在智力上”对西洋跳棋作出推理,其他所有用途单一的人工智能都具有类似的“心智”差距。那么,“知识渊博”的人工智能呢?它们可能也并不擅长做一切事情(包括统治世界)。

但是,我们 假设人工智能除了编程能力,还可以学会“聪明地”思考问题,或者说它会“发牢骚”。这种超人的智能必然会走上核武道路吗,或是会造成实际工作中的懈怠情绪,或是在极端情况下,会用拉丁语来创作说唱音乐?在当前世界,有思维能力的实体可以做无数的事情来安抚自己,在这种情况下,“摧毁人类”不可能在人工智能名单中处于榜首位置。

假设事实确实如此,那么我们就已经开发了一种人工智能技术,除了编程能力,还可以学会“聪明地”思考问题,或者说还会“发牢骚”,或是痴迷于统治世界。正如你所能想象到的事情,统治世界并不是一件小事,它需要你可以利用全球的资源。由于我们不会犯下“魔鬼终结者”式的错误,让电脑程序来无所限制地控制所有军事力量,所以我们不得不认定,我们很有可能会发现自己最终必须学会如何用计算机来控制金融系统、通讯基础设施等。

即便真是这么回事,我们也绝对没有理由相信,人工智能比我们人类更擅长操作计算机。实际上,因数理逻辑定理而引发的激烈讨论,可能最终只是得出一个相反的结论。你不会仅仅因为是住在木屋里而成为木匠,而只会使用计算机并不能保证你对它们有极其深入的了解。

从少年时代开始,我就一直在阅读人工智能方面的图书并思考这个问题,自从 20 多年前考上研究生以来,我始终在从事这方面的工作,而且还是全身心投入。今天,我对人工智能的热情之所以像 10 岁的时候一样高涨,不是因为我觉得它可以赋予我主导世界的某种神秘能力,也不是因为它让我成为“奇异之旅”和其他任何“激动人心”故事的一部分。

相反,我之所以对人工智能激动不已,是因为这种技术可以告诉我们,它对人类意味着什么——告诉我们如何加快解决世界上最紧迫的一些问题的进程。

但我的确相信,在将来的某个时候,我们可以开发一款名副其实的智能机器,这一愿望即便在我的余生无法实现,但最终会被实现的。我们不应该将宝贵的时间浪费在讲述恐怖故事的小事上。还是把这种事情交给小说家和电影导演吧。

翻译:皓岳

Stop FearingArtificial Intelligence