新闻晨报：人工智能，在"智"不在"能"

原标题：人工智能，在“智”不在“能”

　　互联网大会已经落下帷幕，但是人工智能的热潮才刚刚开始。

　　在过去几天的乌镇，所有的大佬都在谈论人工智能，在他们口中，这是资本的风口，是未来的方向，是不亚于工业革命的又一次伟大变革，是生产力得到彻底解放的源头。

　　时间再往前倒退两个月，《纽约客》一张人类只能依靠机器人施舍度日的漫画曾被广泛传播。人工智能，到底是意味着人类文明将升华到新的高度，还是将遭到自掘坟墓式的彻底颠覆？

　　几天前，今日头条创始人张一鸣在论坛上的演讲说：“作为人工智能的企业，应该永远恪守一条原则：必须对整个人类的未来充满责任感，充满善意。”但是看看今日头条带给我们什么样的善意：我的今日头条简直变成了小黄文集中地。有一次我老婆看了一眼我手机上的推送：《XX明星太拼了，穿镂空裙全身擦粉》、《没亲过女人身上这三个地方，说明你不够爱她》……她冷冷地对我说，“你变了。”

　　人民网多次评论说，“一旦失去节制的美德，算法也可能误入歧途，甚至走向创新的反面。”人们把自主选取信息、获取信息的权力让渡给了机器，机器则击中了人们心中猎奇、贪婪、充满欲望的一面，并将之不停放大。这只是一个最简单的案例，却足以证明人工智能可以轻易地丧失对人类社会的责任感和善意。是的，人工智能本身不会给人类带来威胁，可是却能被人利用来无限释放人类存在的“七宗罪”。

　　同样我们可以预见到的是，人类会在各个方面将决策权让渡给人工智能。比如你下一个月读哪一本书，以前很多人会依赖自己的感觉、喜好、口味，或者依赖朋友、家人的推荐。但是从现在开始，我们逐步把阅读什么书，购买什么书这样的权力让渡给了算法、让渡给了图书网站。当我们进入到未来的网上书店时，有一个算法告诉你：我一直在收集你的数据，我比谁都了解你，你喜欢什么书、不喜欢什么书，我都知道。图书网站的算法会根据它对你的了解，以及它对于上千万读者的了解向你推荐书籍。

　　这还只是初级的阶段——当人工智能能够了解你的情绪、你的欲望，就不光能够向你推荐书籍，而且也能够围绕着你生活中更加重要的决策，向你做出建议。比方你应该学习什么，该在哪生活，该在哪儿上班，甚至和谁结婚。

　　你能够想象这样的一个情景吗：你跟一个姑娘相爱，你无法决定是不是要和她生活一辈子，你就去请教度娘：我是应该和她结婚，还是应该与她分手？然后度娘告诉你一个概率：你与她幸福生活一生的概率是36.16%……

　　人类在上万年的发展中才形成了理性与感性的力量，这种力量因为漫长时间的自我修正而变得成熟、完整。然而如果如此轻易地将之让渡给通过短短几十年时间发展起来的人工智能，轻易地退化成人工智能的附属品，你怎么知道你将被什么样的陌生的力量所左右？

　　今日头条的算法可以放大我们的猎奇心与欲望，更强大的人工智能同样可能放大的不是同情、恻隐和怜悯，而是冷漠、残忍和仇恨。如果说许多人——比如创作那张漫画的《纽约客》对人工智能心怀恐惧，那么我们所恐惧的，不是人工智能能发展到多强大的地步，而是人工智能用它那强大智能做什么和实现什么样的目标，会做出什么样的价值选择。

　　人工智能毫无疑问地将改变我们的世界，但人类与人工智能的较量，其实就是与自己的较量。相比于资本对于人工智能的追逐所产生的强烈发展冲动，我们更应该建立创造人工智能、面对人工智能时的基本准则，比如如何防止人类过于依赖人工智能所产生的退化，比如防止人类的情绪被人工智能所轻易操纵。

　　如果人工智能将代替大量本来由人类担任的职位、代替大量产业工人，这并不是什么坏事，工业革命的时候早就发生过同样的事情。但在人工智能的发展过程中，唯一不能退让的，是我们对人性的坚持，对推动人类文明进化的价值选择的坚持。