清华大学法学院梅汝璈法学讲席教授冯象说，人工智能之所以值得探讨，是因为地平线上升起了两片阴霾：大失业及AI军事化

　　清华大学法学院梅汝璈法学讲席教授冯象说，人工智能之所以值得探讨，是因为地平线上升起了两片阴霾：大失业及AI军事化。危险之处，在于“AI技术不仅是‘大国重器’，也跟日常生活搅在一块儿。”

　　如今依托大数据技术，机器可以基于海量的数据集，自我学习，实现升级。假如机器在一切规则清晰、任务明确的工作上能够取代人类，那么人类的生存状况将会发生怎样的改变？

　　今天，活字君与书友们分享冯象博士论人机伦理的文章《我是阿尔法》。作者讨论的焦点有二：一是人工智能对资本主义市场经济的历史性挑战；二是人和智能机器的关系，人机伦理如何建立，会面临哪些问题人工智能的优缺点。

　　阿尔法的家谱不长：祖母玛丽·雪莱（Mary Shelley, 1797-1851），父亲弗兰肯斯坦（Frankenstein,1818.1.1-），又名怪物。怪物子女蕃衍，有机械的，也有动漫的，如阿童木；但只有一个取名阿尔法，是深脑公司（DeepMind）制造。

　　待到“天网”竣工，万物联网（IOT），人来世即入永恩：每时每刻，每事每声，每一个表情和动作，无不被终端记录，上传入“云”，入藏机器的记忆。

　　这是一个全新的世界：凡可联接的，都要联网；凡可收集的，都是数据。而人向终端贡献数据，每一次，均为自愿签约。

　　来了，AI！从扫码支付，上课刷脸，玩动漫游戏，戴谷歌眼镜，用手机导航和吸尘机器人开始（NYT, 2017.7.25）。

　　这是一场结局已定的比赛，绝大多数人将输给极少数人。前者要因AI而抹平出身、学历和技能的差异，一起堕于失业；后者要藉AI化数据为财产而独占：将来可以为所欲为，顶层设计一切，甚而准备大脑植入芯片，人机融合，称“超人”（Übermensch）。

　　大失业，将使已经高度集中的财富更加集中，阶级鸿沟彻底“固化”。智能经济的这一趋势如果掩饰不好——这是西方式法治最重要的一项意识形态功能——就难免引发社会动荡。此事已有不少讨论，尤其是在发达国家。比较现实的对策，叫作“全民基本收入”（UBI），即不论贫富，给居民发一份“工资”，让他维持所谓“有尊严的生活”。瑞士投了票，未能通过。芬兰在试行抽签制度，抽到的每月数百欧元。加拿大安省、美国加州和夏威夷，有小型的社会实验。一九七六年设立的阿拉斯加永久基金（APF），本州居民年终分红，可称UBI的先驱。

　　传统上，机器主要取代体力劳动，像东莞制造业的“机器换人”，或建设中的上海洋山港（号称世界第一大港）的无人装卸。如今，依托大数据深度学习，机器人即将作废一大半看似复杂的脑力劳动：医生、律师、法官、会计、建筑师、新闻编辑用马原分析人工智能、同声翻译，恐怕政府官员也不能幸免。据报道，高盛在华尔街，原本六百名交易员，现在裁了只剩两个，给机器打下手。另如IBM开发的Watson肿瘤专家机器人，考过了美国执业医师资格，天津市第三人民医院引入，在国内可做六种癌症的诊断（人民网，2017.1.11）。

　　我说“看似复杂”，是因为这些（往往是高薪的）白领岗位所需的知识技能、工作经验人工智能搜狗百科，对于机器人，都可以转化为数据跟算法——都不难让老板或领导做出那个“经济理性人”的决定：机器换人。

　　难民涌入欧盟，媒体惊呼危机。但博学的艾柯（Umberto Eco）认为，放在历史的长镜头里，这一连串西方发动的反恐战争开启的，不仅是难民危机；毋宁说，是人类的又一次大迁徙。

　　常有人指摘难民不干活，光领救济金，视社会福利为应得（entitlement）。可是智能经济再进一步，发达国家的中产阶级也将沦为“难民”，加入吃福利的大军。考试证书技能经验，一如肤色国籍，无一能改变命运。

　　《纽约时报》预测，十年内90%的新闻将由算法生成，包括文稿照片视频配音。但这也意味着，新算法能够根据指令拼贴“素材”，制作海量的假新闻；假照片假视频将充斥媒体和自媒体，而受众无从辨别。

　　近年研发的“生成对抗网络”（GAN），据《经济学人》报道，便是成功的一例。GAN通过深度学习，“软件跟现实互博”，自动生成图像，调试匹配录音，达到乱真的效果。报道题为《无中生有》，结尾一句倒不无讽刺：AI把造假推向新的高峰，同时也提供了打假的新方法。

　　“再不努力人工智能搜狗百科，将无工可打”，是早晨点开微信，跳出的头条标题：两家快递巨头同一天宣布，“无人机快递时代正式到来”。一个说，无人机机场和调度中心某省在建人工智能搜狗百科，全球智能物流指日可待；另一个发布，水陆两用无人机试验成功，公司已拿到无人机送货的经营牌照（360 金融圈人工智能的未来预测，2017.7.27)。

　　他，从农民开始努力，初中辍学跟人进城打工，做一名快递小哥。他非常非常地努力，整天手机攥手里抢单，上车，下车，发短信，把一件件邮包送到写字楼、居民区、政府机关、学生宿舍。他满面尘士，在汽车尾气里奔波。然后，被好心人告诚：再不努力，你将无工可打！

　　人工智能，越是接近通用（AGI）而全面渗透社会生活、支配经济活动、影响决策，就越没有理由留在私人手里，服务于资本的利益。

　　那么，为何近来谈论计划经济的可行性的，不是经济学家或马院拿国家重大课题的教授，而是智能产业的头面人物？因为资本家从来不信教条，他们明白计划经济不等于社会主义，诚如爱因斯坦指出。

　　按资本的逻辑，放着物联网大数据AI算法，谁不想计划一下经济？谁还会把市场交给“看不见的手”——而非干脆，放自己兜里？

　　这终结，有人归之于新世纪科学步伐太快，作家的知识和想象力跟不上。其实怪不得作家，是大众的读写能力衰退了，老依赖机器生成的图像文宇。而机器人正在超脱人类的语言与思维，开始想象自己的未来。

　　比如论文，欣欣向荣一大产业，小广告贴遍了校园。那是大学被主管部门逼着玩数目字GDP，生产核心期刊论文、省部级课题、智库内参；而炮制这些“成果”恰是AI的拿手好戏。那些拗口难懂“逼格”高、没人读的专业术语公式图表之类，它检索下数据库，“分分钟”就搞定了。

　　市场上，机器写作与翻译刚起步，产品便大受欢迎，如财经体育和突发新闻的生成、法院文书的拟稿、十多种语言的即时互译。前途不可限量。

　　照此进度，大学的基础课、实验室、语言教学和技术培训都交给机器，应是可预期的。粉丝文艺跟官媒宣传也不难；受众的思想意识和趣味，早已习惯了智能终端的商品化规训。将来，机器人作品领导时尚，消费者摹仿还来不及呢。

　　历史地看，人机伦理的难点，不在机器智能的强弱，或抽象意义上的人机融合/共生（cyborg）。运作AI的市场与市场主体（个人），不是抽象的存在，而是充斥着私利、和价值诉求的。问题的核心，于是指向了社会经济制度的全盘改造人工智能的优缺点人工智能的优缺点。这意味着，又一次，我们将不得不回到哲学的根本，拿出勇气，发动对网络时代晚期资本主义的批判。而这一次，我想，化用一句霍金的名言，有可能是人类的最后一次自我批判。

　　人工智能如此有利可图，在资本主义放任竞争，弱肉强食和私人垄断的条件下，不可能阻止它的无序研发、违法使用、滥用，或变为战争机器。

　　放眼未来，有一点很清楚：凭借AI挖掘占有海量的网络数据，极少数人便能攫取大部分资源，控制经济命脉和文化宣传人工智能的优缺点。且不说对宪制（人民）的威胁，一次意外事故或遭受攻击，即可引发危及全社会的灾难。故为安全计，AI的尖端技术及核心平台，是不宜让任何个人或私企拿在手里的。就像核武器，在销毁之前，除了由强大稳定的国家来维护，谁担得起如此重托？

　　换言之，AI发展到高级阶段，人类迫于形势，为了生存繁衍，其实仅有一个选项：公有化。国家统一监督统一计划，而不得把AI留给自由市场，被“超人”垄断，资本配置资源人工智能的未来预测。

　　的确，AI之危险甚于核武，如威廉斯强调。核武器虽然只有中国、印度承诺不首先使用用马原分析人工智能，但拥核国为避免同归于尽，皆取威慑的战略，不敢贸然先发制人。AI不同，是高精尖科技也是生活必需；通过终端和数据交换，正在重塑我们的社会、经济、文化与。可以预见，机器人终将瓦解市场，把那只“看不见的手”的迷思，连同鼓噪宣传它的教材专著一起送进历史博物馆——不仅市场崇拜的前提不复存在，即无法继续假设其存在，“私人领域”的寡头化也太过危险，必须取缔。

　　这就印证了罗莎·卢森堡引述的那句箴言：资产阶级社会站在［历史的］十字路口，要么过渡进入社会主义，要么回野蛮社会。

　　有了强大但风险极高的通用人工智能（AGI），是否还应当，还能够忍受这样的社会制度，它“从头到脚，每个毛孔都流着血和肮脏的东西”？

　　市场向计划演进，AI收归公有，这不仅是技术条件成熟同竞争优势使然，如苏联数学家、诺贝尔经济学奖得主（1975）坎托罗维奇（Leonid Kantorovich）所设想，而且也是人类唯一安全的、可持续的、合乎道德的生活方式（参《红色的富裕》）。

　　与之匹配，条件成熟，社会便能够“在自己的旗帜上写下：各尽所能，按需分配”（马克思《哥达纲领批判》）。

　　主义始于消灭分工。AI将结束绝大多数人的分工即雇佣劳动，从而再一次，把自我解放的历史任务摆在了劳动者面前。

　　冯象，上海人。少年负笈云南边疆，从兄弟民族受“再教育”凡九年成材，获北大英美文学硕士，哈佛中古文学博士（Ph.D），耶鲁法律博士（Ph.D）。现任北京清华大学梅汝璈法学讲席教授，兼治法律、宗教人工智能的优缺点、伦理和西方语文。著／译有《贝奥武甫：古英语史诗》（三联书店，1992），《中国知识产权》（英文，Sweet&Maxwell,1997，增订版2003），《木腿正义》（1999；北京大学增订版，2007），《玻璃岛》（三联书店，2003），《政法笔记》（2004；北京大学增订版，2012），《创世记：传说与译注》（2004；三联书店修订版，2012），《摩西五经》（牛津大学/香港用马原分析人工智能，2006；三联书店修订版，2013），《宽宽信箱与出埃及记》（三联书店，2007；第二版，三联书店，2012），《智慧书》（牛津大学/香港，2008；三联书店修订版，2016），《新约》（牛津大学/香港，2010），《信与忘：约伯福音及其他》（三联书店，2012），《以赛亚书》（活字文化/三联书店，2017），《圣诗撷英》（活字文化/三联书店，2017），及法学评论、小说诗歌若干。

　　本书从希伯来圣经和新约中撷取五十首有代表性的诗章，逐一讲解、注释和评论。其中取希伯来《圣经》四十一篇，《新约》十二篇，成五卷五十三章。译文着重体现原文的音韵、格律之讲究，也力求准确传达的旨趣和要义，既有新译，也有已发表而这次做了修订或调整的。每篇各具导读和尾注，阐发作者近年授课答疑及写作中的一些所思所得，也有助于读者理解和欣赏。《圣诗撷英》

　　本文为澎湃号作者或机构在澎湃新闻上传并发布，仅代表该作者或机构观点，不代表澎湃新闻的观点或立场，澎湃新闻仅提供信息发布平台。申请澎湃号请用电脑访问。