QQ在线
企（qǐ）业微信
资（zī）讯
229
在人类历史上的不同时代，谁在改变和（hé）塑造人们的观念？这是一个经常被忽视却又（yòu）非常（cháng）值得思考的问题。在人类文明的早期，部落（luò）首领或巫师，有时是两（liǎng）者合而为一，掌握对自然（rán）变化和人的命运的解释权。进入轴心时代（dài），知（zhī）识和观念的生产更加专业化，哲学家（jiā）和政（zhèng）治家群体崛起，在西方（fāng）是苏格拉底、柏（bǎi）拉图、赫拉克里特、亚里士（shì）多德和梭（suō）伦们，在（zài）东方则是老子、孔（kǒng）子、商鞅（yāng）和释迦摩（mó）尼们，还有如修昔底德和司马迁这样的历（lì）史学家（jiā）们，也因为杰（jié）出的（de）叙事（shì）和见（jiàn）识，对当时和（hé）后世的思想（xiǎng）影响深远（yuǎn）。到了中世纪，教廷和国（guó）王在精神和世俗观念塑（sù）造（zào）上竞争不息。再往后，文艺复（fù）兴的先（xiān）驱者们率先（xiān）打（dǎ）破了（le）人（rén）类（lèi）的精神禁锢，地理大发现中（zhōng）探险者们的故事鼓励了猎奇、冒（mào）险、殖民（mín）和商业精神。然后，科学家群（qún）体、经济（jì）学家（jiā）、政治理论（lùn）家们在社会观念塑造中各领风骚。
从20世（shì）纪开始（shǐ），企业家（jiā）和企业在人（rén）类社会的观念（niàn）塑造中扮演了日渐显著（zhe）的角色，从福特主义到丰田主义，这种影响远远不止于企业（yè）内部（bù），也不至于经济生（shēng）产，而是影响到社（shè）会的方方面面。通常，这种观（guān）念塑造通（tōng）过几种方式：
一（yī）是（shì）通过大（dà）众易于理解和（hé）传（chuán）播的成功（gōng）故事，企业家和企业被渴慕、效仿和追（zhuī）随；
二是（shì）带有政治经济学意味的，被加尔布雷思和乔姆（mǔ）斯（sī）基（jī）所揭示和批判的，通（tōng）过消费主义的生活方式（shì）和资本（běn）对大众传媒的干预实现的；
三（sān）是正在迅（xùn）速兴起的，通过对（duì）产（chǎn）品的定义以及企业家自己直接言说来表达的方式，这是令人（rén）瞩目和值得（dé）期待（dài）的变化。
今天，全球最大（dà）的企业（yè），尤其是信息科技企业，很（hěn）多都旗帜鲜（xiān）明地在产品和服（fú）务中展现出其价值观。如果有人还怀疑我说的这些企业在观念塑造上的影响力（lì），不妨（fáng）想（xiǎng）想微软、苹果、谷歌、华（huá）为、阿里巴巴、微信有多少员工，他们遍布（bù）的地域（yù）有多广（guǎng），有多少企业在这些巨头的硬件供应链上，或者（zhě）依赖这（zhè）些巨头的系统（tǒng）平台来（lái）开发产品，更不必说（shuō）有（yǒu）多人用户在用它们的产品。2019年，全球智（zhì）能手机的（de）出货量（liàng）超过14亿台（tái），这个（gè）数要大于中（zhōng）国的人口规模，三星（xīng）、华为（wéi）、苹果智能手（shǒu）机的（de）出货量（liàng）都在2亿左右。
在梅丽尔·斯特里（lǐ）普扮演的《铁娘子》中，撒（sā）切尔夫（fū）人（rén）借回（huí）忆父亲格（gé）言说，“观（guān）念决定行为，行为决定习惯。习惯（guàn）决定性格，性格决定命运（yùn）”，这（zhè）是（shì）对观念（niàn）的影响链条很好的说明。凯恩斯也说过（guò），“经济（jì）学（xué）家与政（zhèng）治哲（zhé）学家的思想，不论其正（zhèng）确与否（fǒu），其力量之（zhī）大，往往出于（yú）常人意料……许多实干家自以（yǐ）为不受任何理论之影响，往往恰恰沦为某（mǒu）个已故经济学家最坏（huài）学说之（zhī）不自觉的奴（nú）隶。”这段话（huà）也可以用来预（yù）见未来企业家和企业（yè）对社会的影响。
那么，一（yī）个自然而然和关键（jiàn）的问题是，该（gāi）如何看待企业家和（hé）企业的这种影响？就个人而言，我乐于将这种（zhǒng）新涌现的影响看（kàn）作（zuò）是社（shè）会获得更好未来的（de）机会。之所以称（chēng）之为机会，有两个方面的理由：
一是（shì）多（duō）重观念力量的竞争，扩大了（le）社会个（gè）体（tǐ）的观念（niàn）选择（zé）空间，增（zēng）进了思想的（de）自由度，也意味（wèi）着社（shè）会中（zhōng）的个体在掌握自身（shēn）命运上有了更多的自由度；
二是企业（yè）家和（hé）企业被社会所共鸣和选择的（de）那些观念本身，反映出的是（shì）合（hé）作伙伴和数以亿计消（xiāo）费者的集体选择，通过（guò）市场机制形成的这种选择是直接和有（yǒu）力的，反映出建立于分散个体常识基础上的共识。
当（dāng）我们（men）的社会面临（lín）一些系统性和根本性的挑战时，任何（hé）有助于（yú）我们应对这些（xiē）挑战的机会（huì），都需（xū）要倍（bèi）加珍惜（xī）。这些挑战，有些是（shì）人们能够直（zhí）观（guān）理解和警（jǐng）惕的，如急性的传染（rǎn）病、全球性的经济危（wēi）机、核武器的扩散等。有些则更复（fù）杂和难以依靠直觉，如气候变化和人工（gōng）智（zhì）能，因为这些（xiē）变化（huà）会（huì）撼动社会（huì）体系，一开始又（yòu）是缓慢进（jìn）行，它们的宏大超出（chū）了我们的日常（cháng）认知（zhī），缓慢的变化又使（shǐ）我们难以（yǐ）察觉，而且可能的灾难发（fā）生在不知（zhī）多远的（de）未来，但（dàn）是一旦（dàn）缓慢变化累（lèi）积到一个临界（jiè）点（diǎn），形（xíng）势就（jiù）可能急剧恶化（huà）。
相（xiàng）比于已经（jīng）颇（pō）有争议的（de）气候变（biàn）化（huà），人们对把人（rén）工智能视（shì）为我所（suǒ）说的系（xì）统性和根本性挑战（zhàn）更（gèng）心存犹豫。这是可以理（lǐ）解（jiě）的，因为温（wēn）室气体排（pái）放只是人（rén）类生产和生活的副产品，并不是人们（men）想要的。但（dàn）人工智能则不同，它一（yī）开始就是我们理（lǐ）性的产物，是人类智慧（huì）的结晶（jīng），是我们用来创造更美好生活的工具。如果从1956年（nián）达特茅（máo）斯（sī）的夏季研讨班开始算起，人工智能（néng）的发展已经有六（liù）十多年了，但是直到最近（jìn）这些年（nián）才开始全面渗入（rù）我们的生活。人们热烈而急切（qiē）地驰向智能支持的美好（hǎo）生活，怎么愿意（yì）在（zài）刚开始的（de）时候就考虑花大（dà）价钱（qián）改进刹车呢？
但是我不得不说，现（xiàn）在就需（xū）要（yào）非常认真地考（kǎo）虑改进刹车系（xì）统（tǒng）的事（shì），这不是（shì）基于抽象的对“进步（bù）主义”和“理性自负（fù）”的反思（sī）。2018年，中国发展研究（jiū）基金会和微（wēi）软公司在北京联合发布了《未来基（jī）石：人工智能（néng）的社会角（jiǎo）色和伦理》，本（běn）书的作者、微软公司的总裁布拉德（dé）·史密斯（sī）先生也出（chū）席了发布会。在报告中（zhōng），我们从认识论（lùn）和进化论的（de）角度（dù），提出要关（guān）注人工（gōng）智能（néng）带来的知识生产（chǎn）和利用方式的变化（huà），以及对人类社会的影响，特别是（shì）负面（miàn）的影（yǐng）响，包括隐私保护、偏见强化（huà）、社会操纵、不（bú）平等、武器化等问题，布拉德（dé）对这些问题也有（yǒu）强烈的共鸣。事实上，我们的报告吸收（shōu）很（hěn）多在他领导下的微（wēi）软团队（duì）关于人工智能挑（tiāo）战的洞见（jiàn）。
布拉德的这本《工（gōng）具，还是武器？直面人类科技（jì）最紧迫（pò）的（de）争议性问题》是非常及时的。如果借用在最近（jìn）的新（xīn）冠病毒（dú）疫情中常被提及的一个称谓，我们也可（kě）以称他为（wéi）人工智能领域的“吹哨人（rén）”。书（shū）名准（zhǔn）确而清晰（xī）地提醒人（rén）工智能技术发（fā）展和应用（yòng）的（de）两面性。最近（jìn）几年来，我和我的团队在密切关注人（rén）工智能领域的研（yán）究报告和著作，这也是我们（men）第一次从（cóng）书名（míng）中就旗帜鲜（xiān）明（míng）地获得（dé）对人工智能（néng）双（shuāng）重属性（xìng）的（de）警示。同样，这个书名也暗示，工具还是武器，希望还是危险，最终取决于（yú）我们（men）的选择。
阅读这本书是一个（gè）愉快（kuài）的体验（yàn），尽管里面讨论（lùn）了许多对人类（lèi）社会来（lái）说不那么愉快的挑（tiāo）战（zhàn）。阅读上的愉悦部分来自书里内（nèi）容和分（fèn）析。本书不仅展示了人工智能发展的积极前景和种种令人（rén）兴奋的可能性，也涵盖了诸多已经被关注和尚未引起（qǐ）关注的（de）相关主题（tí），社会分化、失业、垄断、武器化、大国科技竞争等等，这些议题在“工具和武器”这个主题（tí）下得到了（le）妥（tuǒ）善的安排和处理，这种（zhǒng）内容（róng）上（shàng）的全面、平衡与恰（qià）当的（de）分析（xī）深度（dù）很好（hǎo）地结合在一起。
作者（zhě）出色的叙述（shù）和（hé）严谨（jǐn）平实的（de）风格，也让阅读（dú）变得轻（qīng）松愉快。我猜想（xiǎng），这与他（tā）作为（wéi）微软公司（sī）首席（xí）法（fǎ）务官的职业习惯（guàn）有关。这不是（shì）拒人于千里之外的（de）学术和（hé）技术著（zhe）作，也不是架空的科（kē）幻灾难（nán）小说。在书（shū）中，大（dà）量（liàng）的思考和分析是个人体验式（shì）的（de），作为微软的总裁兼首席法务官，他不仅参与（yǔ）了微软（ruǎn）内部关于人工智（zhì）能研发战略和规则的（de）制定（dìng），还（hái）参与了全球（qiú）范围（wéi）内（nèi）各（gè）类大（dà）型（xíng）论坛、政府高层磋商会，读（dú）者很容（róng）易将自己代入这（zhè）些（xiē）场景（jǐng）中，理（lǐ）解不同利益方的关切和选（xuǎn）择（zé），这使得很多（duō）看起来宏大的议题变（biàn）得真实可感。
基于本文一（yī）开始就提到的理（lǐ）由——企（qǐ）业家和企业在现代社（shè）会（huì）观念塑（sù）造中的重要（yào）角（jiǎo）色，我（wǒ）特（tè）别赞赏布拉德和微（wēi）软公司在（zài）推动（dòng）公众全面、平衡地（dì）认识人工智能所（suǒ）作（zuò）出的努力。借用电影（yǐng）《蜘蛛侠（xiá）》中的话（huà），能力越大，责（zé）任越大。作为一（yī）家全球领（lǐng）先的高（gāo）科技公司，有几十万的员（yuán）工，有数以亿计的用户，在（zài）全球人工（gōng）智能开发版图中（zhōng）具有举足（zú）轻（qīng）重的影（yǐng）响，应该促进行业在人工智能发（fā）展中采取审慎和自律，促成社会公众（zhòng）建立正确的认知和观念，这是巨大的责任。
我不准备（bèi）过多讨论和评论这本书（shū）的内容（róng）了，毕竟（jìng）读者（zhě）自（zì）己从阅读中（zhōng）理（lǐ）解人工智能带来的希望和危险，是更可靠和可取的途径（jìng）。但是，我（wǒ）乐于和读者们分享我（wǒ）在阅读本书以及写这篇（piān）书评中获（huò）得的（de）两个扩展的思考。
第一，我们对人工智能开发走向失控要有更（gèng）多准备。靠少数公司和政府的努力建立负责任的开发是困难的。企（qǐ）业之间（jiān）有激烈的（de）市场竞争，国（guó）家之间还有更复杂的技术和（hé）军事竞争，企（qǐ）业间和政府间的博弈（yì）会形成典型的囚徒困境，而且由于验（yàn）证上困难也（yě）无法建立有（yǒu）效的（de）约束机（jī）制，最终（zhōng）大家都向底（dǐ）线竞跑。
第二，人（rén）工智能（néng）对社会系统性、根本性（xìng）的影响，还在于我（wǒ）们社会还未曾和智能上远高于我们的物种共生过（guò）。两年（nián）前和微软合作研究的时候，我们讨（tǎo）论和分析了人（rén）工智（zhì）能的已显和（hé）未显的挑战，这些挑战都称（chēng）得上巨大，但总觉（jiào）得意（yì）犹未尽。但现在我想可以（yǐ）更清晰准（zhǔn）确地表达（dá）出更大的风险（xiǎn）。人类依靠智识（shí）形成（chéng）的（de）合作（zuò）体（tǐ）系，将猛（měng）兽灭绝或赶到（dào）自然（rán）的角落（luò）里，驯化动（dòng）物作为伙（huǒ）伴（bàn）或者食物，开发疫苗控制了病（bìng）毒的（de）袭扰。但是人工智能和已知（zhī）的生物不（bú）同，和我们习惯共（gòng）存的工具不同，在人类需求的推动下，有实（shí）体和无实体的人工智能（néng）实际上是一个物种，它最终会具备自主性（xìng），而且在某些领域的智（zhì）能和性能上远远（yuǎn）超过人类的认知经验（yàn）。所以（yǐ），在未来，我们与人工智能（néng）不是共存，而是共生。但（dàn）是，我们的社会没有准备好，人工智能成为社区的（de）成（chéng）员（yuán），成为伙伴、上级、下级（jí）、老师、敌人。当人工智能全面地介入人类的生产生活后（hòu），当它们从单一功能升级（jí）为复合功能，当它（tā）们通（tōng）过网络连接成为社区，现在社（shè）会中我们熟知的哪些关系和行（háng）为准则可能都需要重新定（dìng）义（yì），但是（shì）我们还（hái）没有（yǒu）思（sī）考和准备。很多人认（rèn）为（wéi）这（zhè）是（shì）虚幻的或者是遥远的未（wèi）来的事（shì），但是由于前面所说的“囚徒困境”，实际上这种挑战到（dào）来的速度会比想象得（dé）快。
这（zhè）两个推演（yǎn）结（jié）论听起来似乎（hū）悲观了些，但（dàn）是如果不去思考和指出这样的（de）挑（tiāo）战，不去为之做好准备，那么这个挑（tiāo）战有很大的可能变成（chéng）现实（shí）。要为（wéi）这样（yàng）的挑战作（zuò）准备，不能（néng）只靠少数公司、政府、学者（zhě）的努力，需要在国际层面、行业之间、学科之间和（hé）不同利益群体（tǐ）之间的更广泛协同合作。不（bú）论（lùn）正确与否，我乐（lè）于和读者分享（xiǎng）我（wǒ）的阅读思考，也期待更多的读者能从这（zhè）本书中获得自己的启迪。
（作者俞建（jiàn）拖为中国发展研究基（jī）金会副秘书长）
一（yī）是（shì）通过大（dà）众易于理解和（hé）传（chuán）播的成功（gōng）故事，企业家和企业被渴慕、效仿和追（zhuī）随；
二是（shì）带有政治经济学意味的，被加尔布雷思和乔姆（mǔ）斯（sī）基（jī）所揭示和批判的，通（tōng）过消费主义的生活方式（shì）和资本（běn）对大众传媒的干预实现的；
三（sān）是正在迅（xùn）速兴起的，通过对（duì）产（chǎn）品的定义以及企业家自己直接言说来表达的方式，这是令人（rén）瞩目和值得（dé）期待（dài）的变化。
今天，全球最大（dà）的企业（yè），尤其是信息科技企业，很（hěn）多都旗帜鲜（xiān）明地在产品和服（fú）务中展现出其价值观。如果有人还怀疑我说的这些企业在观念塑造上的影响力（lì），不妨（fáng）想（xiǎng）想微软、苹果、谷歌、华（huá）为、阿里巴巴、微信有多少员工，他们遍布（bù）的地域（yù）有多广（guǎng），有多少企业在这些巨头的硬件供应链上，或者（zhě）依赖这（zhè）些巨头的系统（tǒng）平台来（lái）开发产品，更不必说（shuō）有（yǒu）多人用户在用它们的产品。2019年，全球智（zhì）能手机的（de）出货量（liàng）超过14亿台（tái），这个（gè）数要大于中（zhōng）国的人口规模，三星（xīng）、华为（wéi）、苹果智能手（shǒu）机的（de）出货量（liàng）都在2亿左右。
在梅丽尔·斯特里（lǐ）普扮演的《铁娘子》中，撒（sā）切尔夫（fū）人（rén）借回（huí）忆父亲格（gé）言说，“观（guān）念决定行为，行为决定习惯。习惯（guàn）决定性格，性格决定命运（yùn）”，这（zhè）是（shì）对观念（niàn）的影响链条很好的说明。凯恩斯也说过（guò），“经济（jì）学（xué）家与政（zhèng）治哲（zhé）学家的思想，不论其正（zhèng）确与否（fǒu），其力量之（zhī）大，往往出于（yú）常人意料……许多实干家自以（yǐ）为不受任何理论之影响，往往恰恰沦为某（mǒu）个已故经济学家最坏（huài）学说之（zhī）不自觉的奴（nú）隶。”这段话（huà）也可以用来预（yù）见未来企业家和企业（yè）对社会的影响。
那么，一（yī）个自然而然和关键（jiàn）的问题是，该（gāi）如何看待企业家和（hé）企业的这种影响？就个人而言，我乐于将这种（zhǒng）新涌现的影响看（kàn）作（zuò）是社（shè）会获得更好未来的（de）机会。之所以称（chēng）之为机会，有两个方面的理由：
一是（shì）多（duō）重观念力量的竞争，扩大了（le）社会个（gè）体（tǐ）的观念（niàn）选择（zé）空间，增（zēng）进了思想的（de）自由度，也意味（wèi）着社（shè）会中（zhōng）的个体在掌握自身（shēn）命运上有了更多的自由度；
二是企业（yè）家和（hé）企业被社会所共鸣和选择的（de）那些观念本身，反映出的是（shì）合（hé）作伙伴和数以亿计消（xiāo）费者的集体选择，通过（guò）市场机制形成的这种选择是直接和有（yǒu）力的，反映出建立于分散个体常识基础上的共识。
当（dāng）我们（men）的社会面临（lín）一些系统性和根本性的挑战时，任何（hé）有助于（yú）我们应对这些（xiē）挑战的机会（huì），都需（xū）要倍（bèi）加珍惜（xī）。这些挑战，有些是（shì）人们能够直（zhí）观（guān）理解和警（jǐng）惕的，如急性的传染（rǎn）病、全球性的经济危（wēi）机、核武器的扩散等。有些则更复（fù）杂和难以依靠直觉，如气候变化和人工（gōng）智（zhì）能，因为这些（xiē）变化（huà）会（huì）撼动社会（huì）体系，一开始又（yòu）是缓慢进（jìn）行，它们的宏大超出（chū）了我们的日常（cháng）认知（zhī），缓慢的变化又使（shǐ）我们难以（yǐ）察觉，而且可能的灾难发（fā）生在不知（zhī）多远的（de）未来，但（dàn）是一旦（dàn）缓慢变化累（lèi）积到一个临界（jiè）点（diǎn），形（xíng）势就（jiù）可能急剧恶化（huà）。
相（xiàng）比于已经（jīng）颇（pō）有争议的（de）气候变（biàn）化（huà），人们对把人（rén）工智能视（shì）为我所（suǒ）说的系（xì）统性和根本性挑战（zhàn）更（gèng）心存犹豫。这是可以理（lǐ）解（jiě）的，因为温（wēn）室气体排（pái）放只是人（rén）类生产和生活的副产品，并不是人们（men）想要的。但（dàn）人工智能则不同，它一（yī）开始就是我们理（lǐ）性的产物，是人类智慧（huì）的结晶（jīng），是我们用来创造更美好生活的工具。如果从1956年（nián）达特茅（máo）斯（sī）的夏季研讨班开始算起，人工智能（néng）的发展已经有六（liù）十多年了，但是直到最近（jìn）这些年（nián）才开始全面渗入（rù）我们的生活。人们热烈而急切（qiē）地驰向智能支持的美好（hǎo）生活，怎么愿意（yì）在（zài）刚开始的（de）时候就考虑花大（dà）价钱（qián）改进刹车呢？
但是我不得不说，现（xiàn）在就需（xū）要（yào）非常认真地考（kǎo）虑改进刹车系（xì）统（tǒng）的事（shì），这不是（shì）基于抽象的对“进步（bù）主义”和“理性自负（fù）”的反思（sī）。2018年，中国发展研究（jiū）基金会和微（wēi）软公司在北京联合发布了《未来基（jī）石：人工智能（néng）的社会角（jiǎo）色和伦理》，本（běn）书的作者、微软公司的总裁布拉德（dé）·史密斯（sī）先生也出（chū）席了发布会。在报告中（zhōng），我们从认识论（lùn）和进化论的（de）角度（dù），提出要关（guān）注人工（gōng）智能（néng）带来的知识生产（chǎn）和利用方式的变化（huà），以及对人类社会的影响，特别是（shì）负面（miàn）的影（yǐng）响，包括隐私保护、偏见强化（huà）、社会操纵、不（bú）平等、武器化等问题，布拉德（dé）对这些问题也有（yǒu）强烈的共鸣。事实上，我们的报告吸收（shōu）很（hěn）多在他领导下的微（wēi）软团队（duì）关于人工智能挑（tiāo）战的洞见（jiàn）。
布拉德的这本《工（gōng）具，还是武器？直面人类科技（jì）最紧迫（pò）的（de）争议性问题》是非常及时的。如果借用在最近（jìn）的新（xīn）冠病毒（dú）疫情中常被提及的一个称谓，我们也可（kě）以称他为（wéi）人工智能领域的“吹哨人（rén）”。书（shū）名准（zhǔn）确而清晰（xī）地提醒人（rén）工智能技术发（fā）展和应用（yòng）的（de）两面性。最近（jìn）几年来，我和我的团队在密切关注人（rén）工智能领域的研（yán）究报告和著作，这也是我们（men）第一次从（cóng）书名（míng）中就旗帜鲜（xiān）明（míng）地获得（dé）对人工智能（néng）双（shuāng）重属性（xìng）的（de）警示。同样，这个书名也暗示，工具还是武器，希望还是危险，最终取决于（yú）我们（men）的选择。
阅读这本书是一个（gè）愉快（kuài）的体验（yàn），尽管里面讨论（lùn）了许多对人类（lèi）社会来（lái）说不那么愉快的挑（tiāo）战（zhàn）。阅读上的愉悦部分来自书里内（nèi）容和分（fèn）析。本书不仅展示了人工智能发展的积极前景和种种令人（rén）兴奋的可能性，也涵盖了诸多已经被关注和尚未引起（qǐ）关注的（de）相关主题（tí），社会分化、失业、垄断、武器化、大国科技竞争等等，这些议题在“工具和武器”这个主题（tí）下得到了（le）妥（tuǒ）善的安排和处理，这种（zhǒng）内容（róng）上（shàng）的全面、平衡与恰（qià）当的（de）分析（xī）深度（dù）很好（hǎo）地结合在一起。
作者（zhě）出色的叙述（shù）和（hé）严谨（jǐn）平实的（de）风格，也让阅读（dú）变得轻（qīng）松愉快。我猜想（xiǎng），这与他（tā）作为（wéi）微软公司（sī）首席（xí）法（fǎ）务官的职业习惯（guàn）有关。这不是（shì）拒人于千里之外的（de）学术和（hé）技术著（zhe）作，也不是架空的科（kē）幻灾难（nán）小说。在书（shū）中，大（dà）量（liàng）的思考和分析是个人体验式（shì）的（de），作为微软的总裁兼首席法务官，他不仅参与（yǔ）了微软（ruǎn）内部关于人工智（zhì）能研发战略和规则的（de）制定（dìng），还（hái）参与了全球（qiú）范围（wéi）内（nèi）各（gè）类大（dà）型（xíng）论坛、政府高层磋商会，读（dú）者很容（róng）易将自己代入这（zhè）些（xiē）场景（jǐng）中，理（lǐ）解不同利益方的关切和选（xuǎn）择（zé），这使得很多（duō）看起来宏大的议题变（biàn）得真实可感。
基于本文一（yī）开始就提到的理（lǐ）由——企（qǐ）业家和企业在现代社（shè）会（huì）观念塑（sù）造中的重要（yào）角（jiǎo）色，我（wǒ）特（tè）别赞赏布拉德和微（wēi）软公司在（zài）推动（dòng）公众全面、平衡地（dì）认识人工智能所（suǒ）作（zuò）出的努力。借用电影（yǐng）《蜘蛛侠（xiá）》中的话（huà），能力越大，责（zé）任越大。作为一（yī）家全球领（lǐng）先的高（gāo）科技公司，有几十万的员（yuán）工，有数以亿计的用户，在（zài）全球人工（gōng）智能开发版图中（zhōng）具有举足（zú）轻（qīng）重的影（yǐng）响，应该促进行业在人工智能发（fā）展中采取审慎和自律，促成社会公众（zhòng）建立正确的认知和观念，这是巨大的责任。
我不准备（bèi）过多讨论和评论这本书（shū）的内容（róng）了，毕竟（jìng）读者（zhě）自（zì）己从阅读中（zhōng）理（lǐ）解人工智能带来的希望和危险，是更可靠和可取的途径（jìng）。但是，我（wǒ）乐于和读者们分享我（wǒ）在阅读本书以及写这篇（piān）书评中获（huò）得的（de）两个扩展的思考。
第一，我们对人工智能开发走向失控要有更（gèng）多准备。靠少数公司和政府的努力建立负责任的开发是困难的。企（qǐ）业之间（jiān）有激烈的（de）市场竞争，国（guó）家之间还有更复杂的技术和（hé）军事竞争，企（qǐ）业间和政府间的博弈（yì）会形成典型的囚徒困境，而且由于验（yàn）证上困难也（yě）无法建立有（yǒu）效的（de）约束机（jī）制，最终（zhōng）大家都向底（dǐ）线竞跑。
第二，人（rén）工智能（néng）对社会系统性、根本性（xìng）的影响，还在于我（wǒ）们社会还未曾和智能上远高于我们的物种共生过（guò）。两年（nián）前和微软合作研究的时候，我们讨（tǎo）论和分析了人（rén）工智（zhì）能的已显和（hé）未显的挑战，这些挑战都称（chēng）得上巨大，但总觉（jiào）得意（yì）犹未尽。但现在我想可以（yǐ）更清晰准（zhǔn）确地表达（dá）出更大的风险（xiǎn）。人类依靠智识（shí）形成（chéng）的（de）合作（zuò）体（tǐ）系，将猛（měng）兽灭绝或赶到（dào）自然（rán）的角落（luò）里，驯化动（dòng）物作为伙（huǒ）伴（bàn）或者食物，开发疫苗控制了病（bìng）毒的（de）袭扰。但是人工智能和已知（zhī）的生物不（bú）同，和我们习惯共（gòng）存的工具不同，在人类需求的推动下，有实（shí）体和无实体的人工智能（néng）实际上是一个物种，它最终会具备自主性（xìng），而且在某些领域的智（zhì）能和性能上远远（yuǎn）超过人类的认知经验（yàn）。所以（yǐ），在未来，我们与人工智能（néng）不是共存，而是共生。但（dàn）是，我们的社会没有准备好，人工智能成为社区的（de）成（chéng）员（yuán），成为伙伴、上级、下级（jí）、老师、敌人。当人工智能全面地介入人类的生产生活后（hòu），当它们从单一功能升级（jí）为复合功能，当它（tā）们通（tōng）过网络连接成为社区，现在社（shè）会中我们熟知的哪些关系和行（háng）为准则可能都需要重新定（dìng）义（yì），但是（shì）我们还（hái）没有（yǒu）思（sī）考和准备。很多人认（rèn）为（wéi）这（zhè）是（shì）虚幻的或者是遥远的未（wèi）来的事（shì），但是由于前面所说的“囚徒困境”，实际上这种挑战到（dào）来的速度会比想象得（dé）快。
这（zhè）两个推演（yǎn）结（jié）论听起来似乎（hū）悲观了些，但（dàn）是如果不去思考和指出这样的（de）挑（tiāo）战，不去为之做好准备，那么这个挑（tiāo）战有很大的可能变成（chéng）现实（shí）。要为（wéi）这样（yàng）的挑战作（zuò）准备，不能（néng）只靠少数公司、政府、学者（zhě）的努力，需要在国际层面、行业之间、学科之间和（hé）不同利益群体（tǐ）之间的更广泛协同合作。不（bú）论（lùn）正确与否，我乐（lè）于和读者分享（xiǎng）我（wǒ）的阅读思考，也期待更多的读者能从这（zhè）本书中获得自己的启迪。
（作者俞建（jiàn）拖为中国发展研究基（jī）金会副秘书长）
