近日,世界领先的(de)人工智能(néng)软(ruǎn)件公司商汤(tāng)科技联合(hé)上海交通大学清(qīng)源研究(jiū)院、AIII人(rén)工智能国(guó)际研究院,共同发(fā)布《平衡发(fā)展的AI伦理观——AI可持续发展报告2021-2022》(以下简称“报告”),倡导“发展”的伦(lún)理(lǐ)观,打造(zào)技术可(kě)控、以人为本、可持续(xù)发展的(de)AI均衡伦理治(zhì)理范式,推(tuī)动发(fā)展负责任(rèn)且可持(chí)续的AI技术。同期发布的,还有商(shāng)汤与上海(hǎi)开(kāi)源信息技术协会、AIII人(rén)工智能国际研究院(yuàn)共同(tóng)倡议构建的《联合国可(kě)持续(xù)发展目标(biāo)正面(miàn)案例集(jí)》。
“‘给(gěi)岁月以文明’,给技术以人(rén)文精神,才能让技术走得更远更好。”商汤伦(lún)理治理委员会主席、副总裁杨帆表(biǎo)示,“作为新(xīn)兴科技(jì)的典型(xíng)代表,人(rén)工智能技术本身、以及它所带来的经济、社会(huì)、生活方面的巨大影响,都在快速的发展变化——这对人(rén)工智能的(de)伦(lún)理(lǐ)治理提出了更(gèng)高的要求。商(shāng)汤相信(xìn),放(fàng)任自流和因(yīn)噎废食的态度,都不可取。AI治理是一个多(duō)目(mù)标(biāo)、多(duō)维度的平衡过程,即以‘发展’的(de)眼光,寻求(qiú)均(jun1)衡的(de)发展。”
为此,在去(qù)年商(shāng)汤首次发布(bù)可持(chí)续(xù)报告的基础上,商汤(tāng)本年(nián)度的报(bào)告(gào)进一步(bù)拓(tuò)展(zhǎn)了(le)“可持续发展”的内(nèi)涵与外延。在发布(bù)仪式上,商汤智能产业研究院(yuàn)院长田丰详(xiáng)细介绍了商汤伦理观以及相关(guān)的实(shí)践(jiàn)。基于国际主流的(de)技(jì)术(shù)伦理治理架构,商汤提(tí)出(chū)人工智能伦理(lǐ)治理的三个核心原则:
可持(chí)续发展:可(kě)持续发展(zhǎn)是(shì)最大的(de)社(shè)会责任。通(tōng)过伦(lún)理治(zhì)理,商汤希望能(néng)够推动人(rén)工(gōng)智能技术促进全社会的(de)经济(jì)、文化及环境(jìng)的可(kě)持续发展(zhǎn)。
这其中,很重要一点(diǎn)是人工智能的发展不仅要造(zào)福于人类,也要造福于我们的地球。随着节能(néng)减碳成为全球共识,积(jī)极推动传统产业绿色转(zhuǎn)型,早(zǎo)日(rì)实现碳达峰、碳中和成为诸多行业(yè)的共同诉求。而其中,电力(lì)工业是(shì)全球最主要的 CO2排放源之一,实(shí)现电力(lì)减排、清洁高效生产和(hé)运(yùn)维,将有助于推动低碳电力、低碳(tàn)能源。2020年(nián),商汤科技(jì)与南方(fāng)电网数字电网(wǎng)研究院达(dá)成合作,在超高压公司直流工程换流(liú)站(zhàn)进行了首个工(gōng)业级视觉定(dìng)位 AR技术试点研(yán)究,以AI+AR技术助力(lì)实现(xiàn)智能电网(wǎng)巡(xún)检,提高电力运维效率,助力(lì)新能(néng)源大规模并网(wǎng)后的电网运行安全。
以人为(wéi)本:可(kě)持续发展的主体是(shì)人,要(yào)尊重人类的基本权利,构建充满(mǎn)人文关(guān)怀、互相(xiàng)尊重(chóng)的包容性AI,让技术真(zhēn)正造(zào)福(fú)于(yú)人。
当今(jīn)的数字时代,各类(lèi)智能物联网设备以及相应的软件应用遍布生(shēng)活的各个方面。以技术(shù)赋能智慧生活,可以进一步释放数字时代的潜(qián)力,方(fāng)便人类、改善生活体(tǐ)验。从(cóng)行(háng)业数据(jù)和长(zhǎng)远发展看,旅游早已成为中国(guó)居民主(zhǔ)要的闲(xián)余活动和生活方式(shì)。例如,商汤以AI赋能(néng)智慧(huì)文旅(lǚ),将故宫的藏品(pǐn)复制到线上;从早期各种各样的美颜特(tè)效、智能上妆(zhuāng),到直播时代的3D人像、数字人、虚实结合(hé)的体感游戏等等,商(shāng)汤累计赋能200多款手机(jī)、AR和(hé)VR设备(bèi)、智(zhì)慧(huì)大屏及消费级无人机,以实现真实(shí)世界和虚拟世界(jiè)的连接,创造全(quán)新的元宇宙体验(yàn)。
技术(shù)可控:技术是由人类开发并为人类服务的超级工具,工具的(de)伦理责(zé)任应(yīng)由人类(lèi)承担;对于人工智能的技(jì)术治理,宜采(cǎi)用(yòng)多元(yuán)治理、发展(zhǎn)式治理,以释放科技造福人类(lèi)的创(chuàng)新发展(zhǎn)潜力;同时,实现人工智(zhì)能的法(fǎ)律合规、主动保护数(shù)据安全(quán),是可信AI的关(guān)键成功因素(sù)。
基于这样的观点(diǎn),商(shāng)汤积极实践数据隐私保护,以自主合规性要求不断驱动产品升级。商汤是(shì)第一家获得全部三项 ISO/IEC隐私信息管理系统、信息(xī)安全管理和(hé)个(gè)人(rén)身份信息保护认证的(de)人(rén)工智能公司(sī),已采取的标准保(bǎo)护措(cuò)施(shī)包(bāo)括(kuò)保密分频、访(fǎng)问控制(zhì)、数据加密及脱敏等,以防止未经授权访问、泄露、不当使用(yòng)或(huò)修改、损(sǔn)害或丢失数据及个人信息。
“可持续发展(zhǎn)、以人为本、技(jì)术可控,这三条(tiáo)核心(xīn)原则将是人(rén)工(gōng)智能技术得(dé)到(dào)信任、广(guǎng)泛接受和长期发(fā)展的重要(yào)支柱。”杨帆表示,“在经济、社会、技(jì)术发(fā)展(zhǎn)的不同阶段,人类社会对(duì)技术的需求、对技术(shù)的伦理的(de)偏重各有(yǒu)区别。为此,要在这样三原则基础上,需求均衡(héng)、动态的发(fā)展。”
在这样理(lǐ)念的指导(dǎo)下,根据(jù)上(shàng)述三原则,经由商(shāng)汤人(rén)工智(zhì)能伦理与治(zhì)理委员会推(tuī)动落(luò)实,商(shāng)汤已建立起系统的人工智能伦理审查程序,以审查及检测产品及服务的潜在伦理风险。该(gāi)管理体系涵盖从项目审批、产品及服(fú)务(wù)的发(fā)布,到持续运营(yíng)监控,及其后的产品及(jí)解决方(fāng)案迭代的整(zhěng)个(gè)生命(mìng)周期。在评(píng)估过程中,可选(xuǎn)择驳回新产(chǎn)品方案、中断进行中的产品开(kāi)发项(xiàng)目、或停(tíng)止(zhǐ)不符合商(shāng)汤原则及标(biāo)准(zhǔn)的(de)现有产品。此外,商汤还聘请外(wài)部顾(gù)问为相关的(de)审查程序及(jí)风险(xiǎn)管理模(mó)型提供建(jiàn)议(yì),以确保产品及服务符合伦(lún)理规范。
与本(běn)年度可持续发展报告(gào)同期发(fā)布的,还有(yǒu)由商(shāng)汤与上海开源信息技术协会、AIII人工智能国际研究院共同倡议构建的《联(lián)合国可持续发展(zhǎn)目(mù)标正面(miàn)案例集(jí)》。案例集围绕联合国可持续发展的17个目(mù)标,收集了全球范围(wéi)内40余个人工智(zhì)能(néng)技术在现实生(shēng)活中应(yīng)用的正面案例,涵盖脱贫、无饥饿(è)、AI智(zhì)慧医疗、AI普(pǔ)惠教育、产业创新和基础设施等(děng)等(děng)方面(miàn),为产学研(yán)界提供一线应用案例参考(kǎo),共建伦理治理生态。
“我们希望以(yǐ)人(rén)工智能不(bú)断(duàn)造福大众、增进社会福祉、保(bǎo)护地球家园。在这个过程中(zhōng),落实‘发展’的AI伦理观,推动负责任且可持续人工智能的发展(zhǎn),是商汤坚持(chí)知行(háng)合一(yī)、实现AI向善的坚定举措”杨帆表示。展望未来,商汤(tāng)作为AI领(lǐng)域(yù)的龙头企业(yè),将不断落实(shí)相关的实践工作,并通过与(yǔ)产业生态的(de)广泛合作,共(gòng)同推动人工智能伦理的平(píng)衡发(fā)展。