据(jù)德新社近日报道,欧洲议会全体会议以499票赞成、28票反对、93票弃权的(de)压倒性优(yōu)势(shì)表决(jué)通(tōng)过了《人工智能法案》授权草案。这意味着,法案进(jìn)入欧盟立法(fǎ)严(yán)格监(jiān)管(guǎn)人工智(zhì)能技术(shù)应用的最终谈判阶段,欧洲(zhōu)议会、欧盟(méng)委员会和成员国将进(jìn)行“三方”谈判,以确定法案的(de)最终条款。德国《商(shāng)报(bào)》称,《人工智能法(fǎ)案》预(yù)计将在今年年底(dǐ)获得最终批(pī)准(zhǔn),不过(guò)距离完全(quán)生效可能还(hái)需数年时间。
做(zuò)好(hǎo)谈判(pàn)准备
报道称,欧洲议会决定对ChatGPT等生(shēng)成式人工(gōng)智能工具增(zēng)加更多(duō)安全控制措(cuò)施,以确保人工(gōng)智能的研发和(hé)应用符合欧盟相关法律法规。
作为全球首(shǒu)部(bù)通过议会程序、专门针对人工智能的综合(hé)性立法,草案从安全、隐(yǐn)私、透(tòu)明度以及非歧(qí)视等方面制定了详细规则。据欧洲议会网站消息,欧洲(zhōu)议会“为制(zhì)定史上(shàng)首部人工智能(néng)法案已经做好谈(tán)判准备”。按照(zhào)立(lì)法议程,欧洲议会将就(jiù)这一授权草案与欧盟委员会(huì)和成(chéng)员国(guó)进(jìn)行“三方”谈判,欧洲立法者希(xī)望在今年(nián)年底前就(jiù)法案的最终版本达成共识。
今年5月,欧洲议会市场委员会和公(gōng)民自由(yóu)委员(yuán)会通过欧(ōu)盟委(wěi)员(yuán)会(huì)于2021年(nián)4月(yuè)提出的《人工智能(néng)法案》提案(àn)的谈(tán)判授权(quán)草案。此前,欧洲议会和欧盟理事(shì)会(huì)已就(jiù)草案进行多轮修订和讨论,并且在ChatGPT等生成式人(rén)工智能(néng)应用横空出世(shì)后,欧(ōu)盟立法(fǎ)者紧急商讨了原版本草案(àn)中未(wèi)涵盖的问题。欧洲议会声明,这(zhè)部提案(àn)如正式获得批准,将成(chéng)为全世界首部有关人工智能的法规(guī)。
草案将适用于在(zài)欧盟境内将人工智能系(xì)统投放市场或投入(rù)使用的实体(tǐ)(无论该实体是在欧盟境(jìng)内还是(shì)在第三国)、在欧盟境内使(shǐ)用(yòng)人(rén)工(gōng)智能系统(tǒng)的实体以及在第三国使用人工智能系统,但系统的(de)输出用于欧盟境内或对欧盟(méng)境内人(rén)员产生影响的实体。
风险分类监(jiān)管
《人工智(zhì)能法案》授权草案的一个突出特(tè)点是注(zhù)重基(jī)于风险来制定监管制度,以平衡人(rén)工智(zhì)能的创(chuàng)新(xīn)发展与安全规范。草(cǎo)案将人工(gōng)智能风险分(fèn)为不可接受的风险(xiǎn)、高风险、有限的风险和(hé)极小的风险四级,对应不同的监管要求。其中(zhōng)高风险人工(gōng)智能的使(shǐ)用必须(xū)受(shòu)到严格监管,系统提供者和使用(yòng)者都要(yào)遵守数(shù)据(jù)管理、记录保存、透(tòu)明度(dù)、人为(wéi)监管等规定,以确保系统稳定、准(zhǔn)确和(hé)安全。对(duì)于违反规定者(zhě),草案设定了(le)最高3000万欧元(1欧元约合人民币7.895元)或全球年营业额6%的罚款。
草(cǎo)案严(yán)格禁止对人类(lèi)安全(quán)造成不(bú)可接(jiē)受风险的人工智能系统,包(bāo)括(kuò)部署潜意识或(huò)有目(mù)的操(cāo)纵(zòng)技术、利用人们(men)弱(ruò)点或用于社(shè)会评(píng)分的系(xì)统,并扩(kuò)大(dà)了人工智能(néng)高风险领域的分类,将(jiāng)对人们健康、安全(quán)、基本权利或环境的危害考虑在内。草(cǎo)案还要(yào)求人工智能(néng)公司对其算法保持(chí)人为(wéi)控(kòng)制,提供技术文(wén)件,并为(wéi)“高风险”应用建立风险(xiǎn)管理系统,还针对ChatGPT等生成式人工(gōng)智能(néng)设立(lì)专门监管制度。每个欧(ōu)盟成员国都将(jiāng)设立一个监督机(jī)构。
此外,引进监(jiān)管沙盒(指(zhǐ)通(tōng)过设(shè)立限制性条件和制定风险管(guǎn)理(lǐ)措施,允许企业(yè)在真实的(de)市场环境(jìng)中,以真(zhēn)实的个人用户与企业用(yòng)户为对象测试创新产品(pǐn)、服务和商业模式)机制以管(guǎn)控风险和促进创新,在人工智能系统入市或投(tóu)入使用前,对人工智(zhì)能(néng)系统(tǒng)进行开发、测试和验证(zhèng)降低风险。草案还提(tí)出,这一机制同(tóng)样被允许用于在现实条件下测试创新人工智能,以鼓励人工智(zhì)能企业持续创新。
面临重要挑战(zhàn)
欧盟试(shì)图建立一(yī)个统一的(de)人工智能法律监(jiān)管框架,是全球人工智能发展进程中一个重要(yào)的标志(zhì)性事例(lì)。欧盟对(duì)人工智能(néng)进行有效法规约束的探讨(tǎo)和尝试都将产生全球性(xìng)影响,可能引发越来越(yuè)多的国家尝(cháng)试跟进相关法规(guī)的探索。
对于欧洲议会的决定,德国(guó)社民党表示支(zhī)持:“人工智能(néng)的(de)潜力和风险应得(dé)到全社会(huì)关注。”但也有反对者(zhě)担心监(jiān)管过度可能给(gěi)欧(ōu)洲人工(gōng)智能公司带来更高成本(běn)和过重负担。
在人工(gōng)智(zhì)能开发(fā)方面处(chù)于领先地位的公司,某种程度上也(yě)是过去十(shí)年中面临反垄(lǒng)断违规风险、违反现行法律以及造成信息泄露危害的科技公司(sī)。基(jī)于此(cǐ),OpenAI公(gōng)司(sī)首席执(zhí)行官萨姆·阿尔特(tè)曼(màn)表示,如果《人工智能(néng)法案》对(duì)AI进行过度监管,他(tā)将带领(lǐng)团队撤出(chū)欧洲(zhōu)市(shì)场。
专家称,欧(ōu)盟推动人(rén)工(gōng)智能立(lì)法,有利于维护欧盟在(zài)数字主权和(hé)科技领域的领导地位,并通过这样(yàng)一部综合(hé)性(xìng)立法抢占全球人工智能监管先机(jī)。但其本身具有局(jú)限性。它采用的是横(héng)向立法,并非针对(duì)特定(dìng)人工智(zhì)能应用领域(yù),而是试图把所有人工智能都纳入监管范围,在执(zhí)行层面将面临大(dà)量的(de)解释问题(tí)。
有(yǒu)声音进一步指出(chū),欧(ōu)盟并未就人工智能(néng)技术可能给人类带来什么样的(de)影(yǐng)响形成共识。从辩证的角度看,人工智能(néng)既能造福和服务人类,但如若用之不(bú)善,也会给(gěi)人类带来威(wēi)胁或伤害,如何平衡创新和约束是欧盟立法机(jī)构面临的一个(gè)非常重要的(de)挑战。此(cǐ)外,统一(yī)的法律(lǜ)框架并(bìng)未涉及具体法(fǎ)律规范,实际(jì)的执行效果(guǒ)可能“大打折扣”。
国(guó)际社会认为,当前(qián),人工智(zhì)能技术发展仍处在探索(suǒ)期。欧盟(méng)此时制定《人(rén)工(gōng)智能法(fǎ)案》,释放出(chū)欧(ōu)盟正在(zài)强(qiáng)化(huà)其在数字领域内建规立制的强烈信号。如何(hé)更好地(dì)平衡与衔接技术创新和制度创(chuàng)新,还需在实(shí)践(jiàn)中不断(duàn)修正。