本报记者 赵（zhào）姗

微软的创（chuàng）始人比尔·盖茨有一（yī）句名言：“我们（men）总（zǒng）是高估在一年或者两年（nián）中（zhōng）能够做到的，而（ér）低估五年或十年中（zhōng）能够做到的。”这句话用来理解人工（gōng）智能的影响是（shì）相当合适的。目前，随着人工智能产业飞（fēi）速（sù）发展，催生（shēng）了新的人机交互（hù）模式（shì），核心便（biàn）是AI大（dà）模（mó）型驱动的智能体（AI Agent）（以下简称“AI助手”）。AI助手让“人机（jī）协同”成（chéng）为（wéi）新（xīn）常态，个人与企业正在步入AI助手时代。

然（rán）而，伴随（suí）着快速发（fā）展，一系（xì）列问题（tí）与挑战也随（suí）之（zhī）而（ér）来。如何（hé）在应对（duì）AI助手面临挑战的（de）同（tóng）时（shí）抓住发展机（jī）遇，实现AI助手的可（kě）持续（xù）发展和更广泛应用，成为行业（yè）需要（yào）深入思考和探讨的重点。

数据隐私安全、伦理和法律等成（chéng）为挑战

“AI助（zhù）手在快速发展的（de）同时，也面（miàn）临许（xǔ）多挑（tiāo）战和问题（tí）。”国务院发展研究中心（xīn）创新发展研究部第二研究（jiū）室主（zhǔ）任杨超在接受中国经济时报记者采访时（shí）表示，在这些问题中（zhōng），最为关键（jiàn）的（de）还在于AI助（zhù）手使（shǐ）用所带（dài）来的（de）数据隐私安全（quán）、伦理和法律问（wèn）题（tí）。

杨超认为（wéi），从数据（jù）隐私保护（hù）来（lái）看，由于人工智能系统本身需要依赖（lài）大量用户（hù）数据进行训练（liàn），必然会导致相关（guān）机（jī）构将AI助手服务期间获取和产生的数（shù）据（jù）用（yòng）于AI助手本身的优化（huà），即使通过（guò）删（shān）除个性化属性（xìng）等（děng）方（fāng）式对数据脱敏，数据隐（yǐn）私和安全问（wèn）题也难以完全避（bì）免（miǎn）。尤其是（shì）随着AI助手的普及（jí），其（qí）训练涉及的数据量将快速提升，从而进一（yī）步放大安（ān）全风险。

从伦理和法律角（jiǎo）度看，随（suí）着AI助手能力的增强（qiáng），其自主性和决策能力必然会显著提（tí）升，在部分应用（yòng）场（chǎng）景中将会脱离人类的直接指令（lìng）而（ér）开展自主行为。这些（xiē）自主（zhǔ）行为一旦产生（shēng）外（wài）部（bù）性影（yǐng）响，就将引发伦理和法律问题。“一个（gè）经典的例子是（shì），人工智（zhì）能自动驾（jià）驶的汽（qì）车在（zài）行驶过程中，前方突（tū）然出现（xiàn）行人，改变行驶方向（xiàng）会（huì）伤（shāng）害乘客，不改（gǎi）变方（fāng）向则（zé）会（huì）伤害行人。这种情况下无论AI助手做（zuò）出何种选择都会带来伦理问题。”杨超说。

清（qīng）华（huá）大学复杂（zá）工（gōng）程系统（tǒng）实（shí）验室主任（rèn）、中（zhōng）国人工智能学会智能产品与产业（yè）工作（zuò）委员会主任任勇（yǒng）在（zài）接受（shòu）中国经济时报记者采访时表示，在（zài）当下（xià）阶段，AI助（zhù）手仍然面临技术创新与场景适配度（dù）的挑战。

一是（shì）算法的精准性与（yǔ）可靠性。AI助手的核心（xīn）——算法（fǎ）需要不（bú）断（duàn）学习和优化以（yǐ）提高准确性和可靠性，然而（ér），面对复（fù）杂多变（biàn）的用户（hù）需（xū）求和场景（jǐng），当前的算法往往难（nán）以达到期待的要求。

二是跨模态学（xué）习与环境理解（jiě）能力。AI助手（shǒu）当前的技术水平（píng）仍存在一（yī）定的局限性，难以充分理（lǐ）解（jiě）和整合应用时空变（biàn）化的模态信息，对环境信息的多模态感知与理（lǐ）解尚有很大（dà）的（de）提（tí）升空间。

三是场景理（lǐ）解与适应能力。有些场景化（huà）需求超越了简（jiǎn）单的物理环（huán）境（jìng）感知，需要与场景自身的底层逻（luó）辑、应用（yòng）逻辑相结合才能理解（jiě），这对当下的AI助手而言是一（yī）个现实挑战。

“此外，AI技（jì）术的复杂（zá）性和变（biàn）化性使得已有（yǒu）法（fǎ）规难以完全覆盖各种变动。当AI助手出现错误或造（zào）成（chéng）损害时，责（zé）任追究便成了（le）难题。”任勇说。

“AI助手面（miàn）临的挑战还有（yǒu）算法偏（piān）见与歧视、过度依（yī）赖和成瘾。”清华大学人工智能国际治理研究院秘书长、欧美同学会研究院人工智能和数字经济研究中心执行主任鲁俊（jun4）群在接受中国经济时报记者（zhě）采访时表示。

鲁（lǔ）俊（jun4）群认为，目前，AI算法的训（xùn）练数据还存在不完备性和偏向（xiàng）性。由于AI训练所使用的语料数（shù）据（jù）本身可能客观上就存在着统计（jì）学上的一（yī）定偏差，还有可能存在开发（fā）者的（de）个人偏好等，因此，现（xiàn）阶段的各种AI助手仍有可能存（cún）在一定的算法偏见与歧视问（wèn）题。对此（cǐ），有必（bì）要建立（lì）对（duì）技术背后训练数据和算法的审查机制（zhì），如通过建立AI伦（lún）理委员会等形式加强审核。

另外，“假如一（yī）名（míng）用户经常与AI角色互（hù）动来寻（xún）求帮助和安（ān）慰，容易对其产生情感上的依赖，以此（cǐ）来（lái）填补情感需求上的（de）空（kōng）缺，这有可（kě）能导致（zhì）用户沉迷虚拟世（shì）界（jiè）而忽视现实（shí）世界。对此，建议对于AI助（zhù）手应该使用得（dé）当（dāng），同时应该（gāi）注意保持与现实世界的互动。”鲁俊群说。

未来发展方向：垂直领（lǐng）域专业化、与（yǔ）具身智能的结（jié）合（hé）

当前，大模（mó）型进入应用时代（dài），多家科（kē）技公司都展出了（le）最新（xīn）AI应用。

“AI助手发展的方向是多样的，在技术路线和应用（yòng）场景（jǐng）的双（shuāng）重影响下，将会迎来种类繁多的AI助手。”杨超（chāo）认为，其中，有两个方向是较为确定的。

一（yī）是（shì）垂直领域（yù）专（zhuān）业化。在（zài）特定行业或（huò）领域，如家政、健康（kāng）、医疗、法（fǎ）律、金融（róng）等大领域（yù），甚至是制造业中不同（tóng）行业等小领域，AI助手都将具（jù）备更深入的（de）专业知识和技能，提供（gòng）专业服（fú）务。

二是与（yǔ）具身智能的结（jié）合。随着人工智能（néng）能力的（de）提升，其提供（gòng）的服务将不（bú）仅是咨询和（hé）智力服务，而（ér）是通（tōng）过更（gèng）多的感知和操作，为人（rén）类提供直接与物质世界交互的能力。

任勇认为，就发展方向（xiàng）而言，AI助（zhù）手（shǒu）在产业场景和个体（tǐ）场（chǎng）景中的应用虽然都基于人工（gōng）智能技术，但在技术路径（jìng）和响应机理上存在着显著差异。

AI助手（shǒu）产业场景的技（jì）术（shù）路径主要（yào）是针对特定需求，如（rú）制造业、物（wù）流、医（yī）疗、教育等，AI助手（shǒu）通常（cháng）需要进（jìn）行定制化开发，以符合行业的特定需（xū）求（qiú）。利用（yòng）相应产业所产生的数据，结合各种机器（qì）学习（xí）算法，AI助手能够自（zì）主学习（xí）和优化，实现智（zhì）能（néng）排班（bān）、任务分配、数据（jù）分析、流程优化等高级功（gōng）能。在此过程（chéng）中，AI助手往往需（xū）要与（yǔ）企业的其他系（xì）统进行集成（chéng），如ERP（企业（yè）资源计（jì）划）、CRM（客户关系管理）等，以实现信息的共享（xiǎng）和协作。通过（guò）上（shàng）述技术（shù）路径实现对（duì）重复（fù）性烦琐任务的自（zì）主处理和数据洞察、科学决策、降（jiàng）本（běn）增效。

AI助手用于个（gè）体场（chǎng）景的技术路径主要（yào）是利（lì）用（yòng）通用智能平（píng）台，如智能手机、智（zhì）能家（jiā）居设备等，通过语（yǔ）音（yīn）识别和自（zì）然（rán）语言交互、多设备协（xié）同（tóng）来辅助用户完成（chéng）任务，提升日常生活的便利性和服务的精（jīng）准性。

“在产业场（chǎng）景中，AI助（zhù）手主（zhǔ）要关注于提升效率、优化决策和降低成本，需要更（gèng）多的定（dìng）制（zhì）化开发和集（jí）成协作；而在个人生活场景中，AI助手则更注重于提供便捷化、个性化、适应性服务，未来的技术创新（xīn）只能围绕（rào）不同场景下各（gè）自的内生逻辑进行（háng）迭（dié）代优化。”任勇（yǒng）说（shuō）。

鲁俊群认为，AI助手未来可能会向多模（mó）态交互（hù）以及具身智能方向发展。

“为了（le）实现具身（shēn）智能，需要将类ChatGPT等这些基础大模型与进化学（xué）习机制相结合，通过与物理世（shì）界（jiè）交互取得的新（xīn）数据（而不（bú）再是人类投喂的（de）数据）来不断（duàn）学习，并适应新环境，优化行为（wéi）策略。多模态大模型能够（gòu）整合视觉、听觉、触觉（jiào）等多（duō）种感官数据，提升机器人的理解能力。使具身智能（néng）机器（qì）人在与（yǔ）物理（lǐ）世界的互（hù）动和（hé）理解方面更加人性化。这些未来的（de）AI助手机（jī）器人可以自主理解（jiě）场景、识别自然语言指令、规（guī）划任务（wù），并执行操（cāo）作，将是人类最（zuì）得力的智能（néng）助理。”鲁俊群说。

从创新方向（xiàng）引导、应用（yòng）场景规（guī）范方面为AI助手提（tí）供支持保障

当前（qián），AI助手的服（fú）务升级与互联互通是国内多家（jiā）互联网科技公（gōng）司持（chí）续探索（suǒ）的重点（diǎn）。

杨（yáng）超建（jiàn）议，第一，加强（qiáng）对（duì）用户隐私（sī）和数据安全的保护。强制（zhì）性地将用户隐私和数（shù）据安（ān）全作（zuò）为提供AI助手服（fú）务的前置条件，引导（dǎo）和鼓（gǔ）励相关机（jī）构采用（yòng）先进的数据加密和匿名（míng）化技术，确保用户数据的安（ān）全和隐私。

第二，增强AI助手决（jué）策过程的可解（jiě）释性，让用户能够理解其行为（wéi）和决策逻辑（jí），从而（ér）提高用户信（xìn）任度。为（wéi）整个社会更好接纳AI助手创造良（liáng）好的环境，从而为在（zài）更广阔的应用场景中使用AI助（zhù）手提供帮助（zhù）。

第（dì）三，加（jiā）强伦理和法规遵从。根（gēn）据人工智能技（jì）术（shù）的进步（bù）及时修订相关法律法规，完善对AI助（zhù）手进行规制的制度环（huán）境，确保AI助手的（de）开（kāi）发和应（yīng）用符合（hé）伦理标准和法律（lǜ）法规，避免产生歧视、偏见（jiàn）等（děng）问题。

“国（guó）家政（zhèng）策（cè）层面（miàn）应（yīng）该从（cóng）创新方（fāng）向引导和应（yīng）用场景规（guī）范两个方面出发，为AI助手的（de）发展提供（gòng）支持和保障。包（bāo）括明确AI助手（shǒu）的适用（yòng）场景和（hé）范（fàn）围等，避免误用，更要避免（miǎn）国际资本集团假借技术触发虚假市场的滥用。特别是在医疗、教育、交通等关（guān）键领（lǐng）域，应（yīng）严格规范AI助（zhù）手的应用条（tiáo）件和程序。此外，要建立健全（quán）AI助手的监（jiān）管（guǎn）机制，加强社会力量尤（yóu）其是人民群众（zhòng）对AI助手应用的（de）监督和评估（gū），确保（bǎo）其合（hé）规性、合理（lǐ）性和安全性。对于违规（guī）行为，应依法进行处罚和追责。”任勇表示。

未来，企业可以利用AI助手（shǒu）优化现有业（yè）务流程，特别是在新产品研发和服（fú）务的（de）创新应用方面，AI助手的普及将推动不同行业之间的跨界融（róng）合和（hé）协同发展，为企业带来新的商业机（jī）会和合作伙（huǒ）伴，进而带（dài）动商业模式和生态的变革（gé）。

中央财经大学数（shù）字经济融合创（chuàng）新（xīn）发展中心主任陈端（duān）在接受中国经济时报记者采访时认为（wéi），企业运用AI助手强化核（hé）心竞争力需（xū）要一系列的战略（luè）规（guī）划和技术实（shí）施（shī）。

一是要识别关（guān）键业（yè）务场景，深入了（le）解业（yè）务需求，确定AI助手在哪些环节能够发挥最大价值，然后（hòu）为（wéi）选定（dìng）的业务场景明确具体的需求（qiú）和（hé）目（mù）标，如提（tí）高客（kè）户满意（yì）度、优化库存管（guǎn）理、增强市场（chǎng）分析能力等。

二（èr）是根据业务需求和技术成熟度，选择适合（hé）的AI技术和解决方案，要充（chōng）分考虑与现有系统（tǒng）的兼容性，确保AI助手能够顺（shùn）利（lì）集成到（dào）企业的IT架构中。此外（wài），还要建立完善的数（shù）据（jù）治理体（tǐ）系（xì），避免（miǎn）因为数据偏差导（dǎo）致的结（jié）果偏（piān）差。

三是需要设立明确的评（píng）估指标和机制，对AI助（zhù）手的（de）性（xìng）能（néng）和（hé）效果（guǒ）进行定期评估，及时（shí）调整（zhěng）和优化（huà）AI助手的（de）算法和模型，以提（tí）升其准确性和效率。此外（wài），还需要关注AI助手可能带来的伦理和社会问题，确保其应用（yòng）符合道（dào）德和法律规范。