本报记者 赵姗（shān）

微软的创始人比尔·盖茨（cí）有一句（jù）名（míng）言：“我们（men）总是高估（gū）在一（yī）年或者两年（nián）中（zhōng）能够做到的，而低估（gū）五年或十（shí）年中能（néng）够做（zuò）到的。”这句话用来理解人工（gōng）智能的（de）影响是相当（dāng）合（hé）适（shì）的。目前，随着人工（gōng）智（zhì）能产（chǎn）业飞速发（fā）展，催（cuī）生了新的人机交互模式，核（hé）心便是AI大模型驱动的智（zhì）能（néng）体（AI Agent）（以下简称（chēng）“AI助手”）。AI助手让“人机协（xié）同”成为新常态，个人与企业正在（zài）步入AI助手（shǒu）时代。

然而，伴随着快速发展，一系列（liè）问题与挑战（zhàn）也随之而来。如何在应对AI助（zhù）手面临挑战（zhàn）的同（tóng）时抓住发展机遇，实现AI助手（shǒu）的可持续发展和更广（guǎng）泛应用，成为行业需要深入思考和探讨的重点。

数据（jù）隐私（sī）安全、伦理和（hé）法律等成为挑战

“AI助手在（zài）快（kuài）速发展的同（tóng）时，也面临（lín）许多挑战和问题（tí）。”国务（wù）院发展研究中心创新发展研（yán）究部第二研究室主任杨超在接受中国经（jīng）济时报记者采访时表示，在这些问题中，最为关键（jiàn）的还在于AI助手使用所带来的数据隐私安全、伦理（lǐ）和（hé）法（fǎ）律问题。

杨超认为，从数据隐私保护来看，由于人工智能（néng）系统本身需要（yào）依赖大量用户数据进行（háng）训练（liàn），必（bì）然会导致相关机构将AI助手服务期间获取和产生的（de）数据用于AI助手本身的优化，即使通过删（shān）除个性化属性等方式对数据（jù）脱敏，数据隐（yǐn）私（sī）和安全问题也难以（yǐ）完全避免。尤其是随着AI助手的普及，其训练涉及的数据（jù）量将快速提升，从而进一步放大安全风险（xiǎn）。

从伦理和法律角度看，随（suí）着AI助（zhù）手能力（lì）的增强，其自（zì）主性和决（jué）策（cè）能力（lì）必然会（huì）显著提升，在部分（fèn）应（yīng）用场景中将会（huì）脱离人类的直接指令而开展自主（zhǔ）行为。这些自主行为一旦产生外部性影（yǐng）响，就（jiù）将引发伦（lún）理和法（fǎ）律问题。“一个经典的（de）例子（zǐ）是，人工智能（néng）自动驾驶的汽车（chē）在行驶过程中（zhōng），前方突然出（chū）现行人，改（gǎi）变行（háng）驶（shǐ）方（fāng）向会（huì）伤（shāng）害乘客，不改变方向则会伤害行人。这种情况下（xià）无论AI助手做出（chū）何种选择都会带来伦理问（wèn）题（tí）。”杨（yáng）超说。

清华大（dà）学复杂工（gōng）程系统实验室主任（rèn）、中国人（rén）工智（zhì）能（néng）学会（huì）智能产（chǎn）品（pǐn）与产业工作委（wěi）员（yuán）会主任任勇在接受（shòu）中国经济时报记者采访时表示，在当下阶段，AI助手仍然面临技术创（chuàng）新与（yǔ）场景（jǐng）适配度（dù）的挑战。

一是算法的精准性与可靠性（xìng）。AI助手（shǒu）的（de）核心——算法需要不断学习和优化（huà）以（yǐ）提高准确性和（hé）可靠性，然而，面对（duì）复杂（zá）多变的用户需（xū）求和场景，当前（qián）的算法（fǎ）往往难以达到期（qī）待（dài）的要求。

二是跨模（mó）态学习与环（huán）境理解能力。AI助手当前的技术水平仍存（cún）在一定的局限性，难以充分理（lǐ）解和整合应（yīng）用时空变（biàn）化的模态信息，对环境信息的多模态感知（zhī）与（yǔ）理解尚有很大的提升空间。

三是（shì）场景理解与适（shì）应能力。有些场（chǎng）景化（huà）需求超越（yuè）了简单的物理环境（jìng）感知，需（xū）要与场景自身（shēn）的底层逻（luó）辑、应用逻辑相结合才能理解，这对（duì）当（dāng）下的AI助手（shǒu）而言（yán）是一（yī）个现实挑战。

“此外，AI技术的复杂性和变（biàn）化性使得已有（yǒu）法规难以完全覆盖各种变动。当AI助（zhù）手出现错误或造成损害时，责任追（zhuī）究便成了难题。”任勇说。

“AI助手面（miàn）临的（de）挑战还有（yǒu）算法偏见与歧视、过（guò）度依赖和（hé）成瘾。”清华大学人（rén）工智能国际（jì）治（zhì）理研究院秘书（shū）长、欧美同学会（huì）研究院人工智能（néng）和（hé）数字经济研究中心（xīn）执行主任鲁俊群在接（jiē）受中国经济时报记者采访时表（biǎo）示（shì）。

鲁（lǔ）俊群认为，目前，AI算法的训练数据（jù）还存在不（bú）完（wán）备性（xìng）和偏向性。由于AI训（xùn）练所使用的语料数据（jù）本身可能客（kè）观上就存在着统计（jì）学上的一定偏差，还有可能存在开发者的个人偏好（hǎo）等，因（yīn）此，现阶段的各种AI助手仍有可能存在一定的（de）算法偏（piān）见与歧视问题。对此，有必（bì）要（yào）建立对技术背后训练（liàn）数（shù）据和算法的审查机（jī）制，如（rú）通过建立AI伦理委员会等形式加强审（shěn）核。

另外，“假如一名用户（hù）经常与AI角色（sè）互（hù）动来寻（xún）求帮助和安慰，容（róng）易对其产生情感上（shàng）的（de）依赖，以此来填（tián）补情感需求上的空缺，这有可（kě）能导致用户沉（chén）迷（mí）虚拟世界而忽视（shì）现实（shí）世界。对此，建议对于AI助手应该使用得当，同时应该注意保持与现实世界的互动。”鲁俊群说。

未（wèi）来发展（zhǎn）方向：垂（chuí）直领域专业化、与（yǔ）具（jù）身智能的结合

当前，大模型进入应用时（shí）代，多家科（kē）技公司都展出了最新AI应用。

“AI助手发（fā）展的方向是多样的，在（zài）技术路（lù）线和（hé）应用场景的双（shuāng）重影响下，将会迎来种类繁多（duō）的（de）AI助手。”杨超认为，其中，有（yǒu）两个方向是较为确（què）定的。

一（yī）是垂直领域专业化（huà）。在特定行业或领域，如家政（zhèng）、健康、医疗、法律（lǜ）、金融等大领域，甚至（zhì）是（shì）制造业中不同行业等小领域（yù），AI助手都将具备更（gèng）深入的专（zhuān）业（yè）知识和技能，提供专业服务。

二（èr）是与（yǔ）具身智能的结合。随着人工智能能力的提（tí）升，其提供（gòng）的服务将不仅是咨询（xún）和（hé）智力（lì）服务，而是通过更多的感知和操作，为人类提供直接与物质世界交互的能力。

任勇（yǒng）认（rèn）为，就发展方向而（ér）言，AI助手（shǒu）在产（chǎn）业场景和个体场（chǎng）景中的应用虽然都基于人工（gōng）智能技术，但在技术路径和（hé）响应机理上存（cún）在着显（xiǎn）著差异。

AI助（zhù）手产业（yè）场景的技术路径主要是针对特定（dìng）需求，如制造业、物流、医疗（liáo）、教育等，AI助手（shǒu）通（tōng）常需要进行定（dìng）制化开发，以符合行业的特（tè）定需求。利（lì）用相应产业所（suǒ）产生（shēng）的数据，结合各种（zhǒng）机器学习算（suàn）法，AI助手能（néng）够自主学习和优（yōu）化，实现（xiàn）智能排班、任务（wù）分配、数据分析（xī）、流程优化（huà）等（děng）高级功能。在此（cǐ）过程中，AI助手往往（wǎng）需要与企（qǐ）业的其他系（xì）统进行集（jí）成（chéng），如ERP（企（qǐ）业资源计划）、CRM（客户关系（xì）管理）等，以（yǐ）实现信息（xī）的共享和协作。通过上述技术路（lù）径实现（xiàn）对（duì）重复性（xìng）烦琐任务的自（zì）主（zhǔ）处（chù）理（lǐ）和数据（jù）洞察（chá）、科学决策、降（jiàng）本（běn）增（zēng）效。

AI助手用于个（gè）体（tǐ）场景的（de）技术路径（jìng）主要是利（lì）用（yòng）通用智能平台，如智能（néng）手机、智（zhì）能家居设备等，通过（guò）语音识别（bié）和自然语言交互（hù）、多设备（bèi）协同来辅助用户完成任务，提升日常生活（huó）的便利性（xìng）和服务（wù）的精准性（xìng）。

“在（zài）产（chǎn）业场景中，AI助手主要关注于提升效率、优化（huà）决策（cè）和（hé）降低成本，需（xū）要（yào）更多的定制化开发和（hé）集成协作（zuò）；而在个人生活场景（jǐng）中，AI助手则更（gèng）注重于提供便（biàn）捷（jié）化、个性化、适应性服务（wù），未来的技术创新只（zhī）能围绕不同场（chǎng）景下各自的内生逻辑进行迭（dié）代（dài）优（yōu）化。”任勇说。

鲁（lǔ）俊群认为，AI助手未来（lái）可能会向多（duō）模态交互（hù）以（yǐ）及具身智能方向发（fā）展。

“为（wéi）了实（shí）现具身智能，需要将（jiāng）类（lèi）ChatGPT等这些（xiē）基础大模型与进化（huà）学习机制（zhì）相结合，通过与物理世界交互（hù）取得的新数据（而不再是人类投喂的数据）来不断学习，并适应新环（huán）境，优化行为策略。多模（mó）态大模型（xíng）能够整合视觉、听觉、触（chù）觉等多种感官数据，提（tí）升机器人的理（lǐ）解能（néng）力（lì）。使（shǐ）具身智能机（jī）器人在与物理世界的互动和理（lǐ）解方面更加人（rén）性化。这些未来（lái）的AI助手机器人可以（yǐ）自（zì）主（zhǔ）理解场景、识（shí）别自然语言指令、规划任务，并（bìng）执行操作，将是人类最得力的智能助理。”鲁俊群说（shuō）。

从创新方向引导、应用场（chǎng）景规范方面为AI助手提供（gòng）支持（chí）保障

当前，AI助手的服务升级与互联互通（tōng）是国内多家互联网科技（jì）公司持（chí）续探索（suǒ）的重点（diǎn）。

杨超建议，第一，加强对（duì）用户隐（yǐn）私（sī）和数据安全的保护。强制性地将用户隐私和数据安全作为提供AI助手服（fú）务的前置条件，引导和鼓励相关（guān）机构采（cǎi）用（yòng）先（xiān）进的数据加密（mì）和匿（nì）名化（huà）技（jì）术，确保用户数据（jù）的安全和隐私（sī）。

第二，增强AI助手决策过程（chéng）的可解释性，让用（yòng）户（hù）能够理解其行（háng）为和决策逻辑（jí），从而提（tí）高用户信任度。为整个社（shè）会更好接纳AI助手（shǒu）创造良好的（de）环（huán）境，从而为在更广阔的应用场景中使用AI助手提供帮助。

第三，加（jiā）强（qiáng）伦理和（hé）法规（guī）遵从。根据人工智（zhì）能技术的进步及时修订相（xiàng）关法律法规，完善对（duì）AI助手（shǒu）进行规制的制度环境，确保AI助手（shǒu）的开发和应用符合伦理（lǐ）标准（zhǔn）和法律法规，避免产生（shēng）歧视、偏见等问题。

“国家政策层面应该从创新方向（xiàng）引导和应用场景规范两个（gè）方面出（chū）发，为AI助手的发展（zhǎn）提（tí）供（gòng）支持和（hé）保障。包（bāo）括明确AI助手（shǒu）的（de）适用（yòng）场景和范围等，避免误用，更要避免国际资本集团（tuán）假（jiǎ）借技（jì）术触发虚假市场的滥用。特别是在医（yī）疗、教育、交通等关键领域，应严格规范AI助手（shǒu）的（de）应用条件和程序。此（cǐ）外（wài），要建立健全AI助手的监（jiān）管机制，加强社会力量（liàng）尤其（qí）是人民群众对AI助手应用的监督和（hé）评估（gū），确保其合规（guī）性、合理性和安全性。对于（yú）违规行为，应依法（fǎ）进行处罚和追责。”任勇表示（shì）。

未来，企业可（kě）以利（lì）用AI助手优（yōu）化现（xiàn）有业务流（liú）程（chéng），特别（bié）是在新产品（pǐn）研发和服务的创新应用方面（miàn），AI助（zhù）手的普（pǔ）及将推动不同行业之（zhī）间的跨界融合和（hé）协同发展（zhǎn），为企业带来新的商（shāng）业机会和合作（zuò）伙伴，进而（ér）带动商业模式和生（shēng）态的（de）变革（gé）。

中央财经（jīng）大学数字经济融合创新发展中心主任陈端在接受中国经济时报记者采访时认为，企业运用AI助手强化核心竞（jìng）争力需要一（yī）系（xì）列的战（zhàn）略规划和技术实施。

一是要（yào）识别关键业务场景，深入了（le）解业务需求（qiú），确定AI助手（shǒu）在哪些环节能够发挥最大价（jià）值，然后为（wéi）选（xuǎn）定（dìng）的（de）业务（wù）场景明确具体的需（xū）求和目标，如提高客户满意度、优（yōu）化（huà）库存管理、增（zēng）强市场分（fèn）析能力等。

二是根据业（yè）务需（xū）求和技术成熟（shú）度，选择适合的AI技术和解决方（fāng）案，要充分考（kǎo）虑与（yǔ）现有系统的兼容性，确保AI助手能够顺利集成到企业（yè）的IT架构（gòu）中。此外，还要建立完善的数（shù）据治理体系，避免（miǎn）因为数据（jù）偏差导致的（de）结（jié）果偏差。

三是需要设立明确（què）的（de）评估指标和机制，对AI助手（shǒu）的（de）性（xìng）能和效果进行（háng）定期评估（gū），及时调（diào）整和优化AI助（zhù）手的算法和（hé）模型（xíng），以提（tí）升其准确性和效率（lǜ）。此外，还需要关（guān）注AI助手可能带来的伦理和社会问题（tí），确保（bǎo）其应用符（fú）合道（dào）德和法律规范。