语音识别、文本识别、视频识（shí）别……数字（zì）经济时代，人工智能技术已走（zǒu）近你我（wǒ）身边，被（bèi）视为经济增（zēng）长（zhǎng）的新引擎、国（guó）际（jì）竞争的新（xīn）阵地和推（tuī）动智慧社会（huì）建设的有效工具（jù）。而加快“人工智能＋”产（chǎn）业（yè）融合（hé）、赋能更多行（háng）业（yè）应（yīng）用落地，更成为（wéi）社会各界共同的（de）期待。

然而，不（bú）久前在（zài）由中国人工智能学（xué）会主办（bàn）的2020中国人（rén）工（gōng）智能产业年会上，最新发布（bù）的报告（gào）指（zhǐ）出，目前已成熟应用（yòng）的人工智能技术（shù）仅为语音识别，机器学习、计算机视觉、自（zì）然语言处理、知识图谱、智能机器人等技术距离生长成熟尚需数年（nián）时（shí）间，而无人驾驶汽车在（zài）未来（lái）10年（nián）内都不太可能出现。

从实验室走（zǒu）向大规模商用，人（rén）工智能还（hái）需要多（duō）久？尚存在哪些“堵点”“痛点”？在许多业内专家看来，正（zhèng）视人工智能尚存（cún）在的诸多（duō）挑战（zhàn），对技术赋（fù）能抱有理性期待，方能（néng）让其回归技（jì）术本质，成为（wéi）更多产业变革创新的动力源（yuán）泉。

算（suàn）法不透明导致（zhì）的不可解释

2016年，谷（gǔ）歌人工智能系统AlphaGo击败世界围棋冠军李世石，令世人大为（wéi）震动（dòng）。依靠人工智能深度学习理论的突破，计（jì）算机可以模仿人类作（zuò）出决策，然而，这仅基于大量的数据学习,而非（fēi）因果或规则推理（lǐ），整个决策过程仍（réng）是一个“黑箱”，人类难以理解，导致追责难。

复旦大学计算（suàn）机科学技术学院院长（zhǎng）姜育刚举例，此（cǐ）前，美国IBM公（gōng）司研发了人工智能系统“沃森”帮助医生进行诊疗决策。然而，许多医生很快（kuài）发现在（zài）使用“沃森”时，系（xì）统（tǒng）给（gěi）出了多个不安全、不（bú）正确的治疗（liáo）意见，甚至（zhì）在极（jí）端（duān）的诊断案例中，“沃森”给（gěi）有（yǒu）出血症状的癌症（zhèng）病人开出了容易导致出血的药物，严重时可（kě）致患者死亡。然而，医生却并（bìng）不知道为什么“沃森”给（gěi）出了这样的意见（jiàn）。决策步（bù）骤的不可（kě）解释，带来诸（zhū）多不确定性。

近（jìn）年来，人工（gōng）智能应用于新（xīn）药研发（fā）被寄予厚（hòu）望（wàng）。然而，算法的（de）不可解释性却横亘在前（qián）。相关研（yán）发和监（jiān）管部门需要清楚地知（zhī）道药物（wù）开发中使用的算法,从而理解（jiě）人工智（zhì）能主（zhǔ）导的决策背（bèi）后的逻（luó）辑。如（rú）果不对（duì）监管实现算法（fǎ）透明化,人工智（zhì）能（néng）将会是一个无法进行（háng）严谨的科学评价及验证的“黑（hēi）匣子”。这（zhè）可能会导致在药（yào）物审（shěn）批过程中出现（xiàn）种种无法预料（liào）的问题,比（bǐ）如对人工智（zhì）能“发现”的（de）生物标记物的接受度不明。此外，对于智能（néng）政务、无人驾驶这样安全性要求极高的（de）行业，人（rén）工智能的引入自然更为谨（jǐn）慎。

“深度学习的算（suàn）法和核心模型需要能够真正展开（kāi），让公众知晓它的机理模型”，上海人工智能研究院有限公司总经理宋（sòng）海涛建议。中科院软件研究所（suǒ）研究员薛云志则指出，人工智能面（miàn）向不同知识背景的用户，要能以简单、清晰（xī）的方式，对决（jué）策过程的根（gēn）据和原（yuán）因进行（háng）说明，并能对系统决策过程关键节点的数据加以追溯并能（néng）够审计，这在未（wèi）来人（rén）工智能应用大规模（mó）落地时，是特别需要关注的特性，也（yě）是实施（shī）监管的必要。

易受欺骗引发安全性质疑

作为人工（gōng）智（zhì）能技（jì）术的“大（dà）热选手”，深度学习（xí）可以（yǐ）通过对（duì）大（dà）量已知样（yàng）本的训（xùn）练，制作（zuò）自己（jǐ）的（de）样本，这（zhè）是深（shēn）度（dù）学（xué）习的特（tè）点，同样也是（shì）痛点（diǎn）。

京东人工智能研（yán）究院院长周伯文坦（tǎn）言（yán），人工智能（néng）目前在面向产业（yè）化落地时，遇到（dào）的巨大（dà）挑（tiāo）战正是（shì）真实环境（jìng）的开放边界和规则模糊，数（shù）据的（de）“噪音”非常多，使（shǐ）得智能模型的（de）部分（fèn）结（jié）果和使用情况难以让人信赖。

姜育刚（gāng）指出，人（rén）工智能目前的（de）智能判（pàn）别模式存在（zài）缺陷，容易被对抗样本所欺骗。比如（rú）图像识（shí）别，在一张人像图片上加入一些非常少量的干扰，人为视觉看上去基本没有区别，但人工（gōng）智能模（mó）型就（jiù）会产生识别（bié）错误；再如自动驾驶，一（yī）张“限速（sù）80码”的（de）交通标牌，加入一些（xiē）干（gàn）扰后，就可能被机器识别成“禁止通行”。显（xiǎn）然，存在很大的安全隐患。

语音（yīn）识别领（lǐng）域也存在这种问题。技术人员在语音（yīn）上（shàng）任（rèn）意加入非常微小的（de）干扰，语（yǔ）音识别系统就可能会识别错误。同样，在文本识别（bié）领（lǐng）域，改变一个字母就（jiù）可以使得文本（běn）内容被错误分类。

此外（wài），若（ruò）深度学习的数据集中（zhōng）存在隐藏的偏见（jiàn），人工智能系统无法发现，也不会否定。缺少反馈机制的“照单全收”，最终可能导致生成的结果（guǒ）并不客观。

例如在行业内（nèi）已经出现（xiàn）的，人工智能在（zài）深度学习后（hòu）对女性、少数族裔、非主流文（wén）化群体产生“歧视”：亚马逊通过人工智（zhì）能筛选简历，却发现了系统对女性存在偏见导致最终（zhōng）关闭。更（gèng）为（wéi）常见的是手（shǒu）机软件利用人工智（zhì）能算法导致的大数据“杀熟”，如根据手（shǒu）机类型（xíng）的不同，可（kě）能会推荐不同类型的商品，甚至打车时推荐（jiàn）不（bú）同价格、档次的（de）车辆。

目前,“AI+金融（róng）”的发展（zhǎn）如火如荼。但当金融机构均采用人工智能进行决策时,其市（shì）场信（xìn）号解读就可能趋（qū）同与不断强化（huà）,导致形成偏离（lí）正常市场规律（lǜ）的结果。而这些不正常的市场变（biàn）化也会（huì）成为人工智能的学习基础,将（jiāng）人（rén）工智能的决策逻辑进一步畸化（huà）,容易造成恶劣的后果。

以上这些问题，影响着人工（gōng）智（zhì）能赋能实体经济的安全性，凸（tū）显产业对技术可（kě）信赖性的（de）呼唤。“从AI到可信赖AI，意味着我们需要在技术层面上解决鲁棒性（稳定性）、可（kě）解释性（xìng）和可复制性这些核心技术挑战。同时为（wéi）了大规模产业化应用，我们必须考虑到人工智能的（de）公平性和负责任。这几个维度是人工智能（néng）必须（xū）要解决的（de）问题。”周伯文（wén）说。

法律规制和伦理问（wèn）题待完善

“目前的智能算（suàn）法还存在给出的决策不符合伦理（lǐ）道德（dé）要求的（de）问题。”姜育刚指（zhǐ）出，在应（yīng）用中已发现，智能算法（fǎ）的决策没有从改（gǎi）善人类生活、服（fú）务人类（lèi）社会的（de）角（jiǎo）度来进行。如智能（néng）音响在对话（huà）中（zhōng）出现“劝主人自杀”的内容，聊天（tiān）机（jī）器（qì）人学（xué）会了骂脏话和种族歧视等。而这些不友好的决策都是模（mó）型从（cóng）数据中学来（lái）的，并不是（shì）研发者（zhě）对人工智能模型设置的目标。

同时，人工智能算法需要海量的数据驱动，训练（liàn）数据可（kě）以（yǐ）被（bèi）算法恢复，个人隐（yǐn）私存在（zài）泄露和被侵犯的风险（xiǎn），而大量的数据也存在共享壁垒（lěi）。在人工智能赋能金（jīn）融的过（guò）程中，这一问题尤被（bèi）关注。最新报告显示（shì），近年来,每年发（fā）生金融隐私泄露（lù）事件（jiàn）以（yǐ）大约35%的（de）速度在增长。加之近年来人工（gōng）智能技术在金融行业的（de）广（guǎng）泛应用,由此带来的银行（háng）数据、保险数据（jù）、网贷业务及大数（shù）据等个人信息保护（hù）问题日益凸（tū）显（xiǎn）。

在（zài）2020年抗击新冠肺炎（yán）疫情期（qī）间,人工智能技术在我国响应速度快、介入力度大，帮助推出了CT影（yǐng）像的辅助诊断系统，提升了医（yī）生诊断的速（sù）度和信心（xīn）。然而，医疗影像智能诊断发展也面临着法律规制问（wèn）题。与（yǔ）其他人工智能赋能行业的大（dà）数据相比，获取高质量（liàng）的医疗影（yǐng）像数据相对（duì）困难。不（bú）同医疗机（jī）构的数据（jù）,目前还很少互通、共享。而单个医疗机构积累的数据往往不足以训练（liàn）出有效的深度（dù）学习（xí）模型。此外（wài）,使用（yòng）医疗（liáo）影像数据进（jìn）行人工智能（néng）算法的训练（liàn）还涉及保护病人（rén）隐（yǐn）私等（děng）非技术问题。

此（cǐ）外，近（jìn）年来（lái），随着人（rén）工智能技术（shù）的深（shēn）入探索（suǒ），科学界有人提出研发“人工生（shēng）命（mìng）”，成为（wéi）又（yòu）一个伦（lún）理（lǐ）话（huà）题。对此，中（zhōng）国工程院院士李德毅表示，生命不（bú）仅有（yǒu）智能，更要有意识。从（cóng）伦（lún）理角度上（shàng），生命（mìng）是人类的（de）底线（xiàn），触碰底线（xiàn）要慎之（zhī）又慎。“所以，我们可以通过（guò）计算机技术继续研发没有意识（shí）、但（dàn）有智能的高阶（jiē）机器。让人类（lèi）的（de）智（zhì）能（néng）在（zài）体外延（yán）伸，保持它的工具性，而非（fēi）人工创造意识。”

深圳云天励飞技术股份（fèn）有限公司副总裁郑文先同时提醒，“人工智能的技术进步可以给社（shè）会带来（lái）非常正向的效益，不应因为对隐私保护机制等（děng）方面的忧虑而将（jiāng）人工智能的问题（tí）妖魔（mó）化。”他认为，当前（qián）人（rén）工智（zhì）能的法律法规尚不（bú）健全，亟待有关部（bù）门进一步（bù）科学（xué）制定和完善，这样才（cái）能引导公众更加健康地（dì）看待这一新技（jì）术应用于产业。

亟待（dài）技术进步（bù） 发展（zhǎn）新一代人工智能

面对（duì）技术落地（dì）所遇到的种种“痛点”，许多专家给出了这（zhè）样的比喻：“人工智能相当于一（yī）个（gè）锤子（zǐ），不（bú）能哪一个钉子都（dōu）能砸。”

“我（wǒ）觉得，人工智能发展的第一（yī）步是（shì）辅助（zhù），让重复复（fù）杂的劳动量由机器完（wán）成，在这个基础（chǔ）上，我们再（zài）创（chuàng）造条件逐渐向（xiàng）智（zhì）能决策的方向（xiàng）发展。”郑州大学教授蒋慧琴表示，对于业界有人提（tí）出“人工智（zhì）能超越甚至（zhì）取代人类”的期待和（hé）预计，应保持冷静，“只有沿着这样的方向坚持下来（lái），才有可能达到我（wǒ）们的目标”。

中国科学（xué）技术发展战略研究院研究员李修全认为（wéi），在重复性操作的生产（chǎn）环节和（hé）基于海量数据的高（gāo）强度计算优化求解上，人工智能（néng）具（jù）有明显（xiǎn）优势，应当是当（dāng）前应用于产业的主要方（fāng）向（xiàng）。

华为云人工智能领域（yù）首席科（kē）学家田奇则认为，加速人工（gōng）智能赋能产（chǎn）业落地，其与科学计（jì）算（suàn）的深度融合应是显著趋势，在工业、气象、能（néng）源、生物（wù）、医学等领域（yù），需要大（dà）量（liàng）科学计（jì）算，人工智能技术能为传统（tǒng）科学计（jì）算（suàn）带来（lái）新的思路（lù）、方法和工具，同时由（yóu）于传统科学计（jì）算具有严密（mì）性（xìng），人（rén）工智能（néng）也可以提高它本身的可解释性。

“推动人工智能进（jìn）入新（xīn）的（de）阶段（duàn）,有赖于与数学、脑科学（xué）等结合（hé）实（shí）现底层理论的突破。”中（zhōng）国科（kē）学院院士、清华（huá）大（dà）学人（rén）工（gōng）智能（néng）研究院（yuàn）院长张钹说，未来所需（xū）要的（de）第三代人工智能（néng）应是（shì）实（shí）现可解释的、鲁棒的、可信安全的智能系（xì）统，依靠知识、数据、算法和算力四个要（yào）素，将实现（xiàn）从不带（dài）认知的人工（gōng）智能转变为带认（rèn）知（zhī）的人工智能。

如（rú）何解（jiě）释新一代人工（gōng）智（zhì）能？李德毅认为，传（chuán）统人工智能是计（jì）算机智（zhì）能，属于封闭型人工智能。新一代人工（gōng）智能应（yīng）该是开放性人工智能。当（dāng）前，所有的计算机都是对软件工程师的智能编程代码进行一次又一（yī）次简单执行，“但我们希望这个机器（qì）在（zài）学习过程中能够解决新的问题（tí），学（xué）习应成为新一代人工智能解决现实（shí）问题的基础”。

清华（huá）大学（xué）智能技术与系统国家重点实验室（shì）教授（shòu）邓志东建议，数据和算力的增（zēng）加总有天花板，要（yào）推动人工智能技术深度赋能更多行（háng）业，需要的是核（hé）心关键技术突破，特（tè）别是认知智能的进步，同时，还要（yào）依（yī）靠智能高端芯（xīn）片（piàn）、传感器（qì）等零部件的硬件（jiàn）支撑（chēng），再（zài）借助我国5G信（xìn）息技术的优（yōu）势，形（xíng）成合力支撑产业落地（dì）和商业化应用。

此外，人工智能标准（zhǔn）化工作（zuò）也应加速展开。薛云志表示：“建立（lì）可信赖的人工智能需要标准化，一方面要（yào）从开（kāi）发者训（xùn）练、测试与实验、部署（shǔ）运营和监管的（de）角度来做，另一方（fāng）面（miàn）则要从芯片等硬件、算法（fǎ）、产品系统（tǒng）出（chū）发（fā），来制定标准（zhǔn）和规（guī）范，同时对人工智能的风（fēng）险、伦理、管理（lǐ）等标准研究也要尽快（kuài）启动，这些（xiē）都只是第一步。”