QQ在线
企业微信
资（zī）讯
433国外有IBM沃森（sēn）的医疗AI产品做出错误诊断并开出不安全药物的教训（xùn），国内有杭州动物园（yuán）发生的“中国人脸识别（bié）第（dì）一案”的案例……近（jìn）年来，人工智能的（de）监管问题已成（chéng）为其（qí）发展（zhǎn）道路上不可忽视的关键问题（tí）。
4月12日，“AI可信专题论坛”在（zài）上海召开，专（zhuān）家们围绕人（rén）工智能是（shì）否可信这一关（guān）键问题展（zhǎn）开了深入探讨。中国科学院院士（shì）何积丰指出：“技术的发展从来（lái）都是（shì）一把双刃剑，人工智能在（zài）给人类社会带来便利的同时,也带来了新的安全问题及风险。”
“人工智能发展仍（réng）旧面（miàn）临诸多挑战。”京（jīng）东集团技（jì）术委员会主席、京东人工智能研究院院长周博文指出，真实（shí）世界环（huán）境开放、边界（jiè）和规则模（mó）糊、数据（jù）噪音多（duō）、AI模型（xíng）的部分结果难以信赖等引发的问题层出不穷。如智能摄像（xiàng）头（tóu）将公交车上的广告人物识别（bié）为闯红灯者、AI写作软（ruǎn）件创作核材料被盗的假新闻、智能音箱（xiāng）建议使用者自杀（shā）等，这（zhè）些人工智能暴露（lù）的（de）问题已经逐渐与人们的（de）生（shēng）活（huó）密切相关。
复旦大（dà）学（xué）计算（suàn）机学院院长姜育刚指出，要通过“技（jì）术+规则”双轮驱动算法（fǎ）治理。“技术与规则联动，一方（fāng）面研究更符合规则的人工智能算法（fǎ），发展评估技术以度（dù）量现有（yǒu）人工智能算（suàn）法的（de）合规程度；另一方面通过规（guī）则自（zì）顶向下约（yuē）束人工智（zhì）能技术活动（dòng）牵（qiān）引其健（jiàn）康发（fā）展。”
清华大学人工智能（néng）国际治理研究院副院长（zhǎng）梁正对该会议上发布的（de）《人（rén）工智能治（zhì）理框架与实施（shī）路径》报告内容进（jìn）行介绍时表示，当前人工智能治理的挑战主要集中于（yú）三个（gè）方（fāng）面：数据（jù）、算法、平台等（děng）新兴治理对象的涌现使得追责的（de）难度（dù）不（bú）断增大（dà）；人工智能技（jì）术的发展和应用场景的（de）拓宽使得潜在（zài）的重大技术、经济（jì）和道德风（fēng）险（xiǎn）开始冲击人类（lèi）社会（huì）现存的（de）价值体系和竞争格局；现存的（de）法律、监管制度供给的（de）缺陷和全球范围内灵活、有效治理机（jī）制的缺（quē）失问题（tí）进一步凸显。
“在治（zhì）理过程中，除了应对以上（shàng）挑战所带来（lái）的风险外，还须实现发展（zhǎn）与治理的平衡，既要避免规范不足导致的社会问题，也（yě）要避（bì）免过度监管（guǎn）阻滞技术的发展。”梁正说。
