人工（gōng）智能（Artificial Intelligence，AI）发轫于20世纪50年代，至（zhì）今已经（jīng）历了（le）三次发展浪（làng）潮，不管是实验室（shì）阶段（duàn）还是大（dà）规模产业化阶段，研究者（zhě）们几（jǐ）十年如一日不变的都是推进其（qí）技术的进步，希望（wàng）机（jī）器真的有一天能具有一（yī）般人类智慧（huì），执行全方位的人类（lèi）认知能力。

近年来，为（wéi）了让AI更加健康发（fā）展（zhǎn），有一项技（jì）术领域正在成为（wéi）产业界和（hé）学术界研究（jiū）的重（chóng）点：可信AI，即将人类社会的（de）正面（miàn）价值观，通过技术赋（fù）予到人工智能上，包括可解释（shì）、公平性、隐私保护和公平性。

从学术研究层面来（lái）说，可信AI主要是针对算法和系统（tǒng）层面的（de）研究，包括安全性/鲁棒性、可解释性、隐私性、公（gōng）平性（xìng）、可审计性/问（wèn）责（zé）性、环境（jìng）保护。可解释（shì）性（xìng）包（bāo）括学习方法（fǎ）或模型的（de）理（lǐ）论可（kě）解（jiě）释（shì）、算法可（kě）解（jiě）释、行为可解释；鲁（lǔ）棒性主要针对模型（xíng）稳定性研（yán）究、攻击模型和（hé）防守（shǒu）模型；隐（yǐn）私保护指的（de）是攻（gōng）击（jī）与保护方法直接（jiē）的博弈，如差分隐私（sī）、多中心联邦学（xué）习；公平性针对（duì）的是各（gè）种（zhǒng）数据、模型的偏置研（yán）究，平等和公正的平衡；而环保指的是（shì）寻求高能效策略，更高能（néng）效的计算（suàn）硬件（jiàn）。

与可信AI学（xué）术研究不同，企业更（gèng）多是针对当下（xià）的问题（tí），提（tí）出解决方案。如2015年（nián），蚂蚁集团启动基于“端特征”的手（shǒu）机丢失风险研究项（xiàng）目（mù），旨在用（yòng）AI技术保护用户的隐私安全。为（wéi）了解（jiě）决了AI中的公平（píng）性（Fairness），IBM于（yú）2018年（nián）开发（fā）了多个AI可信工具，在（zài）AI系统中采（cǎi）用（yòng）不带偏见的数据集和模型，从而避（bì）免（miǎn）对（duì）特定群体的不公平（píng）。产（chǎn）业界对可信AI的应用加更（gèng）加（jiā）苛刻，容错率更（gèng）高。很（hěn）多可（kě）信AI白皮书（shū）提到，可信AI真正落地起来（lái），需要放到生产流程里面，让其成为一种机制（zhì），发挥技术的约束作用。

青年学生是（shì）重要的技术人（rén）才储备。对于研（yán）究（jiū）可（kě）信（xìn）AI的青年学（xué）生来（lái）说，对从事可信AI怎么准备，在（zài）他们现（xiàn）在的学习和（hé）生活中，就应（yīng）了解学术的前沿，以及业界最新技（jì）术趋势，思考哪（nǎ）些技术可（kě）以应用到哪些问题（tí）上，主动观察（chá）了解所处的世界，以及业界（jiè）的（de）需求（qiú）痛点和技术瓶（píng）颈。比（bǐ）如，最近一档可信（xìn）AI实战（zhàn）科技真人秀，就（jiù）联动了全国（guó）一些（xiē）顶尖（jiān）高校，通过可信AI在工业界“科技反诈”当中（zhōng）的应用，还（hái）原了可（kě）信AI技（jì）术（shù）在实际应用中的能（néng）力，把学术（shù）界和产业界正在做的事，通过大家（jiā）都（dōu）能理解的形式打通起（qǐ）来，让（ràng）技术从业者、技术（shù）研究者都深度参与其中。

做（zuò）AI研究，“复杂度”是一个（gè）关键词。环境复杂度、任务复杂度、系统复（fù）杂（zá）度决（jué）定了AI的水平。对它的研究（jiū）可以揭示（shì）AI产生原理，也（yě）可以回（huí）答AI的终极问（wèn）题，即（jí）对人类命（mìng）运的最终（zhōng）影（yǐng）响。未来可信AI研究，也（yě）要从复杂度分析来看AI为人类带来的价值（zhí），更需要学界（jiè）和产业界共同努力来（lái）推动。