聚焦人工智能技术前沿与治理 中外专家学者国际论坛建言献策******

　　中新网北京12月5日电 (记者 孙自法)2021人工智能合作与治理国际论坛“人工智能技术前沿与治理”主论坛，12月5日在清华大学以线上线下结合方式举行，中外人工智能(AI)领域专家学者聚焦人工智能技术前沿与治理这一主题，发表主旨演讲建言献策，并深入研讨交流。

　　美国国家科学院院士、美国艺术与科学院院士、约翰·贝茨·克拉克奖得主、斯坦福大学商学院技术经济学教授、以人为本人工智能研究所副所长苏珊·阿西(Susan Athey)认为，大学在指导人工智能创新方面可以发挥优先引导的关键作用。由于私营部门的技术人员缺乏伦理、哲学方面的训练，难以开发出具有可解释性的算法框架，深化这类研究能够在人工智能治理的问题识别、建立开发实践框架、提供指引等方面发挥重要作用。此外，由于数据可以带来巨大的规模效应，当前“软件即服务”的平台经济模式已非常普及。人工智能和数据需求可能带来“伪”市场集中，因此，未来对“机器换人”的预测非常具有挑战性，需要重新关注和思考人工智能如何用于应对老龄化等公共管理问题，使基于人工智能的公共服务变得更加高效。

　　国际人工智能协会前主席、清华大学人工智能国际治理研究院学术委员约兰达·吉尔(Yolanda Gil)指出，由于人类对智能机制认知不足、智能行为本身的复杂性、观测手段的有限性以及个体知识、职业、信仰、文化背景等的差异性，导致当前人工智能研究中面临着一系列挑战，因此，需要加强人工智能基础研究工作，这需要跨领域、跨学科的共同努力。当前，理解人工智能机理和构建人工智能世界模型是人工智能研究面临的两大挑战。一方面，理解人工智能机理需要构架“感知-思考-行动”的智能模型，加强对大脑思维机理的理解，建议借鉴神经科学研究联合体的有益经验，建立全球性的人工智能研究数据库，形成全球共享的研究社区。另一方面，构建人工智能世界模型则需要建立在人类经验、社会习俗、专业技能的基础上，建议建立类似于自由协作式的知识库，通过全民民众参与，推动知识在全球层面共享。

　　中国科学院院士、清华大学人工智能研究院名誉院长、清华大学人工智能国际治理研究院学术委员张钹表示，由于深度学习等算法存在不可解释性，导致前两代人工智能算法存在着公平性、安全性问题和不可靠、不可信等缺陷。发展第三代人工智能关键在于发展可解释的、鲁棒的人工智能理论和方法，开发安全、可信、可靠、可扩展的人工智能技术，以“数据驱动+知识驱动”构建支持可解释的人工智能算法的深度学习平台，赋能人工智能安全与防御优化。从数据中真正获取智能要靠知识的帮助与引导，并需要政策法规对数据使用的正确规范，充分利用知识、数据、算法和算力四个要素结合，推动人工智能的创新发展。

　　中国工程院院士、北京大学信息科学技术学院院长、鹏城实验室主任、清华大学人工智能国际治理研究院学术委员高文认为，当前人工智能发展处于新一代人工智能向强人工智能发展的关键阶段，至2030年，中国人工智能发展总体要达到世界领先水平。从战略问题看，中美欧三方在人工智能人才、研究、开发、应用、硬件、数据等方面竞争激烈，当前中国人工智能发展在战略政策、数据资源、应用场景、潜力人才方面具有优势，而在基础理论、原创算法、关键部件、国际平台、高级人才等方面还存在短板。从战术问题看，人工智能2.0需采用基于大数据的统计AI解决大规模AI应用需求，鼓励各种可能的强人工智能探索，“可解释机器学习+推理”和“仿生系统+AI大算力”是可能的技术路线图；在安全问题层面，强人工智能的安全风险主要来源于模型的不可解释性、算法和硬件的不可靠性和自主意识的不可控性，人工智能2.0应采用DPI与“防水堡技术”解决数据安全与隐私保护，重视探索人工智能伦理问题，并基于“理论-技术研究-应用”的阶段性采取不同的风险防范策略。

　　美国国家工程院外籍院士、英国皇家工程院外籍院士、清华大学高等研究院双聘教授沈向洋表示，AI已经应用于生活和工作的方方面面，目前甚至在法律上也具有一定的应用，比如美国已经有很多法庭用机器学习和人工智能方法帮助判刑，包括决定刑期这样非常重要的问题。但是我们还无法理解一些AI决策的缘由。未来发展过程中我们不能只看见AI决策的“黑箱”，应该打开“黑箱”，探究和理解其中的具体内容和因果关系，我们一定要做可解释性的AI。同时，他提到负责任的AI应具备公平性、可靠性、隐私性、包容性、透明性和责任性的特点，作为新兴领域，还需要向其他领域学习，从而更好的服务于人类。

　　中国工程院外籍院士、清华大学智能产业研究院院长、人工智能国际治理研究院学术委员张亚勤指出，“碳中和”是人类能源结构的又一次变革。“碳中和”既是可持续发展的必然选择，又是产业结构调整和发展的重大机遇。企业在“碳中和”背景下都面临转型增效的压力。人工智能+物联网是智联网，智联网可以赋能绿色计算，助力“碳中和”。智联网助力“碳中和”主要包括三个环节：首先，由数据驱动和人工智能优化引擎来实现智能决策。其次，多参数全链系统配置优化。最后，通过多源多维异构感知融合实现智能感知。智联网可用于能源融合、降低ICT产业的碳排放和推动新兴产业发展等。他还介绍了智联网赋能的绿色计算平台的框架，该平台包括人工智能驱动节能减排和高能效人工智能系统，应用路径包括绿色园区和工业节能。

　　2021人工智能合作与治理国际论坛由清华大学主办，清华大学人工智能国际治理研究院承办，国际支持机构为联合国开发计划署。论坛为期两天，设有三场主论坛、一场特别论坛和七场专题论坛。“人工智能技术前沿与治理”主论坛由清华大学计算机科学与技术系教授、人工智能研究院常务副院长孙茂松主持。(完)

南大“三板斧”直指科研评价改革******

　　从率先引入SCI论文指标，到主动打破“SCI至上”——

　　南大“三板斧”直指科研评价改革

■新征程新作为

　　今年，南京大学天文与空间科学学院教师李川顺利晋升为教授。

　　作为“羲和号”卫星科学与应用系统的总设计师，从2015年起，李川便将主要精力投入卫星工程的论证和研发中，志在解决我国太阳物理研究严重依赖国外卫星数据的“卡脖子”问题。经过团队多年艰苦付出，2021年，“羲和号”发射成功，开启了我国空间探日的时代。正是由于在这项国家重大工程中的突出贡献，李川在今年的教授职称评审和答辩中获得了校内外评委一致认可，顺利晋升。

　　党的二十大报告提出，深化科技体制改革，深化科技评价改革。近年来，南大积极改革科研评价体系，坚持质量与贡献导向，取消了“数论文、数项目、数奖项”单一评价体系，重点评价学术贡献、社会贡献以及人才培养贡献，为科研创新注入源头活水。

　　优化考评体系，避免一把尺子量到底

　　20世纪80年代末，南大作出了一项至今还在影响我国高等教育界的决定：率先从国外引入SCI（科学引文索引）论文指标，作为当时教师职称评审、博士生学位授予的重要评价标准。

　　这项改革对于当时还较为封闭的国内高校来说，无疑是一颗“重磅炸弹”。“当时国内外学术水平差距较大，缺乏客观有效的科技评价体系，SCI论文指标凭借其透明、简单、客观等优势，迅速在国内得到广泛应用，对推动南大等国内高校科研成果走向国际舞台起到了积极作用。”南大科学技术处处长姜田表示。

　　20世纪90年代起，在国际学术期刊上发表的SCI论文数量等量化指标，成为中国考核评价学术成果的主要标准。然而，过度追求SCI论文数量的现象逐渐显现，科研工作出现了价值追求扭曲、学风浮夸浮躁和急功近利等问题。

　　打破“SCI至上”，避免一把尺子量到底，曾经的“吃螃蟹者”开启了改革的步伐，从2014年提出做问题导向的原创研究，到2018年提出构建“三位一体原创驱动式”科学研究新模式，一系列改革让南大科研评价的理念更加明晰：建立以科技创新质量、学术贡献为导向的评价体系，让科研人员在创新链条上走得更远。

　　如今，南大吹响了科研评价改革“先锋号”，正在实践以质量和贡献为要素，以论文、奖项、专利、专著、决策咨询报告、文献整理、学术译著、艺术创作等各类成果形式为支撑的综合评价体系。同时，全面考察人才在培养周期内的表现，包括师德师风、教育教学、科学研究、社会服务、专业发展等。

　　从事传感芯片相关研究的南大教师张丽敏就是“不唯论文和影响因子”评审机制的受益者。5年来，她专注于国家战略和民生需求引导的科研工作。尽管相关研究存在难度大、周期长、期刊影响因子低等问题，但这并未阻碍她晋升为教授。职称评审时，张丽敏重点介绍了研究工作的原创性和自主知识产权的完整性，展示了相关成果在非接触可穿戴设备、运动姿势识别等领域的应用与前景，获得评委认可，顺利晋升。

　　“对取得重大理论创新成果、前沿技术突破、解决重大工程技术难题、在经济社会事业发展中作出重大贡献的教师，申报高级职称时论文不作限制性要求，进一步倡导学术贡献、社会贡献。”中国科学院院士、南大校长吕建表示，创新服务是教师的第一贡献。学校紧紧围绕“双一流”建设总体目标，大力开发教师“第一资源”，突出质量贡献，着力下好科研评价改革“先手棋”。

　　为了进一步激发科研人员创新活力，2021年，南大完善科研创新激励办法，由过去简单的工分制变成主客观评价相结合的形式，不可量化的贡献有了体现方式。同时，纳入评价的成果形式更加多元，论文在量化评价环节中的权重明显降低。

　　落实分类评价，打通各类人才晋升通道

　　南大艺术学院教师陆庆龙擅长油画和水彩画，他的50多幅作品被中国美术馆、中国国家博物馆、江苏美术馆等机构收藏。

　　“作为美术专业，实践性与创作能力一直是这个专业应该具备的重要特质，但在综合类大学的职称评审体系中往往不受重视。”让陆庆龙欣慰的是，南大充分考虑到实践类专业特点，在职称评审中予以突破。

　　在评审述职中，陆庆龙没有简单地选择期刊学术文章进行介绍，而是重点展示了自己近年来的美术创作。他在业界高度认可的“全国美术作品展览”上分别获得了“中国美术奖”金、银、铜奖，这些优秀创作成果得到了专家评委一致认可，使他顺利晋升教授。

　　在南大，越来越多像陆庆龙这样的特殊人才被“破格”聘用。作为全国较早开展分类评价的高校之一，南大在人文、社科、数理等学科分类基础上，进一步打破同质化评价标准，围绕学科特殊性，有针对性地分类设置审查形式及要求，并深化推行代表作制度，建立更专业的“小同行”专家组进行评审，确保评审客观、公正和专业。

　　例如，在校内学科学术方向中较为小众冷僻或专业特色明显的语言、书画艺术等被列入“冷门绝学”评审组，增加“作品参加国家顶级展览”“被著名博物馆收藏”等定性指标描述；面向航空航天等国家需求的科研人员设立专用先进技术学科组，评价重点放在是否在专用先进技术领域获得较大学术影响或取得经济、社会效益。

　　南大电子科学与工程学院副教授陈乐长期从事航空航天领域相关工作，多次主持并参与航天部门重要科研项目，但由于科研项目的特殊性，成果难以成文。在过去的评价导向下，特殊科研项目一线研究人员在职称评审中往往竞争力不足，人才的“引、留、用”困境难以解决。

　　针对此类人才评价特殊性，南大积极“做减法”。教师的职称评审不再唯论文数量，转而关注人才的代表性成果，兼顾科研任务类型和国家与社会认可度。根据科研项目等级，构建合理、公平、透明的人事考核制度，同时配套相应的目标激励和政策激励制度等。

　　“分类评价体系让青年科研人员最大化享受政策红利，有更多的获得感和成就感，激励我们聚焦主责主业，能够轻装远行。”陈乐说。

　　据统计，在2019到2021年度专用先进技术学科组职称评审中，最终评定教授5人、副教授2人；在特殊岗位学科组评审中，2人获评教授。

　　“学校积极在不同学科、不同层次、不同阶段人才特点的精细化分类评价机制上积极探索。”南大人力资源处副处长孙涛表示，希望通过健全分类评价体系，破除思想桎梏，让更多青年科技人才心无旁骛地面向国家重大需求，潜心前沿基础研究，推动学校师资队伍建设高质量发展。

　　坚持发展性评价，尊重人才成长规律

　　“在我工作初期长时间没有高水平论文产出的情况下，学校充分肯定了实验室建设的进展。”今年，南大现代工程与应用科学学院教授聂越峰入选国家重大人才工程，成为学校A层次领军人才。回顾这些年科研历程，聂越峰认为，学校提供的良好科研条件和宽松学术环境，让他坚定信心瞄准颇具挑战的前沿基础问题展开研究。

　　自2015年来到南大后，聂越峰一直致力于建设具有国际领先水平的氧化物分子束外延与原位角分辨光电子能谱实验平台，到2018年首聘期考核时，他只发表了一篇论文。但学校对其工作状态和阶段性成果进行了综合评价，继续给予支持。2019年，他带领团队制备出世界上最薄的钙钛矿氧化物新型二维材料，并取得系列进展，相关成果两度发表于《自然》杂志。

　　聂越峰的经历并非个例。近年来，南大尊重人才成长规律，坚持将发展性评价思想贯穿于考核评价工作全过程，使人才评价激励机制从“指挥棒”升级为“推进器”、从“检测站”转型为“加油站”。学校邀请同行专家共同组成专家组，注重聘期进展，对于早期在搭建实验平台投入较多精力、建设进展较好、论文成果显示度不高的人才给予充分肯定。

　　对于处在不同发展阶段的人才，南大倡导不同的学术成果显示内容，重点评估发展潜力，对青年学者，注重学术活跃性的评价，鼓励他们立足科学前沿攀登科学高峰，逐步形成自身学术特色；对中青年学者，注重个人学术研究系统性的评价，鼓励他们建立和扩大自身学术影响力，着力组织科研团队主持承担国家级重大课题；对于学科带头人，注重评价其学术研究高度，鼓励他们提携培养青年人。

　　“对不同学科领域、不同发展层次的教师而言，科研产出的周期和方式均有所差异，坚持考核与跟踪相结合、评价与发展相一致是南大发展性评价的核心理念。”孙涛介绍，动态性与科学性相结合的评价方式，给“一顶帽子戴到底”的痼疾下了一剂猛药，避免了仰赖头衔、逆向“发展”现象的滋生，而在评价过程中贯彻“引育并举”原则，有力提升了师资队伍整体实力，增强了人才队伍的竞争力与活力。

　　科技立则民族立，科技强则国家强。当前，南大正广泛开展“全面贯彻二十大精神，加快建设‘第一个南大’”大讨论，充分借鉴师生真知灼见，为建设世界一流大学解放思想、集思广益、凝聚力量。中国科学院院士、南大党委书记谭铁牛表示，学校将全面落实习近平总书记建设“第一个南大”的重要指示和重要回信精神，着力发挥教育、科技、人才的基础性、战略性支撑作用，建设一流教学科研队伍，提供战略人才支撑，不断培养战略科学家，打造一流科技领军人才和创新团队，造就一流青年科技人才队伍，为实现中华民族伟大复兴作出新的更大贡献。（本报记者 焦以璇 通讯员 于玥晗）