当前位置:首页 >铂金 >

西安交大沈超:可信AI实战竞技节目引领科技风气,需被更多看见

来源:中国网科技   2022-06-23 16:22:23

(作者系西安交通大学教授、网络空间安全学院副院长)

AI作为一项伟大的技术发明,被广泛应用到各行各业。近年来随着AI技术的规模化产业落地,逐渐暴露出越来越多的诸如“算法安全”、“隐私泄露”、“数据歧视”等问题,将AI指向了“不被信任”的困境。

可信被认为是下一代人工智能的基础。工业界2015年起在一些业务场景中采用AI安全技术,来保护用户隐私;微软、谷歌、IBM等科技巨头纷纷重投可信AI,设立相关部门或项目,开始为AI“刹车”。2017年,中国科学家何积丰首次在国内提出可信AI的概念;2021年,蚂蚁集团首度公开了包含数据隐私保护、公平性、鲁棒性(Robustness)、可解释性的“可信AI”架构体系;2021年10月,华人计算机科学家,ACM、IEEE 双Fellow周以真发表了《可信人工智能》一文,详细溯源了可信AI的发展脉络和技术内核。可信AI逐渐形成了“公平性、可解释性、鲁棒性、隐私保护”四大主要特征,成为全球科技公司和学术界追逐的技术领域。

而对于可信AI技术人才的培养,也逐渐成为高校教育的重点。西安交通大学与蚂蚁集团合作,开设了国内第一门以“可信AI理论及应用实践”为核心内容的产学合作课程——《对抗性机器学习与人工智能安全》。由西安交通大学教授与蚂蚁集团技术专家共同讲授,围绕“数据隐私保护”、“鲁棒性(Robustness)”、“可解释性与因果分析”、“公平性”四个部分进行设计,涵盖了可信AI领域中的重要技术理论以及应用实践。

最近,国内一档ATEC科技精英挑战赛《燃烧吧!天才程序员2·可信AI》更是将可信AI推向更纵深的产学研结合,在青年人中掀起了一股科技风潮。比赛中以可信AI在反诈实践中的应用,考察了青年技术人们对可信AI鲁棒性和隐私保护的技术应用能力,将技术积累转向实战化,为高新技术人才打造了一些通向产业的通道。

当然,一档技术节目并不能反映实际业务中的全貌和复杂度,它的实际意义在于,在比赛过程之中,让青年科技人更加融入到产学研的体制中,产生产学研结合的意识。这些“素人”青年技术人展现出来的科技求真的精神,也是引导青年关注科技风尚的重要渠道。

用技术的力量让AI变得更安全,让可信AI走向普惠,很长一段时间都会面临着政策法规、技术演进、标准建设、产学研结合、社会认知的挑战,需要技术人、学者、政策研究者们的共同努力。但不可否认的是,今天的青年技术人,是未来的重要技术力量,为他们提供更多元化的技术理解、走向实践的通道,也是一件难而正确的事,值得被更多人看见。

相关文章

猜你喜欢

TOP