据新华社福州12月16日报道,腾讯安全平台部Blade团队对外发布消息称,该团队在对谷歌人工智能学习系统TensorFlow进行代码审计时,发现该系统存在重大安全漏洞,利用该系统进行编辑的AI场景,有遭受恶意攻击的可能。

据腾讯安全平台部负责人杨勇介绍,TensorFlow是目前谷歌免费开放给AI设计者的编程平台,程序员可以在该平台上进行AI组件的设计工作。

 

杨勇表示,当含有安全风险的代码被编辑进诸如面部识别或机器人学习的AI使用场景中,攻击者就可以利用该漏洞完全接管系统权限,窃取设计者的设计模型,侵犯使用者隐私,甚至对用户造成更大伤害。

特别是TensorFlow是目前应用比较广泛的机器学习框架之一,已被运用在诸多AI场景中,如语音识别、自然语言理解、计算机视觉、广告、无人驾驶等,谷歌、ebay、airbnb、twitter、uber、小米、中兴等公司均有使用。

此前,AI已有不少实际应用案例,例如深圳试运行的无人驾驶公交、国际会议的AI同声传译;未来更会渗透到社会的方方面面:交通、医疗、安防、金融……

 

在不远的未来,AI安全会直接影响人们的生命财产安全,甚至整个世界的秩序。如电影《复仇者联盟:奥创世纪》那样,终极人工智能奥创为人们的生活提供了无数便利,但当他站到人类的对立面时,也会带来无数灾难甚至毁灭。

对此,一些业内专家也表达了担忧。上海信息安全行业协会专委会副主任张威认为,当前从事人工智能开发的企业几乎无一例外地将算法和数据相融合,一些数据可能涉及企业和用户的核心秘密,一旦出现安全漏洞,风险较高。

据悉,腾讯安全平台部安全预研团队已就此次发现的安全风险向谷歌提交报告,协助风险早日收敛。

(下载iPhone或Android应用“经理人分享”,一个只为职业精英人群提供优质知识服务的分享平台。不做单纯的资讯推送,致力于成为你的私人智库。)