WWW005DDCOM【官网入口】WWW005DDCOM_【北票社区新闻网】

许昌市 2020-09-22 11:18:53 28218

原标题:中国工程院院士方滨兴:内生安全问题可能成为人工智能“死穴”

  从自动驾驶到智能家居,近两年,人工智能技术和应用发展迅速,科幻电影中曾经描绘的“人机共存”时代,似乎离人类越来越近。然而,人工智能足够安全吗?4月20日,在2019西湖论剑·网络安全大会上,中国工程院院士倪光南、邬江兴、方滨兴和杨小牛,表达了他们对人工智能潜在风险的思考和隐忧。

中国工程院院士共话网络安全。

25年前的今年,中国全功能接入国际互联网,就此拉开中国互联网的发展序幕,全社会的经济、文化、生活方式迎来深刻变革。

中国工程院院士邬江兴仍然记得当年的场景。他说,大家感到“欢新鼓舞”,各行各业都在倡导“互联网+”。但在发展伊始,网络安全问题没有得到足够重视,导致了现在的很多遗留问题。

2014年,中共中央总书记习近平在中央网络安全和信息化领导小组第一次会议上强调,网络安全和信息化是一体之两翼、驱动之双轮,必须统一谋划、统一部署、统一推进、统一实施。做好网络安全和信息化工作,要处理好安全和发展的关系,做到协调一致、齐头并进,以安全保发展、以发展促安全,努力建久安之势、成长治之业。

邬江兴深以为然。但他也坦言,同步安全和发展,对于全人类而言都是挑战。如今,人工智能应用正像互联网一样进入日常生活,各行各业须及早考虑人工智能的安全问题,否则就会重走当年的老路。“不管是什么问题都会有副作用,必须在发展的初期来解决。”他说。

中国工程院院士杨小牛,也有类似担忧:“人工智能会不会又像互联网一样,刚开始不考虑它自身的安全,最后发现存在各种各样的问题,面临相当大的风险?”他认为,将来,如何让算法更加安全、可靠,是一个突出问题。

中国工程院院士方滨兴提出,人工智能的内生安全问题,可能成为其“死穴”。例如,一个被贴上几张小广告的停车标志牌,人看到标志牌会觉得毫无差别,但算法识别就会出现错误。

方滨兴介绍,这样的错误,与人工智能的内生原理有关。人工智能靠大量的数据和神经网络学习,人能够看到人工智能的处理结果,但神经网络中还有很多人看不到的隐含层。因此,几个小广告,甚至是像素点的改变,都会导致人工智能处理错误。

“现在要关注网络安全的新挑战”,中国工程院院士倪光南说,新技术带来了许多传统安全领域没有的新问题、新现象,必须予以重视。以自动驾驶汽车为例,如果黑客通过网络攻击获得了控制权,自动驾驶汽车就会变得非常危险。

采写:南都记者冯群星 蒋琳

作者:冯群星 蒋琳

本文地址:http://www.tfyyol.cn/?tag=WWW.838079.COM
版权声明:

WWW55224066COM WWWXL61653COM WWW91597ACOM WWW643481COM WWW4625-DCOM WWWPJ8607COM WWW11C29COM WWW894868COM WWWZUN370COM WWW85511DCOM WWWBET3171COM WWW89789GCOM WWWHG6676CO WWW6492COM WWW6650008COM WWW1597550COM WWW509536COM WWW255798COM WWW1429OOOCOM WWW650324COM WWW5557906COM WWW547445COM WWW17198ZCOM WWWZCW57COM WWW5151006COM WWW79575COM WWWBET278CC WWW4111097COM WWW733807COM WWW3598037COM WWW818320COM WWW4138018COM WWWTLC28COM WWW1443CCOM WWW708155COM WWWHG0736COM WWWTYCKKKCOM WWW466946COM

本文仅代表作者观点,不代表本站立场。
本文系作者授权发表,未经许可,不得转载。

WWW005DDCOM全站热门

天天喊着要创新,这些餐饮老板告诉你,这样做才有效

笑星和他的朋友们:无所不包的科普动画,寓教于乐的百科全书

全世界最接近仙界的地点,来到这里就不想走,假期千万别来

一线教师:学校都成“高考工厂”,教育算是遭灾了?

此牛人平定一地后建一王国,千年后王宫遗址被发现,墓中谜团待解

网易新闻频道首页改版意见反馈

雅居乐进军武汉背后:长凯及股东实控人双陷诉讼纠纷

刘强东性侵案起诉书中文版全文曝光 其被控6项罪名

友情链接