隐藏按钮
慧科企业邦服务联系电话
慧科企业邦服务市场部二维码

人工智能的安全问题

2022年1月5日 11:27

人工智能(AI)变得更加方便,并且已经证明了其在很多领域应用都非常广泛,包括医疗保健、教育、零售、制造还有网络安全。但是我们在发展人工智能的同时,我们也要关注一个重要的问题:AI本身的安全能否被保证?



据美国的一些新闻报道,一些黑客声称入侵了初创公司,该公司很多个监控摄像头的视频被盗取。电动汽车公司特斯拉、软件供应商等一些大型公司也都被入侵,视频惨遭曝光。黑客号称已入侵特斯拉公司的333个摄像头。


深蓝科技是2016年成立的,这家公司的主要业务是卖摄像头,客户可以通过互联网对自己的摄像头进行访问和管理。这些摄像头不只是能录制视频,还能利用先进的人工智能视觉技术,分辨出视频中的物体,并对其进行检测和人脸识别。


有些公司为了保障本公司员工的安全,把摄像头安装在比较敏感的地方,他们可能没有想到这些视频,除了被自己的人员查看外,摄像头厂商也可以查看这些视频,他们就会用这些视频牟利。在人工智能的蓬勃发展的同时一些问题也随之产生,人工智能技术,质疑便会指向安全方面。例如在去年7月,在美国一家拥有超过30亿人脸数据的大公司也被黑客攻击,导致所有的客户都受到损失。


   据一些研究人员发现他们曾经被黑客入侵过,他们最先进的人工智能系统可以被简单工具所欺骗,让其眼见不一定为实。这是一个由诸多公司联合建立的人工智能非营利组织。


   这家公司的研究人员将这些缺点称为排版攻击:这类攻击可以欺骗商业机器人工智能系统的对抗性图像,制作起来简单得多。