在线客服
电话咨询
关注我们
立即体验

用法律呵护无人时代

2021-07-30 14:13:29

人工智能的发展历程,也是安全与风险并存得历程;这既是一个技术问题,又是一个安全问题,同时也涉及到伦理、法律、国际规则等相关问题。

 

 

算法、模型和数据构成了机器学习的三个基础。从算法构建的上下游产业链看,数据输入、数据分析、模型训练、模型决策、模型应用及模型改造等过程中都存在着相应的风险。


举例来说,在数据输入环节,如果攻击者控制数据源,攻击者就能对收集数据的设备进行安全攻击,最终会通过这个链影响算法模型。例如用超声波作用于陀螺仪,最终会使无人机坠落。或者在自动驾驶的模型研究阶段,如果车辆的视觉识别系统受到物理攻击的影响,那么最终就会影响到自动驾驶车辆对行人的判断。

 

当今,由于人工智能的广泛应用,有可能带来技术滥用了失控的危险。验证机制首当其冲。早在2017年,地下黑产品就开始通过机器学习进行二维码识别训练。数据显示,通过机器学习算法,80%以上的验证准确率可以实现在线注册,从而带来一系列安全问题。


对此我们要对三大系统建设数据安全防火墙。由于人脸识别技术依赖于对大量视觉图形数据的分析,因而数据安全就直接决定了人脸识别技术的现实应用。AI在安全防护领域的快速应用,是AI技术寻求落地进程最快、应用最早的训练领域。从数据的搜集-处理-传输的路径看,解决数据网络安全问题,需要完成物理---网络--应用端到端的物理隔离保护三项重要任务。

 

随着人类对于人工智能的研究不断深入,人工智能是什么的问题却尚未得到一个标准的答案。对于人工智能领域的出现的问题,人们的共识在逐渐加强,那就是要加强在这一领域的安全防护,包括法律的介入。