明升体育网址:为什么人工智能目视识别技术下的目标检测模型如此脆弱

“除了自身紧急制动功能的问题外，具有行人检测功能的汽车还存在无法及时准确检测小型目标人体等问题。”例如，柯小说，美国汽车协会评论了许多具有行人检测功能的品牌。车辆经过测试，测试中使用的受影响目标包括成人和儿童假人。当一个孩子出现在车前，或者车速达到每小时48公里时，一个标记有一定的可能性检测到行人，另外三个标记在这两种情况下都不能检测到行人。

为什么人工智能目视识别技术下的目标检测模型如此脆弱?“在人类看来，轻微的图像干扰不会影响最终的判断，但人工智能模型不会。”例如，柯笑说，相关实验表明

测试一个有效的图像检测和识别分类器并不能像人类那样学习和理解目标图像的真实底层信息，而只是在学习样本上构建一个有效的自动学习模型。

据了解，现有的人工智能视觉识别技术通常使用深层神经元网络，本质上是对特征的深入映射。它只学习数据的统计特征或数据之间的相关性。这取决于数据的数量和数据本身的丰富性。数据越多，它就越丰富，机器学习到的识别目标对象的功能就越具有判别性，它就越能反映关联关系。

王金桥说，但现实情况是，数据往往非常有限，这使得神经元网络学习的模型更加有限。很难使神经元网络模型“知情”，这反映在它对以前从未见过的数据的性能上。不满意。另一方面，一旦攻击者知道或破译了特征的统计分布和关联关系，就有可能以一种有针对性的方式修改输入样本，从而修改模型的输出，从而达到攻击的目的。

穿一件特殊的t恤来达到所谓的“隐形”效果，实际上是在混淆人工智能的视觉系统。人工智能目标检测技术的这一缺陷是否会导致安全问题?