阿基里斯的机器视觉之踵

时间:2019-01-31 21:26:54 来源:敖汉旗门户网 作者:匿名
  

“在某些方面,机器视觉优于人类视觉。但是现在研究人员发现了一种“对抗性形象”,可以轻易地“愚弄”机器视觉。“——来自arXiv的新兴技术。

现代科学最伟大的进步之一是机器视觉的兴起。近年来,新一代机器学习技术改变了计算机“看到”世界的方式。

机器现在在人脸识别和物品识别方面超越了人类,并将改变无数基于视觉的任务,如驾驶,安全监控等。机器视觉现在是超人。

但有一个问题。机器视觉研究人员已经注意到,这项新技术存在一些令人担忧的弱点。事实上,机器视觉算法有一个致命的脚跟,允许它们被一些人类非常明显的扰动图像所取笑。

这些修改后的图像被称为“对抗图像并成为一种重要的威胁。”在人脸识别领域,一个对抗性的例子可能包含在脸上的非常微妙的标记,因此人们将正确识别图像中的图像。身份和机器学习系统将其视为不同的人。 “Alexey Kurakin,Google Brain的Samy Bengio和非营利性OpenAI的Ian Goodfellow说道。”

在他们的论文中,他们说这种对抗性攻击会影响完全在计算机上运行的系统,例如逃避垃圾邮件过滤器或病毒软件监视器,以及在物理世界中运行的系统,例如通过摄像头等。传感器可以感知世界上的机器人,视频监控系统以及用于图像和声音分类的移动应用程序。

因为机器视觉仍然很新,我们对对抗性图像知之甚少。没有人知道如何最好地创建它们,如何使用它们来欺骗机器视觉系统,或者如何防止这种攻击。

现在,库拉金及其同事的研究已经开始改变现状,他们系统地进行了第一次对抗形象。他们的研究表明,在这种攻击下,机器视觉系统是多么脆弱。该团队开始使用名为ImageNet的机器视觉研究标准数据库。该数据库的图像根据显示的内容进行排序。标准测试是基于数据库的一部分训练机器视觉算法,然后使用数据库的另一部分来测试算法是否可以很好地分类。

测量性能通过统计算法中的最高五个答案来测量,甚至是最高答案中的正确分类的频率(称为前五个准确度和先前的准确度),或者前五个或一个答案不是正确的频率(前五个错误率或以前的错误率)。

最好的机器视觉系统之一是Google的Inception v3算法,前五个错误率为3.46%。人类执行相同任务的前五个错误率约为5%,因此Inception v3确实具有超人的能力。

Kurakin及其同事以三种不同的方式修改了50,000张ImageNet图像,以创建一个对抗图像数据库。他们的方法基于神经网络处理信息以将图像与特定类别匹配的概念。此过程所需的信息量称为交叉熵,这反映了匹配任务的难度。

他们的第一个算法对图像进行了小的改动,试图使这个交叉熵最大化。他们的第二个算法简单地遍历整个过程并进一步改变图像。

这两种算法都会改变图像,使其更难以正确分类。 “这些方法可能会导致一些无聊的错误分类,例如将雪橇犬误认为另一只雪橇犬。”

他们的最终算法有一个更聪明的方法。对图像的这种改变导致机器视觉系统具有特定的分类错误并且更可能是最不可能的类别。 “最不可能的分类通常与正确的分类非常不同,因此这种方法可能导致更有趣的错误,例如错误地将狗视为飞机,”Kurakin及其同事说。

然后他们测试了Google Inception v3算法是否可以很好地分类50,000个对抗图像。这两个简单的算法大大降低了前五和以前的准确性。但是他们最强大的算法——,最不可能的分类,——,迅速将所有50,000个图像的准确度降低到零。 (该团队没有透露该算法是否成功指导错误分类。)

这意味着对抗性图像是一个重要的威胁,但这种方法也存在潜在的弱点。所有对抗图像都直接输入机器视觉系统。

但在现实世界中,相机系统总是会改变图像。如果该过程中和其效果,则拮抗图像算法是无用的。因此,了解算法如何响应现实世界的变化非常重要。

为了测试,Kurakin及其同事打印了所有对抗图像和原始图像,并使用Nexus 5智能手机手动拍照。然后将这些转化的拮抗剂图像导入机器视觉系统。

Kurakin及其同事表示,最不可能的类别方法受这些转变的影响最大,但其他方法也是可以接受的。换句话说,对抗性图像算法确实是现实世界中的威胁。 “使用原始网络制作的大部分对抗图像都被错误分类,即使分类器是通过相机输入的,”该团队说。

这项研究非常有趣,并对机器视觉的致命弱点有了新的认识。未来还有很多研究要做。 Kurakin及其同事希望为其他类型的视觉系统开发对抗图像,以提高其效率。

这将导致计算机安全领域的讨论。机器视觉系统现在比人类更容易识别,因此我们考虑在更多领域使用该技术,从解锁智能手机和家庭,到护照控制和银行账户的身份信息,这是很自然的。但Kurakin及其同事提出了轻易“愚弄”这些系统的可能性。

近年来,我们经常听到机器视觉系统有多好。现在,我们发现他们仍然有一个愚蠢的阿喀琉斯之踵。

环球网