如果一个物体外形像海龟，体型像海龟，动作也像海龟，那么它可能真的是一只海龟。不过，被吹嘘的神乎其神的人工智能（AI）却将它认成了一把来福枪。
这出自麻省理工 Labsix 实验室研发人员的手笔，他们只是用了点小伎俩就耍了谷歌的物体识别 AI。本周，他们用一篇研究论文讲述了这件让人意外的趣事。
这个团队成立就是为了打造“对抗图像”，它是一种专门创造出来戏耍 AI 的图片，一般来说 AI 会将这些图片中的物体识别成完全不同的东西。举例来说，一张大花猫的图片居然被 AI 认成了一碗牛油果酱。
团队成员会在图片中仔细添加一些视觉噪声，这样一来 AI 在识别时用到的记号就会被搅乱，因而会做出完全错误的片段。不过，在人眼看来，这些图片可没什么特别。
其实这种“对抗图像”的诞生就是为了提醒我们，AI 可能也会被黑。不过，初级的对抗图像很容易被反制，只需要旋转下图片、打乱图像的色彩平衡或者对其进行裁剪，AI 就能重新变聪明。
当然，麻省理工的团队并没有困在传统的 2D 世界，它们为了欺骗 AI 直接弄了个 3D 打印的海龟。虽然在人眼看来这是个不折不扣的海龟，但谷歌的 AI 却斩钉截铁的说它是一把来福枪。
研究人员还做了个 3D 打印的棒球，虽然偶尔 AI 也能猜对，但大多数时候它认为这是浓缩咖啡。
在研究人员看来，随着机器视觉在现实生活中逐步普及，肯定会有黑客通过这一漏洞发动攻击。如果监控运用了 AI 技术而一只海龟出现在画面中，可能就会引发错误的警报。
不过，这种欺骗 AI 的方法不是万能的。专家表示，能骗过谷歌 AI 的却骗不了 Facebook 和亚马逊的物体识别 AI，但他们也警告称，未来可能会有通用型的 AI 欺骗应用。
AI 公司们也不甘示弱，它们开始发动反击。包括谷歌和 Facebook 在内的科技公司已经发布了新的研究报告，称它们也在研发类似技术，并试图找到保护自家系统的新方法。
相关文章
