我昨天其实打了一个长篇大论，但最后没有发，因为我也认为这个本质上更多的是业务问题而非技术问题。很多人已经点出了这一点，而许多反对的人也明白了这一点，却依然反对。换句话说分歧更多的是在价值判断上，我不认为这种讨论会有大的价值。。。


> 这里有个**很严肃的问题**，就是其实有一种潜在的攻击方式，是提供图片的组织本身想匹配图像 A，
> 然后合成出图像 B，后者看起来就是个普通的儿童色情图片。Again，人工审查可以兜底……

我没发的那个长篇大论中其实也想到了这个问题，就是针对神经网络本身的攻击，前几年我参加的 workshop 看到了对于物体识别的相当成功的攻击范例。在图片中加一些肉眼可忽略的噪音就可以产生错误的结果（同时模型还无比自信→_→）。 @minsheng 你所提及的人工审核兜底在 @anzu 的回复中已经给了一个例子『 Apple 收到扫描警报，但在检查过程中发现只是一些普通的儿童照片，询问相关机构，答复是：这名儿童正在遭受侵害，请提供该手机用户的信息。』更何况，『人工』这两个字本身就意味着不可靠。高考打分我们有双重、三重、再到阅卷组组长复核。苹果这个审核的流程，『人工』这一点上如何保证可信，我也希望看到它进行更多的披露。