江苏龙网

  1. 首页 > 人文 > >

雷科技普通图片一秒变黄图，这种技术太骚了( 二 )


雷科技普通图片一秒变黄图，这种技术太骚了
本文插图
反正只需要修改一小部分权重较高的像素就能做到欺骗AI ， 还是挺强大的 。
这种欺骗AI的技术有点像心理博弈 ， 开发者知道AI处理图像时必会先压缩图像 ， 所以就提前在大图中插入小图 。
接下来坐等AI踩坑 ， 成功骗过AI ， 实现人生目标 ， 走向幸福人生......
啊不对 ， 扯远了 。
可能大家会觉得 ， AI被骗了关我什么事 。
雷科技普通图片一秒变黄图，这种技术太骚了
本文插图
千万别这么想哈 ， 骗过AI的后果和危害远比我们想象的严重 。
欺骗AI的后果是什么？ 通过「图像缩放攻击」欺骗AI ， 可不是一件值得高兴的事儿 。
举个最常见的例子叭 ， 在AI出现前 ， 对于搜索引擎出现的黄暴污图片或视频 ， 全靠人工审核过滤 。
审核小哥每天都得高强度审核那种看了让人心理不适的内容 ， 身心疲惫 。
雷科技普通图片一秒变黄图，这种技术太骚了
本文插图
自从有了AI审核 ， 不仅解放了大部分人力 ， 识别率和效率也高得很 ， 解决了不少黄暴污图片视频泛滥的问题 。
但现在「图像缩放攻击」的出现 ， 就像是一个灭霸站在AI审核面前 。
有些图片一眼看上去就知道是黄图 。
但经过「图像缩放攻击」处理后 ， AI会把黄图先压缩 ， 压缩后的图像变成一个哈士奇 ， 导致无法过滤......
雷科技普通图片一秒变黄图，这种技术太骚了
本文插图
再拿自动驾驶这方面来说 ， 自动驾驶AI又不是天生就能识别各种路标 ， 而是经过大量道路和路标图像训练学习而来的 。
如果有人用这个技术 ， 恶意把「停车」路标修改 ， AI把「停车」路标误认为「可通行」 ， 会发生啥后果......
轻则交警到场 ， 联系保险赔偿；重则出人命 ， 毁掉一个家庭 。
雷科技普通图片一秒变黄图，这种技术太骚了
本文插图
最后 这项技术让小雷想起以前贴吧也有一种图片玩法 ， 幻影坦克 。
缩略图是一张正常的图片 ， 但打开查看原图后 ， 居然是另一张图 。
过分一点的网友 ， 直接在帖子中放一张伪装过的黄图 ， 当你在人多的地方一打开 ， 直接社会性死亡......
雷科技普通图片一秒变黄图，这种技术太骚了
本文插图
现代网友的PS技术已经到了炉火纯青的地步 ， P图毫无违和感 。
所以还用“眼见为实”来看待图片或视频早就不现实啦 。
不过以上这些玩法大部分适用于娱乐或美化 ， 而「图像缩放攻击」的危害就大得离谱了 ， 甚至关乎人命 。
当然啦 ， 这项技术并不是没有对付的方法 ， 论文提到的中值过滤器法对「图像缩放攻击」有很好的防御作用 。
雷科技普通图片一秒变黄图，这种技术太骚了
本文插图
AI都是科技发展很重要的一部分 ， 但这玩意同样是个双刃剑 。
无论如何 ， 监管还是要到位 ， 要是以后出现更夸张的图片攻击技术 ， 导致全网都是黄图的场面 ， 实在不敢想......
本文为***作者原创 ， 未经授权不得转载


推荐阅读


上一篇：中年这35款App可能正在违规收集你的个人信息！

下一篇：潇湘大视野|曾穿越喜马拉雅获铁三冠军，61岁英国驻重庆总领事救落水女孩