误将“洋葱”当“色情”，Facebook的AI技术翻车了
文章插图
不久前 ， 加拿大的一家园艺中心在Facebook上被迫撤下了关于洋葱的广告 。 而Facebook表示 ， 该广告被撤下的原因是 ， 它违反了“带有明显性内容”的规定 。 大概两天后 ， 加拿大Facebook通信主管表示 ， 该广告已恢复发布 ， 最初是被该平台的自动审核系统删除的 。
“我们使用AI技术来防止图片或广告中出现裸体镜头 。 但有时候它可能不知道什么是洋葱 ， 什么是色情 。 ”Facebook这样回复到 。 Facebook的人工智能很难区分人体性感图片和一些球形的蔬菜 。
文章插图
被误删的洋葱广告
?这已经不是Facebook的自动系统第一次过于热心地删除内容 ， 而这些内容后来又被管理员重新恢复 。 2018年 ， 它的系统删除了一个包含《独立宣言》摘录的帖子 ， 因为它将该帖子标记为含有仇恨言论 。
【误将“洋葱”当“色情”，Facebook的AI技术翻车了】由此可见 ， 人类对于人工智能的利用其实还是存在相当大的风险 ， 一个错误的程序识别仅仅只是众多潜在风险的冰山一角 。 人类不可能100%的控制机器 ， 未来在万物互联的情况下 ， 每个集装箱、每辆卡车 ， 甚至城市里的每个井盖都实现互联 ， 到那时这个世界又将衍生出多少怪谈呢！
推荐阅读
- 洋葱学院杨临风：人机互动课，K12在线教育的另一种路径
- 全球最大色情网站要凉了？因为一篇文章，216万网民请愿关闭
- 给我的索尼A6400换上洋葱工厂荔枝L板
- 网络安全|避开官方应用审核，赌博色情APP上演变“装”