算法似乎并没有为民主的真实、平衡或健康而优化。

前 Google 工程师 Guillaume Chaslot

YouTube 该如何加强对不良内容的管控已经不是新话题了，但与之相关的新事件和新争议从未停止。

2 月 17 日，YouTube 用户 Matt Watson 上传了一条视频，并在 Reddit 论坛上发帖，称他在 YouTube 的推荐算法中发现了“虫洞”（wormhole），可以轻易将人引导至一个隐晦的恋童癖圈子。视频中，他演示了如何通过搜索“bikini haul”（比基尼购物分享），就能很快找到一些展示出恋童倾向或将儿童物化的评论。视频主题本身与性无关，多是女童对着镜头说话、练习体操或玩玩具的画面；问题在于评论，最多可达数百条，包括标记某些画面的时间点、分享相关视频链接或互换联系方式等。根据 Matt Watson 的演示，只要浏览者点击了一条此类链接，就会不断收到相似内容的推送。

截至发稿，Matt Watson 的视频播放量已经超过 295 万次，Reddit 相关主题讨论量则超过 18.1 万条。

Wired 及 The Verge 等媒体于 2 月 20 日对此事进行了报道。YouTube 随后于次日删除了 400 多个账号以及上万条评论。

“任何将未成年人置于险地的内容（包括评论）都是可恶的，我们有明文禁止此类内容在 YouTube 上的传播。”该平台发言人在当日发布的一则声明中说，“我们立刻删除了相关账号及频道，向责任部门举报了违法活动，并且禁用了上万条评论。要做的还有很多，我们会继续改善平台以便尽早发现这类行为。”

但广告主对此并不买账。2 月 22 日，迪士尼、雀巢、AT&T、游戏公司 Epic Games 等均宣布停止向 YouTube 投放广告。

数字广告对于 YouTube 母公司 Google 而言是重要收入来源。尽管它未披露 YouTube 的广告收入，但 eMarketer 的数据显示，今年美国数字广告市场规模预计达 1293.4 亿美元，其中 Google 约占 37%，与 2018 年的 38% 相比稍有下滑。

类似状况 2017 年 11 月就发生过一次。当时 BBC 及《泰晤士报》调查发现 YouTube 上的儿童视频下有大量不当评论，威士忌品牌 Johnnie Walker、玛氏、奥利奥母公司亿滋等均宣布停止投放广告。

YouTube 当时推出了多项应对措施，这包括建立一支约有 1 万人的内容审查员团队，筛查被举报的视频及评论，并且关停违规评论等。此外，它设立了 1 万浏览量的门槛，至有达到这个指标的内容创作者才能获取 YouTube Partner Program 的广告分成。

就在上个月，YouTube 还表示将减少对于“擦边球内容”（borderline content）以及“可能以不实信息损害用户利益”的内容的推荐，比如介绍“包治百病的祖传配方”、说“地球是平的”或者“有悖历史事实的描述”。

尽管这些措施已经推行了一段时间，但成效却低于预期。比如，虽然可以禁用评论，但相关视频仍会出现在算法的推荐列表里。算法仍然会通过几次点击就总结出一些关键词——你输入“girl”、“yoga”，就会自动匹配关键词“young”、“hot”。

一位 YouTube 发言人在接受 TechCrunch 采访时承认，对于 AI 系统而言如何判定内容性质仍然是个难题，而人工审查在全平台每分钟 400 小时的上传内容面前也显得有些无力。一份由美国视频广告署（Video Advertising Bureau）发布的新报告“Risky Business: Exploring Brand Safety”也指出，YouTube 的体量使其难以有效管理所有上传内容，“由于缺乏透明性以及顶尖意见领袖的创意权威，不当内容的威胁甚至也存在于优质内容中”。

题图来自 billboard.com

我们做了一个壁纸应用，给你的手机加点好奇心。去 App 商店搜 好奇怪 下载吧。