《卫报》引用 ReadMe CEO Gregory Koberger 的说法称,有不少科技公司会用人类来假扮机器人,因为开发一个人工智能的项目太难了,相比之下反而用人类来做这些事会更容易。
“使用人来完成一些工作可以让你跳过大量的技术开发环节。虽然人类不能像人工智能那样形成规模化生产,但他们可以帮助你在早期跳过最困难的部分。”Gregory Koberger 说,这种情况并不少见,他自己都见过不少“假 AI”了。
以本月初的 Google 邮件泄露丑闻为例,《华尔街日报》称,为了优化自己的服务体验,一些基于 Gmail 的第三方邮件 App 允许自己的员工阅读用户的邮件。除了侵犯用户隐私的问题外,这里面还有另外一个问题——为什么阅读邮件的是人类而不是人工智能?
涉事公司之一,eDataSource 的前任 CTO Thede Loder 表示,让员工阅读用户电子邮件已成为此类数据公司的“常见操作”。但是他解释说,这么做是为了改进软件算法,训练人工智能系统,所以工程师们只是“偶尔查看用户的电子邮件”。
存在类似做法的公司还有 Return Path 和 Edison Software 等,他们的解释与 eDataSource 相近,即人类阅读信息只是为了训练和改进人工智能,他们并不把这种做法看作“假扮人工智能”,但是没有任何一家公司的隐私政策中有提到会有人类查看用户的电子邮件。
类似的公司还有投入了巨额科研资金的 Facebook,他们曾表示需要人类来辅助他们的人工智能助手,形成了一个人工智能辅助用户,工程师辅助人工智能的怪圈——当然这只是在早期,他们的机器人学会深度学习之前。
而且显然并不是所有人类都只是在“辅助人工智能”,有一些确实是“做了本该由人工智能来做的工作”。
2008 年,一家致力于将语音邮件转换为短信的公司 Spinvox,被指控利用人工而非机器来完成工作。2016 年,彭博社报道称,创业公司 X.ai 推出的“人工智能个人助理” Amy 可以帮助用户完成安排会议和发送电子邮件等简单任务,但其实 Amy 的背后真的有一支不眠不休的人工团队。类似的公司还有推出了聊天机器人的 Clara 等。
受访员工表示,自己需要每天工作 12 个小时,假扮机器人来做一些单调乏味的工作。
2017 年,推出了商业费用管理 App 的公司 Expensify 承认,它一直使用人工来处理一部分它对外声称用“智能扫描技术”(smartscan technology)来完成的收据转录工作。事实上他们是将用户上传的收据扫描,然后把照片被发布到亚马逊的 Mechanical Turk 众包劳动工具上,最后由上面的低薪工作者们手动浏览和抄录完成。
科技公司为什么要这样做?当然首先是为了装作行业翘楚以博得关注度和投资。“这是他们不会告诉投资者的小秘密。”《卫报》称。
Readmeio 创始人 Gregory Koberger 曾经发 Twitter 开过一个小玩笑:如何创办一家 AI 公司?1.雇一群低薪人类假扮想要假扮人类的机器人;2.等待 AI 被开发出来。
除了这种比较功利的动机外,还有一种原因,是心理学家发现当用户以为自己面对的是一台机器人时,会更容易放下戒备。当涉及敏感话题时,这种性状表现得更加明显。
来自南加州大学的一个团队用一位名叫艾莉(Ellie)的虚拟心理治疗师进行了测试。他们发现,当退伍军人知道艾莉是一个人工智能系统而不是有人在背后操纵机器时,他们更容易表露自己的症状。
这种情形不仅仅存在于医疗问诊中,它几乎体现在人机关系的方方面面。比如说,当被告知读取你邮件内容的只是机器人时,人们的抵触情绪明显会比得知工程师偷窥自己邮件时轻得多。和小冰等聊天机器人聊天时,人们也更容易说出平常不太能说出口的话。
“但是这就是欺骗。不欺骗别人应该是一个道德准则。”心理学家、Woebot(一种专注于心理健康辅导的聊天机器人)创始人艾莉森·达西(Alison Darcy)说。“这简直是巫师般的操作。”
题图/蔡明在 1996 年春节联欢晚会上饰演机器人
我们做了一个壁纸应用,给你的手机加点好奇心。去 App 商店搜 好奇怪 下载吧。