沃顿洞察:剑桥分析公司和Facebook数据泄露丑闻何以成为社交媒体发展的分水岭

cambridge-analytica

社交媒体公司如何保护用户个人数据隐私?这些数据的分析如何影响选民偏好和投票率?三月中旬开始,公众对这些问题的担忧严重加深。担忧的起因是英国《观察家》报暴露了在伦敦和纽约设有办事处的数据分析公司——剑桥分析的行径。该公司能够未经授权访问5000万份Facebook个人资料,通过有针对性地影响选民协助了唐纳德·特朗普赢得2016年美国总统大选。

因此,Facebook面临最严峻的隐私保护考验,创始人兼首席执行官马克·扎克伯格(Mark Zuckerberg)被英国议员传唤(summoned by MPs in the U.K.),也面临美国国会和来自印度(India)的类似传唤,因为有消息显示剑桥分析公司曾试图影响2016年英国脱欧公投和印度、尼日利亚以及其他国家的选举。

美国特别顾问罗伯特·穆勒(Robert Mueller)已经在调查俄罗斯是否涉嫌干预2016年美国总统大选,以及关注剑桥分析公司与特朗普竞选团队的关系。值得注意的是,美国亿万富翁和保守党筹款人罗伯特·默瑟(Robert Mercer)以1500万美元的投资协助创建了剑桥 分析公司,并聘请了前特朗普顾问史蒂夫·班农(Steve Bannon),班农后来从该公司离职。该公司最初试图将选民引向总统候选人特德·克鲁兹(Ted Cruz),在他退出竞选后重新将重点转向帮助特朗普竞选。

为深入了解剑桥分析丑闻导致的后果,沃顿知识在线采访了沃顿营销学教授罗恩·伯曼(Ron Berman)和基甸·内弗(Gideon Nave)、马里兰大学社交智能实验室主任和信息研究教授詹妮弗·戈尔贝克(Jennifer Golbeck)以及麻省理工学院斯隆商学院管理学教授司南·艾瑞尔(Sinan Aral)。戈尔贝克和艾瑞尔做客天狼星广播公司111频道沃顿知识在线节目,分享了他们对这个问题的看法。

艾瑞尔说,“我们正在经历社交媒体发展的分水岭,人们现在开始意识到社交媒体不仅仅是一个有趣的玩物或是讨厌的东西。它可能会对社会产生实际影响。”

伯曼认为,剑桥分析丑闻显示了消费者对自身数据可能被利用的用途知之甚少。他回忆了电影《少数派报告》的一个镜头,汤姆·克鲁斯进入商场并看到针对个人广告的全息图。他说:“如今在线广告的复杂程度在对准目标和预测方面已经达到了相同水平。广告商不仅可以判断你过去买了什么,而且可以推测你可能想买什么。”

消费者对此略有意识,因为他们经常看到向自己展示浏览过的产品的广告,或访问过的网站的广告,而且这些广告“追着他们来”,伯曼说,“消费者可能不知道的是广告商是如何确定他们想要购买的商品的,剑桥分析公司展示了这个世界的微小部分。”

内弗最近与人合作撰写的一份研究论文(research paper)探讨了剑桥分析为特朗普竞选所做的工作的潜在影响。 “一方面,这种形式的大众心理说服可以用来帮助人们做出更好的决定,过上更健康幸福的生活。另一方面,它可能被用来暗中利用大众性格中的弱点,说服他们背离自己的最大利益采取行动,这显示了可能需要政策干预。”

内弗说剑桥分析丑闻揭露了这些类型的风险,即使它们在互联网时代之前就已存在。“宣传不是一项新发明,营销中的针对性信息传播也不是新事物。然而,这一丑闻表明我们的在线行为暴露了很多有关我们个性、恐惧和弱点的信息,这些信息可以用来影响我们的行为。”

戈尔贝克在涉及算法使用的研究项目中,发现人们“真的很震惊,我们能够获得这些对你的洞察,比如你的性格、政治偏好,容易受影响程度,以及这方面的数据我们能获得多少。”

更令人震惊的也许是查找数据多么容易。戈尔贝克说,“任何Facebook上的应用程序都可以提取剑桥分析公司提取的那类数据,他们可以提取你的所有数据以及你所有朋友的数据。即使你不安装任何应用程序,如果你的朋友使用应用程序,这些应用程序可以提取你的数据,一旦他们有了这些信息,他们就可以使用人工智能获得这些非常深入透彻的洞察,了解如何影响你,如何改变你的行为。”但她在这里做了一个划分,“如果是为了让你买一双鞋,是一回事,如果要改变选举结果则是另一回事。”

一个扩大事态的丑闻

尽管剑桥分析利用数据影响选举的做法在过去三年中引发争议,但其影响的严重性到3月中旬才暴露。举报人克里斯托弗·魏利(Christopher Wylie)曾与剑桥分析合作,他向《观察家》报透露该公司如何获得约五千万份Facebook用户的个人资料。同一天,《纽约时报》详细报道了剑桥分析在特朗普竞选中的作用。

Facebook曾允许剑桥大学研究人员亚历山大·科根(Aleksandr Kogan)获得数据进行无害的个性测验,但科根未经授权将访问权限给了剑桥分析。魏利告诉《观察家》:“我们利用Facebook收集了数百万人的个人资料,并建立模型来利用我们对他们的了解,并对准他们心中的恶魔。 这是整个公司的运营基础。”

与此同时,英国的第4频道的新闻栏目在一个视频中指出剑桥分析在其工作中使用“改变观众行为”的策略,其中包括“情色陷阱”和雇佣妓女。剑桥分析否认了第4频道的报道,声明说:“该报告经过改编和撰写,严重歪曲了这些对话以及公司开展业务的性质。”去年3月,剑桥分析公司现被停职的首席执行官亚历山大·尼克斯(Alexander Nix)在德国汉堡举行的在线营销摇滚明星大会上发表的主题演讲中,谈到他的公司为泰德·克鲁兹以及后来的唐纳德·特朗普竞选总统所作的工作。

Facebook的透明度悖论

艾瑞尔认为,剑桥分析丑闻可能“对了解社交媒体对民主、经济甚至公共健康产生影响的本质所需的资源”带来潜在的令人心惊的影响。”Facebook正面临“透明度悖论”(transparency paradox),他说,“一方面,面临强大压力迫使其广告定位算法、新闻消息算法以及趋势算法更加公开和透明。另一方面,也面临着巨大压力必须保证用于研究所用数据的安全。Facebook必须找到一种更加开放、透明和安全的方法。”

戈尔贝克说,“Facebook试图在问题的两面来回打转。”她回顾了来自Facebook和加利福尼亚大学圣地亚哥分校的科学家的一项研究,该研究称社交媒体网络“对投票人数的影响是有限的可衡量的”,对此《纽约时报》有报道。“一方面,他们声称他们可以有很大的影响力,另一方面,他们想说“不,不,我们没有任何影响。”所以他们要真正证明在两边声称的观点会非常困难。”

Facebook似乎决定直面问题。周三,扎克伯格发布坦诚声明:“我们有责任保护您的数据,如果我们不能,那我们不值得为您服务。”3月21日,他在CNNMoney的采访中称会确保开发者没有像科根那样拥有对Facebook数据的访问权限。“我们还需要确保没有任何其他剑桥分析这样的公司或者不恰当访问数据的人。我们要调查每个可以访问大量信息的应用程序……如果我们检测到任何可疑活动,我们将进行完整的法务审计。”他表示,Facebook还将构建一个工具,让用户知道剑桥分析是否访问了他们的数据。 

事件始末

扎克伯格在自己的Facebook发文中列出了从他角度看到的事件的发生顺序。2013年,科根为自己正在开发的人格测验应用程序获得了访问大约30万Facebook用户数据的权限。由于这些用户也分享了朋友的数据,因此科根最终访问了数千万用户的数据。一年后,为了 防止滥用,Facebook改变了平台,“极大地限制了应用程序可以访问的数据。”2015年,Facebook从《卫报》记者了解到,科根与剑桥分析公司分享了用户数据。Facebook禁止科根进入平台,并要求他和剑桥分析证明他们已经删除了不正当获得的数据,两者照做了。事情的转折点出现在3月上旬,当英国第四频道、《纽约时报》和《卫报》报道同时指出剑桥分析可能没有删除证明已经删除的数据。

科根告诉BBC记者,他被当作替罪羊,而且他认为他“非常妥当地”处理了Facebook的用户数据。《卫报》报道称,“科根表示,剑桥分析所作的项目,即使用人们的Facebook数据进行微观目标瞄准,是这些平台上大多数数据的主要用途。Facebook和Twitter以及其他平台通过广告赚钱,所以与用户之间有一个协议,“嘿,你可以在这个运营成本高达数十亿美元的平台上玩,作为回报,我们可以将你卖给广告商,用于微观目标营销。 

剑桥分析的影响范围

内弗认为,不可能确切知道剑桥分析公司在操纵选民偏向特朗普方面的影响力大小。他说,“剑桥分析和媒体都有强烈的利益驱动来言过其辞,”对竞争对手所用策略的信息也无法获得。“虽然如此,候选人在关键摇摆州的差异很小。即便竞选活动的影响力非常小,由于选举人团制度,它可能会在总体水平上产生有意义的影响。”

伯曼说剑桥分析公司会“夸大其绝对效应,夸张陈词有多少人因为他们改变了投票结果,但其影响的确存在”。研究表明,“通过转变观点来改变投票选择是非常困难的,剑桥分析的行为有可能让更多选民选择他们瞄准的候选人,也可能会影响处在边缘的,尚未决定的选民。”他指出,因为美国的选举通常是由“人数非常小的大多数决定,任何1%的变动,尽管其绝对效果微不足道,都会产生相对大的影响。”

艾瑞尔建议谨慎阐释剑桥分析公司可能对特朗普当选的影响程度。“如果我们真的要理解这个问题,我们需要更多的大量研究。”他进行的衡量社交媒体影响力和易感性的随机实验强调了这种不确定性。“我们没有明确的证据,可以证实或否定或量化这些类型的方法对说服以及改变投票行为的影响,那种足以改变选举结果的影响。 

寻找解决方案

戈尔贝克呼吁制定决定研究人员有道德地使用社交媒体数据从事工作的规则,“并在更广阔的范围给人们一些现在没有的权利。”艾瑞尔希望解决方案能够以“一个中间立场的方式出现,让我们学会有道德地利用这些技术,促进社会发展、获取信息、彼此合作和协调的能力,以及促进我们在世界范围内传播积极社会变革的能力。”同时,他主张收紧数据的使用要求,并以“有意义的方式收回知情同意的概念,以便我们能够实现社交媒体的承诺,同时避免危险。”

限制可以存储的有关人的数据等监管可能有助于防止“大规模说服”,从而让人们采取背离自己最大利益的行动。内弗说,“很多时候,很难界定什么是‘最大利益’,有时候,个人和社会的利益之间存在紧张关系。晚餐吃西兰花会比吃比萨更好吗?在大选日与你的家人野餐是否比投票更或多或少服务于你的最大利益?在很多情况下,答案并不简单。 

用户能如何保护自己

伯曼说,传统上营销人员可以收集个人数据,但通过社交平台,他们现在也可以收集有关用户社会联系人的数据。“这些联系人从未明确允许收集这些信息。消费者需要认识到,通过关注某人或在社交媒体上与某人联系,他们也会将自己展示给瞄准自己“朋友”的营销人员。”

就保障措施而言,伯曼表示很难预先知道公司将如何处理收集的数据。“如果他们用它来进行正常的广告,比如说牙膏,这可能是合法的,如果他们把它用于像选举中的政治广告,这可能是非法的。但数据本身是相同的。”

伯曼认为,例如,大多数消费者不知道会员卡被用于追踪他们的行为,而且数据被出售给营销人员。但是,如果他们知道,他们会停止使用这些卡吗?伯曼表示,“我不确定。调查显示,人们希望维护自己的隐私权,但当被问及有多愿意为保护隐私放弃客户体验或为此付费时,给出肯定答复的人不太多。换句话说,我们把隐私作为一个理念关心,和我们愿意为维护隐私放弃多少利益,这是有差别的。”

戈尔贝克表示,用户能使用一些工具来限制他们在社交媒体平台上的数据量,例如一个名为Facebook 时间轴清除器的平台,以及Twitter上的“推文删除”功能。她说:“你可以让自己更不容易受到这种类型的瞄准,其中一种方式是保持较少的数据,尽量定期删除内容,并将其视为一个暂时的平台。”

她还提出了从小学开始教孩子们的计划,让孩子了解有关自己的数据意味着什么,以及其他人如何运用这些数据,还有“提高人们对算法和影响力的认识”。

伯曼说,只要社交媒体上允许广告,就会存在一定程度的隐私暴露,因为它为免费服务提供资金。“一个保障措施是数据收集者在收集数据时非常严格地披露,打算如何使用这些数据,这当然会产生执法问题,但可能有助于让营销人员开始表明数据的合法和非法使用。” 

数据的合法使用

戈尔贝克担心,为了处理剑桥分析丑闻带来的后果,Facebook可能会限制其提供给研究人员的数据。她说:“我们不想让这样一大块让社会运作的信息被屏蔽,只有Facebook和那些会帮助他们赚钱的人才能获得数据。我们希望学术研究人员能够将此用于研究。”但是,将之与一些学术研究人员滥用数据来赚钱或获得权力相平衡是一个挑战。

艾瑞尔将剑桥分析称为“一个对是非对错理解扭曲的邪恶角色”。他指出,通过Facebook等平台合理使用技术“创造社会福利”与剑桥分析的所作所为,这两者确实需要进行区分。 “如果结果变成因噎废食,并说这个问题的唯一解决方案是关掉Facebook以及所有这些社交技术,那很可惜,因为你觉得没法区分坏角色和好角色。”

内弗认为,尽管如此,复杂的数据分析“也可能用于产生很多好处。个性化沟通可以帮助人们为其锻炼或健康饮食等长期目标努力,并获得更符合自身需求的产品。技术本身并不是邪恶的。”

如何引用沃顿知识在线文章

Close


用于个人/用於個人:

请使用以下引文

MLA

"沃顿洞察:剑桥分析公司和Facebook数据泄露丑闻何以成为社交媒体发展的分水岭." China Knowledge@Wharton. The Wharton School, University of Pennsylvania, [04 April, 2018]. Web. [21 November, 2018] <http://www.knowledgeatwharton.com.cn/article/9409/>

APA

沃顿洞察:剑桥分析公司和Facebook数据泄露丑闻何以成为社交媒体发展的分水岭. China Knowledge@Wharton (2018, April 04). Retrieved from http://www.knowledgeatwharton.com.cn/article/9409/

Chicago

"沃顿洞察:剑桥分析公司和Facebook数据泄露丑闻何以成为社交媒体发展的分水岭" China Knowledge@Wharton, [April 04, 2018].
Accessed [November 21, 2018]. [http://www.knowledgeatwharton.com.cn/article/9409/]


教育/商业用途 教育:

如果您需要重复利用我们的文章、播客或是视频,请填写内容授权申请表.

 

参与讨论

目前尚无评论