曝光數(shù)萬(wàn)頁(yè)文件！Meta遭炮轟：一切都是算法說(shuō)了算 小扎必須下臺(tái)

編輯：David

Facebook還在助長(zhǎng)仇恨言論，要想改變，除非扎克伯格下臺(tái)！

說(shuō)這話的，正是去年名動(dòng)一時(shí)的Facebook著名的「吹哨人」Frances Haugen。

最近，她在接受彭博社采訪時(shí)表示，F(xiàn)acebook（現(xiàn)在叫Meta）仍然在已經(jīng)很脆弱的國(guó)家助長(zhǎng)仇恨言論。

作為Facebook的一位前員工，她于2021年5月離開(kāi)Facebook，帶走了關(guān)于公司政策的數(shù)萬(wàn)頁(yè)內(nèi)部文件。

文件內(nèi)容表明，F(xiàn)acebook的推送算法，一直在全球煽動(dòng)仇恨言論，向未成年用戶推送大量暴力內(nèi)容，而身為一把手的扎克博格和高管們選擇了無(wú)視和助長(zhǎng)這種現(xiàn)象。

自從因爆料而被迫離開(kāi)Facebook后，目前Haugen已經(jīng)移居波多黎各。

她表示，現(xiàn)在自己吃得好、睡得香，狀態(tài)與去年爆料時(shí)相比沒(méi)啥不一樣，在社交網(wǎng)絡(luò)上收到的騷擾信息也很少，而且她還經(jīng)常回復(fù)這些信息。

「我回完他們，一般對(duì)面就不回我了」。

提到自己的「吹哨人」角色，Haugen表示，那時(shí)候自己確實(shí)感到害怕。

不過(guò)不是怕自己有危險(xiǎn)，而是怕拿不到全面的資料和信息，無(wú)法證明Facebook助長(zhǎng)的種族仇恨言論，讓太多的人處于風(fēng)險(xiǎn)之中。

她說(shuō)，F(xiàn)acebook作為平臺(tái)，在世界很多地方都在助長(zhǎng)種族暴力。

這和郵件還不一樣，因?yàn)殡娮余]件系統(tǒng)不會(huì)告訴你去點(diǎn)開(kāi)哪封郵件，而Facebook推薦算法則會(huì)直接把信息推送給你，而且會(huì)根據(jù)回復(fù)數(shù)量，助長(zhǎng)這些信息的傳播。

一切都是算法說(shuō)了算。

在經(jīng)歷2018年推送算法升級(jí)之后，系統(tǒng)認(rèn)定，能引導(dǎo)用戶多回復(fù)的內(nèi)容就是好內(nèi)容，于是極端化的內(nèi)容獲得病毒式傳播，在一些全球最敏感的地區(qū)，這類內(nèi)容是沒(méi)有審核機(jī)制的。

可以說(shuō)，這些地區(qū)的人使用的是「最危險(xiǎn)的Facebook」。

Haugen認(rèn)為，作為掌門(mén)人的扎克博格對(duì)這些現(xiàn)象一直很糾結(jié)。

扎克博格認(rèn)為，作為平臺(tái)的Facebook就是「一面鏡子」，世界上總會(huì)有仇恨言論，總會(huì)有不適合兒童接觸的內(nèi)容，F(xiàn)acebook只是照出了這些事實(shí)。

另外，從19歲創(chuàng)立Facebook開(kāi)始，扎克博格本人周圍就從來(lái)不缺夸他的人，在長(zhǎng)期「太對(duì)了哥」的氛圍下，心態(tài)變化在所難免。

而且與其他大多數(shù)上市公司不同，扎克伯格一直保持對(duì)Facebook的絕對(duì)控制，他持有56%的投票權(quán)。

「除了扎克伯格，沒(méi)有人可以控制Facebook。」

所以一切就很自然了，既然絕對(duì)意義上的頭號(hào)老大無(wú)意改變，F(xiàn)acebook的改變就無(wú)從談起。

「我認(rèn)為，只要他還是公司的掌門(mén)人，F(xiàn)acebook就無(wú)法好轉(zhuǎn)」。

去年10月，F(xiàn)rances Haugen在美國(guó)「60分鐘」節(jié)目上揭露了Facebook 的內(nèi)部運(yùn)作機(jī)制。

她表示，一家致力于產(chǎn)品優(yōu)化的公司，卻采用了放大仇恨言論的算法。

一句話說(shuō)就是，流量為王，放大仇恨言論。

此前一項(xiàng)數(shù)據(jù)顯示，F(xiàn)acebook 在致力于反對(duì)仇恨言論所做的努力，現(xiàn)在看來(lái)更像是一場(chǎng)笑話。

雖然該公司一再聲稱，至少在自己的產(chǎn)品上，它正在幫助阻止仇恨言論，但Haugen泄露的一份 Facebook內(nèi)部文件表明：

「我們預(yù)計(jì)，我們的優(yōu)化可能只會(huì)對(duì)Facebook上3%-5%的仇恨言論、大約0.6%的暴力和煽動(dòng)內(nèi)容產(chǎn)生作用，盡管在這一點(diǎn)上我們已經(jīng)做到世界上做好了。」

另一份文件甚至更加直白：我們從各種渠道獲得的證據(jù)表明，仇恨言論、分裂性政治言論以及 Facebook 和旗下其他應(yīng)用程序的錯(cuò)誤信息正在影響世界各地的社會(huì)。

Haugen聲稱問(wèn)題的根源在于「2018年推出的算法控制了你在平臺(tái)上看到的東西」。

你用手機(jī)滑動(dòng)五分鐘，可能只能看到100條內(nèi)容。但是 Facebook 可以向你展示成千上萬(wàn)種選擇。

該算法根據(jù)你過(guò)去接觸最多的內(nèi)容類型來(lái)推送信息，通過(guò)參與度優(yōu)化內(nèi)容。

她表示，F(xiàn)acebook為了提高用戶的參與度，發(fā)現(xiàn)最好的參與方式便是向用戶灌輸恐懼和憎恨。

因?yàn)榧ぐl(fā)人們的憤怒比激發(fā)其他情緒更容易。

「我在 Facebook 一次又一次地看到，對(duì)公眾有利和對(duì) Facebook 有利之間存在利益沖突。而 Facebook一次又一次地選擇優(yōu)化自己的利益，賺更多的錢(qián)。」

此前有投訴稱，有證據(jù)表明，F(xiàn)acebook在反對(duì)仇恨、暴力和錯(cuò)誤信息方面的問(wèn)題上對(duì)公眾撒了謊，但該公司一直隱瞞了它所知道的一切。

38歲的Frances Haugen是來(lái)自愛(ài)荷華州的數(shù)據(jù)科學(xué)家，擁有計(jì)算機(jī)工程學(xué)位和哈佛商學(xué)碩士學(xué)位。

她在5月份辭職時(shí)偷偷拿走了一批 Facebook 研究資料，并向美國(guó)證券交易委員會(huì)泄露了一份內(nèi)部研究報(bào)告，希望借此改善對(duì)該公司的監(jiān)管。

上個(gè)月，F(xiàn)rances Haugen被《時(shí)代》評(píng)為2022年度最具影響力的100人之一。

《時(shí)代》官網(wǎng)盛贊她「公開(kāi)站出來(lái)的勇敢決定，以及她對(duì)更人性化的技術(shù)的持續(xù)倡導(dǎo)，正在動(dòng)員人們采取行動(dòng)。她的知識(shí)、熱情和不懈的樂(lè)觀精神給全世界的人們帶來(lái)了改變的希望。」

對(duì)此她表示，「能入選這個(gè)名單很榮幸，如果重來(lái)一次的話，我還會(huì)這么做。」

參考資料：

https://www.businessinsider.com/frances-haugen-facebook-unable-to-recover-until-zuckerberg-steps-down-2022-6

https://www.reuters.com/technology/facebook-whistleblower-says-transparency-needed-fix-social-media-ills-2021-12-03/

https://twitter.com/FrancesHaugen/status/1528869672254590976

本文來(lái)自微信公眾號(hào)“新智元”（ID：AI_era），36氪經(jīng)授權(quán)發(fā)布。