編者按
近日,所謂的“臉書文件”(Facebook files)在國外持續發酵【對事件描述的中文報道見:37歲前女雇員揭露Facebook滔天罪行:用放大仇恨言論算法賺錢,以及吹哨人 | 舉報Facebook】。現在,“臉書文件”已經引起了美國國會和歐洲議會的反應。
今天公號君和大家分享的是Facebook前女雇員Frances Haugen(也就是爆料人)在美國國會聽證會上的開場陳述的翻譯,以及代表歐洲議會參與《數字服務法》立法談判工作【感興趣的讀者可見本公號全文翻譯和評述】的兩位議員對“臉書文件”事件的表態。
在公號君看來,每每有重大立法動向的前夕,Facebook總是神助攻。2018年4月的劍橋分析事件(見本系列所列的文章)引發了中、美、歐監管機構對個人信息及其國家安全影響的高度關注和后續立法。現在對于內容、算法治理、超大平臺信息傳播的立法,例如歐盟的《數字服務法》和《人工智能法案》,以及中國的《互聯網信息服務算法推薦管理規定(征求意見稿)》等,相信“臉書文件”一定會起到“積極”的作用。
公號君將對該事件持續跟蹤。
美國參議院商業、科學和運輸委員會
消費者保護、產品安全和數據安全小組委員會
“保護上網兒童:來自Facebook舉報人的證詞”
FRANCES HAUGEN的開場白
10/5/2021
下午好,Chair Blumenthal, Ranking Member Blackburn, and members of the Subcommittee。謝謝你們,給我這個機會在你們面前出現。我的名字是Frances Haugen。我曾經在Facebook工作。我加入Facebook是因為我認為Facebook有潛力激發出我們最好的一面。但我今天在這里是因為我相信,Facebook的產品傷害了兒童,煽動了分裂,并削弱了我們的民主。該公司的領導層知道如何使Facebook和Instagram更安全,但不會做出必要的改變,因為他們把天文數字的利潤擺在了人們面前。國會的行動是必要的。沒有你的幫助,他們不會主動解決這個危機。
昨天,我們看到Facebook在互聯網上宕機了。我不知道它為什么癱瘓,但我知道在超過5個小時的時間里,Facebook沒有被用來加深分歧,破壞民主的穩定,并使年輕女孩和婦女對自己的身體感到難過。這也意味著數以百萬計的小企業無法接觸到潛在的客戶,無數的新生兒照片沒有被世界各地的家人和朋友歡樂地慶祝。我相信Facebook的潛力。我們可以擁有我們喜歡的社交媒體,將我們聯系起來,而不至于撕裂我們的民主,將我們的孩子置于危險之中,并在世界各地播種種族暴力。我們可以做得更好。
自2006年以來,我一直在大型科技公司擔任產品經理,包括谷歌、Pinterest、Yelp和Facebook。我的工作主要集中在算法產品,如Google+搜索和推薦系統,如為Facebook新聞源提供動力的系統。我曾在四種不同類型的社交網絡工作過,因此我了解這些問題有多么復雜和微妙。然而,在Facebook內部做出的選擇是災難性的——對我們的孩子、對我們的公共安全、對我們的隱私和對我們的民主而言——這就是為什么我們必須要求Facebook做出改變。
我在Facebook工作期間,先是擔任公民虛假信息部門的首席產品經理,后來又擔任反間諜部門的產品經理,我看到Facebook一再遇到自身利益與我們安全之間的矛盾。在面對這些矛盾時,臉書一再選擇將自己的利益擺在前面,他們不顧一切地制造沖突。其結果是更多的分裂,更多的傷害,更多的謊言,更多的威脅,以及更多的戰斗。在某些情況下,這種危險的網上談話已經導致 了實際的暴力,傷害甚至殺害了人們。
這不是簡單的某些社交媒體用戶憤怒或不穩定的問題,也不是一方對另一方的激進化問題。這是Facebook選擇不惜一切代價的增長,通過用我們的安全來購買其利潤, 成為一個近萬億美元的公司。
在Facebook工作期間,我認識到一個毀滅性的事實:Facebook之外的人幾乎不知道Facebook內部發生了什么。該公司故意向公眾、美國政府和世界各國政府隱瞞重要信息。我向國會提供的文件證明,Facebook在自己的研究所揭示的對兒童安全的影響、其人工智能系統的有效性,以及它在傳播分裂和極端信息方面的作用等方面,一再誤導公眾。我之所以站出來,是因為我相信每個人都應該得到真相的尊嚴。
這一危機的嚴重性要求我們打破以往的監管框架。臉書想欺騙你,讓你以為隱私保護或對第230條的修改會很有效。雖然很重要,但這些都無法觸及問題的核心——那就是除了Facebook,沒有人真正了解Facebook的破壞性選擇。我們應當要求玩完全的透明。
只要Facebook在陰影中運作,將其研究隱藏起來,不受公眾監督,它就不負責任。在激勵機制改變之前,Facebook不會改變。放任自流,Facebook將繼續做出有悖于共同利益的選擇——我們的共同利益。
當我們意識到大煙草公司隱瞞其造成的危害時,政府采取了行動。當我們發現有安全帶的汽車更安全時,政府采取了行動。當政府了解到阿片類藥物正在奪走生命時,政府也采取了行動。我懇請你們在這里也這樣做。
今天,Facebook通過選擇我們看到的信息來塑造我們對世界的認知。即使那些不使用Facebook的人也會受到大多數人的影響。一個對如此多的人擁有如此可怕的影響力的公司——對他們最深層的思想、情感和行為的影響——需要真正的監督。
但Facebook的封閉設計意味著它沒有真正的監督。只有Facebook知道它是如何為你提供個性化服務的。在谷歌等其他大型科技公司,任何獨立的研究人員可以從互聯網上下載該公司的搜索結果,并就他們所發現的內容撰寫論文
(他們也確實開展了外部研究)。但是,Facebook隱藏在墻壁后面,使研究人員和監管機構無法了解其系統的真正動態。Facebook會告訴你為了隱私保護,他們不能分享數據——這不是真的。
當煙草公司宣稱含酒精的香煙對消費者更安全時,科學家們可以獨立地推翻這一營銷信息,證實它們實際上對人類健康構成了更大的威脅。對于Facebook,公眾無法做到這一點——除了盲目相信他們的營銷信息,我們沒有其他選擇。該公司不僅隱藏了自己的大部分數據,我的披露證明,當Facebook被直接問到“你們如何影響我們孩子的健康和安全”這樣重要的問題時,Facebook選擇了誤導和誤導。臉書并沒有贏得我們的盲目信任。
這種無法看到Facebook的實際系統并確認它們按照對外溝通的方式工作的情況,就像交通部只看到汽車在高速公路上行駛而對其進行監管一樣。今天,沒有一個監管機構有一個關于如何解決Facebook問題的菜單,因為Facebook不想讓他們知道足夠多的問題,否則就不需要有舉報人了。如果公眾無法了解Facebook的運作方式,那么公眾該如何評估Facebook是否以符合公共利益的方式解決利益沖突?
這種情況必須改變。
臉書希望你相信,我們正在談論的問題是無法解決的。他們想讓你相信有錯誤的選擇。他們想讓你相信,你必須在一個充滿分裂和極端內容的Facebook,和失去這個國家建立的最重要的價值之一:言論自由之間,做出選擇。你必須在公眾對Facebook的選擇進行監督,和你的個人隱私之間,做出選擇。為了能夠與老朋友分享你孩子的有趣 照片,你也必須被淹沒在由憤怒驅動的病毒性傳播之中。他們想讓你相信,這只是交易的一部分。
我今天在這里要告訴你們,這不是真的。這些問題是可以解決的。一個更安全、尊重言論自由、更令人愉快的社交媒體是可能的。但是,如果有一件事,我希望每個人都能從這些披露中得到啟示,那就是Facebook可以改變,但它顯然不會自己去做。我擔心的是,如果不采取行動,我們今天看到的分裂和極端主義行為只是一個開始。我們在緬甸看到的和在埃塞俄比亞看到的只是一個故事的開篇,這個故事如此可怕,沒有人愿意看它的結局。
國會可以改變Facebook的游戲規則,阻止它現在造成的許多傷害。我們現在知道了關于Facebook的破壞性影響的真相。我真的很欣賞國會議員和證券交易委員會在處理這些問題時的嚴肅態度。我冒著巨大的個人風險站出來,因為我相信我們仍然有時間采取行動。但我們現在必須采取行動。我請求你們,我們選出的代表,采取行動。
謝謝你。