世界今日?qǐng)?bào)丨美國科技行業(yè)大裁員背后：內(nèi)容審核團(tuán)隊(duì)收縮，平臺(tái)危機(jī)隱現(xiàn)

北京時(shí)間 5 月 29 日上午消息，據(jù)報(bào)道，2022 年末，負(fù)責(zé)打擊虛假信息的 Meta 工程師團(tuán)隊(duì)準(zhǔn)備推出一款歷時(shí)半年開發(fā)的事實(shí)核查工具。此前的一系列危機(jī)嚴(yán)重?fù)p害了 Facebook 和 Instagram 的信譽(yù)，也給監(jiān)管機(jī)構(gòu)創(chuàng)造了更多機(jī)會(huì)來打擊這些平臺(tái)。面對(duì)這種現(xiàn)狀，這個(gè)工具得尤為重要。

借助這款新工具，美聯(lián)社、路透社以及有信譽(yù)的專家等第三方事實(shí)核查者，便可在有問題的文章頂部添加評(píng)論，將此作為確認(rèn)其可信度的一種方式。

但知情人士透露，當(dāng) Meta CEO 馬克?扎克伯格（Mark Zuckerberg）宣布 2023 年為“效率之年”后，這項(xiàng)野心勃勃的計(jì)劃也無疾而終。

(相關(guān)資料圖)

Meta 宣布的裁員計(jì)劃大約涉及 2.1 萬人，經(jīng)過好幾輪落地實(shí)施后，Meta 的信任和安全工作受到了極大影響。知情人士表示，這款事實(shí)核查工具初期已獲得了高管的認(rèn)同，今年早些時(shí)候還處于測(cè)試階段，但卻因?yàn)榇舜尾脝T而被徹底拋棄。

Meta 發(fā)言人尚未對(duì)特定領(lǐng)域的裁員問題發(fā)表評(píng)論，但他通過電子郵件回應(yīng)稱：“我們?nèi)匀粚Ｗ⒂诎l(fā)展業(yè)界領(lǐng)先的誠信措施，并將繼續(xù)投資建設(shè)團(tuán)隊(duì)和技術(shù)，為我們的社區(qū)提供保護(hù)。”

放眼科技行業(yè)，隨著企業(yè)通過收緊支出和大舉裁員來應(yīng)對(duì)宏觀經(jīng)濟(jì)壓力和收入增速放緩，大批負(fù)責(zé)保護(hù)這些最受歡迎的“互聯(lián)網(wǎng)樂園”的人也紛紛遭到清退。然而，此時(shí)卻正值網(wǎng)絡(luò)暴力叢生（這導(dǎo)致越來越多的青少年出現(xiàn)自殘行為）、虛假信息泛濫和暴力內(nèi)容激增之際，而人工智能的爆發(fā)式應(yīng)用更是令這些問題愈演愈烈。

在最近的財(cái)報(bào)電話會(huì)議上，科技高管紛紛強(qiáng)調(diào)了“少花錢，多辦事”的理念，希望通過更少的資源投入來提升效率。Meta、Alphabet、亞馬遜和微軟都在前幾年的大幅擴(kuò)容之后實(shí)施了數(shù)以千計(jì)的裁員計(jì)劃。微軟 CEO 薩提亞?納德拉（Satya Nadella）最近還表示，他的公司將暫停全職員工的加薪計(jì)劃。

科技企業(yè)大幅壓縮負(fù)責(zé)信任、安全和人工智能倫理的團(tuán)隊(duì)，充分說明，盡管 2024 年美國總統(tǒng)大選季還有幾個(gè)月就將拉開帷幕，網(wǎng)上的各種雜音勢(shì)必會(huì)增加，但企業(yè)還是更愿意迎合華爾街對(duì)效率的要求。在科技公司內(nèi)部，人工智能倫理團(tuán)隊(duì)與信任和安全團(tuán)隊(duì)隸屬不同的部門，但他們的目標(biāo)都是減少企業(yè)的產(chǎn)品和服務(wù)可能對(duì)現(xiàn)實(shí)世界構(gòu)成的傷害。

“這是一場(chǎng)貓鼠游戲，施虐者通常會(huì)走在前面?！卑?納拉延（Arjun Narayan）說，他之前曾經(jīng)在谷歌和字節(jié)跳動(dòng)擔(dān)任信任和安全主管，目前在新聞聚合應(yīng)用 Smart News 負(fù)責(zé)信任和安全業(yè)務(wù)，“你總是扮演追趕的角色?！?/p>

但目前看來，在科技公司眼中，無論是信任和安全團(tuán)隊(duì)，還是人工智能倫理團(tuán)隊(duì)，似乎都是應(yīng)當(dāng)壓縮的成本。

知情人士表示，Twitter 去年 11 月實(shí)質(zhì)上解散了人工智能倫理團(tuán)隊(duì)，僅保留一名員工，同時(shí)還對(duì)信任和安全部門裁員 15%。今年 2 月，谷歌對(duì)一個(gè)旨在應(yīng)對(duì)錯(cuò)誤信息、激進(jìn)情緒、有毒內(nèi)容的部門裁員三分之一。據(jù)報(bào)道，Meta 也在 1 月初與大約 200 名內(nèi)容審核解除了合同。根據(jù)提交給美國勞工部的數(shù)據(jù)，該公司還對(duì) Instagram 的健康上網(wǎng)部門至少裁員 16 人，同時(shí)削減了信任、誠信和責(zé)任部門的 100 多個(gè)崗位。

今年 3 月，亞馬遜壓縮了人工智能責(zé)任團(tuán)隊(duì)的規(guī)模，微軟也對(duì)整個(gè)倫理和社會(huì)團(tuán)隊(duì)進(jìn)行裁員 —— 據(jù)悉，這兩輪裁員將該團(tuán)隊(duì)的人數(shù)從 30 人縮減到零。亞馬遜并未對(duì)此置評(píng)，微軟則提供了有關(guān)裁員的官方博文。

在亞馬遜流媒體游戲部門 Twitch，員工是在 3 月才從公司 CEO 安迪?賈西（Andy Jassy）不合時(shí)宜的內(nèi)部帖子中得知了自己的命運(yùn)。

賈西當(dāng)時(shí)宣布在全公司裁員 9000 人，包括 400 名 Twitch 員工。知情人士表示，在這 400 名員工中，約有 50 人負(fù)責(zé)監(jiān)控網(wǎng)絡(luò)暴力、非法或有害行為。

亞馬遜的信任和安全團(tuán)隊(duì)損失了大約 15% 的員工，而此時(shí)正值內(nèi)容審核空前重要之際。

Twich CEO 丹?科朗西（Dan Clancy）在發(fā)給員工的郵件中并沒有特意提到信任和安全團(tuán)隊(duì)，但卻確認(rèn)了更大范圍的裁員計(jì)劃。事實(shí)上，他本人當(dāng)時(shí)也是剛剛從賈西的帖子中得知裁員消息的。

科朗西在郵件中寫道：“我很遺憾，竟然以這種方式跟大家溝通這種消息，而沒能提前與受此影響的員工進(jìn)行直接溝通。”

重獲信任困難重重

一位 Twitch 信任和安全團(tuán)隊(duì)的負(fù)責(zé)人表示，該部門剩余的員工感覺受到了“鞭笞”，并對(duì)第二輪裁員憂心忡忡。此人透露，裁員對(duì)團(tuán)隊(duì)構(gòu)成重大打擊，而負(fù)責(zé)人身威脅、暴力、恐怖主義團(tuán)體和自殘的 Twitch 執(zhí)法響應(yīng)團(tuán)隊(duì)也大幅縮減。

Twitch 發(fā)言人尚未對(duì)此置評(píng)，只是提供了 3 月宣布裁員的一篇官方博文。該博文并未提及信任和安全或內(nèi)容審核團(tuán)隊(duì)。

Smart News 的納拉延表示，由于大企業(yè)對(duì)安全問題的投資不足，導(dǎo)致他們難以應(yīng)對(duì)層出不窮的惡意活動(dòng)。隨著不良內(nèi)容越來越多，“信任侵蝕”也成為他們不得不面對(duì)的問題。

“從長期來看，重獲消費(fèi)者信任真的困難重重?！奔{拉延補(bǔ)充道。

Meta 和亞馬遜的裁員是為應(yīng)對(duì)投資者的要求和營收及股價(jià)的大幅下滑，而 Twitter 則是因?yàn)楣疽字鳌?/p>

幾乎就在埃隆?馬斯克（Elon Musk）去年 10 月完成對(duì) Twitter 440 億美元的收購后，他便開始進(jìn)行大規(guī)模裁員。曾經(jīng)擔(dān)任 Twitter 機(jī)器學(xué)習(xí)倫理、透明度和問責(zé)團(tuán)隊(duì)總監(jiān)的拉曼?喬杜里（Rumman Chowdhury）表示，原本擁有 17 人的 Twitter 人工智能倫理團(tuán)隊(duì)在裁員后僅剩 1 人。

喬杜里表示，該團(tuán)隊(duì)的成員是在他們的筆記本電腦遭到遠(yuǎn)程關(guān)閉后才了解到自己的處境。幾小時(shí)后，他們就收到了公司的郵件通知。

“我當(dāng)時(shí)才開始清點(diǎn)人手，組建我們的人工智能紅色團(tuán)隊(duì)，這樣就能從倫理角度對(duì)抗我們的模型，并加以落實(shí)。”喬杜里說，“感覺就好像我們都在昂首闊步時(shí)，腳底下的毯子卻被人抽走了?！?/p>

喬杜里表示，他們的計(jì)劃包括開發(fā)“算法放大監(jiān)控機(jī)制”，通過跟蹤選舉和政黨動(dòng)態(tài)來了解“內(nèi)容是否被以不當(dāng)方式放大了”。

喬杜里提到了 2021 年 7 月的一個(gè)項(xiàng)目，Twitter 的人工智能團(tuán)隊(duì)當(dāng)時(shí)領(lǐng)導(dǎo)了業(yè)界首個(gè)算法偏見賞金競(jìng)賽。他們邀請(qǐng)外部人士對(duì)平臺(tái)進(jìn)行偏見審核，并將結(jié)果公之于眾。

喬杜里擔(dān)心馬斯克“目前正在積極拋棄我們所做的一切”。

“現(xiàn)在沒有內(nèi)部問責(zé)制?！彼f，“我們之前服務(wù)于兩個(gè)產(chǎn)品團(tuán)隊(duì)，確保幕后工作能夠公平對(duì)待平臺(tái)上的用戶?！?/p>

Twitter 尚未對(duì)此置評(píng)。

廣告主也在撤離那些聲譽(yù)風(fēng)險(xiǎn)日益加大的地方。

根據(jù) Sensor Tower 的數(shù)據(jù)，在 Twitter 上投入金額最大的 10 類美國廣告客戶中，有 6 類都在今年第一季度同比縮減了支出，合計(jì)縮減幅度達(dá)到 53%。該網(wǎng)站最近也因?yàn)樵试S暴力圖片和視頻傳播而引發(fā)爭議。

聊天機(jī)器人的熱度激增導(dǎo)致問題更加復(fù)雜。這些類似于 ChatGPT 的人工智能模型使得不法分子很容易用各種內(nèi)容制作虛假帳號(hào)。艾倫人工智能研究所、普林斯頓大學(xué)和佐治亞理工學(xué)院的研究人員對(duì) ChatGPT 的 API（應(yīng)用編程接口）進(jìn)行測(cè)試后發(fā)現(xiàn)，內(nèi)容“毒性”最高可以增加 6 倍，具體取決于企業(yè)分配給聊天機(jī)器人的功能定位，比如究竟是客戶服務(wù)代表還是虛擬助手。

監(jiān)管者也在密切關(guān)注人工智能不斷擴(kuò)大的影響，以及企業(yè)對(duì)人工智能倫理及信任和安全團(tuán)隊(duì)的縮減措施。美國聯(lián)邦貿(mào)易委員會(huì)（FTC）律師邁克爾?阿特爾森（Michael Atleson）本月早些時(shí)候在一篇博文中指出了這種悖論。

“鑒于人們對(duì)使用新型人工智能工具的擔(dān)憂，現(xiàn)在或許并不是企業(yè)建立或部署這類工具來取代人工智能倫理團(tuán)隊(duì)的最佳時(shí)期?！卑⑻貭柹瓕懙?，“如果 FTC 打來電話詢問此事，而你希望讓我們相信你已經(jīng)充分評(píng)估了風(fēng)險(xiǎn)并減輕了傷害，那么這些壓縮措施或許并不明智?！?/p>

風(fēng)向標(biāo) Meta

多年以來，科技行業(yè)享受了一輪超長牛市，為頂尖互聯(lián)網(wǎng)平臺(tái)帶來了大量資金，而 Meta 則借機(jī)成為許多專家眼中的倫理和安全領(lǐng)導(dǎo)者。

該公司花費(fèi)多年時(shí)間招募了信任和安全團(tuán)隊(duì)，其中有許多具備社會(huì)科學(xué)背景。他們希望以此避免重蹈 2016 年美國總統(tǒng)大選的覆轍。當(dāng)時(shí)，F(xiàn)acebook 就出現(xiàn)了大量的虛假信息，并在 2018 年“劍橋分析”丑聞達(dá)到頂峰。那起丑聞曝光了第三方如何非法使用 Facebook 的用戶數(shù)據(jù)。

但 2022 年，這一切卻急轉(zhuǎn)直下：在 Meta 的廣告業(yè)務(wù)和股價(jià)慘遭打擊后，扎克伯格進(jìn)入了緊縮模式，令原先抱怨該公司過于臃腫的投資者歡呼不已。

除了事實(shí)核查項(xiàng)目，裁員還對(duì)研究人員、工程師、用戶設(shè)計(jì)專家和其他從事社會(huì)問題相關(guān)工作的員工造成了沖擊。4 位 Meta 前員工表示，專門負(fù)責(zé)應(yīng)對(duì)虛假信息的團(tuán)隊(duì)遭到大幅裁員。

在 Meta 去年 11 月的第一輪裁員之前，該公司已經(jīng)著手將誠信團(tuán)隊(duì)整合為一個(gè)部門。據(jù)前員工透露，去年 9 月，Meta 將中央誠信團(tuán)隊(duì)與商業(yè)誠信團(tuán)隊(duì)合并，前者負(fù)責(zé)處理社會(huì)問題，后者負(fù)責(zé)處理廣告和垃圾郵件、虛假帳號(hào)等商業(yè)問題。

Meta 信任和安全團(tuán)隊(duì)的前員工表示，在隨后幾個(gè)月里，隨著更廣泛的緊縮計(jì)劃席卷整個(gè)公司，他們的許多同事都生活在裁員的陰影中，而管理人員也沒有看出他們的工作對(duì) Meta 的利潤產(chǎn)生了怎樣的影響。

例如，改進(jìn)垃圾郵件過濾器這種不需要太多資源的項(xiàng)目可以獲批，而以改變政策為目標(biāo)的長期項(xiàng)目則很難獲得支持，比如涉及虛假信息的項(xiàng)目。在這樣的制度下，員工更愿意從事易于管理的任務(wù)，這樣就能在 6 個(gè)月的績效評(píng)估中展示自己的成果。

在裁員前離職的 Meta 前項(xiàng)目經(jīng)理拉維?艾耶（Ravi Iyer）表示，他認(rèn)識(shí)的許多人原本在設(shè)計(jì)和政策變化方面扮演關(guān)鍵角色，但他們同樣在此次裁員中失去工作，這比內(nèi)容審核團(tuán)隊(duì)的裁員更令人懊惱。

“我不認(rèn)為我們應(yīng)該想當(dāng)然地認(rèn)為，信任和安全團(tuán)隊(duì)縮編一定會(huì)令平臺(tái)變得更糟?！蹦壳皳?dān)任南加州大學(xué)科技心理學(xué)研究所主任的艾耶說，“但我發(fā)現(xiàn)，許多被解雇的人都是在反思這些平臺(tái)的基礎(chǔ)設(shè)計(jì)方面最有見地的人。如果平臺(tái)不打算投資調(diào)整已經(jīng)被證明有害的設(shè)計(jì)，那才是我們都應(yīng)該擔(dān)心的事情?！?/p>

Meta 發(fā)言人之前就曾弱化裁員對(duì)虛假信息部門的影響：“該該團(tuán)隊(duì)被整合進(jìn)更廣泛的內(nèi)容誠信團(tuán)隊(duì)，他們的規(guī)模要大得多，重點(diǎn)是整個(gè)公司的誠信工作。”

但知情人士表示，裁員之后，負(fù)責(zé)處理虛假信息的 Meta 員工的確減少了。

對(duì)于人工智能、誠信和安全以及內(nèi)容審核領(lǐng)域的專業(yè)人士而言，就業(yè)前景似乎非常渺茫。

剛剛被社交媒體公司裁員的人表示，隨著相關(guān)企業(yè)繼續(xù)緊縮開支，他們可以申請(qǐng)的職位并不多。一位 Meta 前員工稱，當(dāng)他面試了微軟和谷歌的信任和安全職位后，這些職位卻突然之間被砍掉了。

一位 Meta 前員工表示，該公司在信任和安全方面的收縮，可能會(huì)對(duì)規(guī)模較小的同行和初創(chuàng)公司產(chǎn)生影響，他們似乎會(huì)“在裁員方面追隨 Meta”。

Twitter 前人工智能倫理負(fù)責(zé)人喬杜里表示，這些類型的工作肯定會(huì)成為削減的對(duì)象，因?yàn)椤八麄儾荒芴岣弋a(chǎn)品利潤”。

“我認(rèn)為這是一種完全錯(cuò)誤的框架?！彼f，“但如果你的價(jià)值體現(xiàn)在公司沒有被起訴，或者別人沒有受到傷害，那就很難證明你的價(jià)值。當(dāng)我們的工作結(jié)束后，沒有鮮花和掌聲，但卻可以創(chuàng)造一個(gè)安全無虞的社區(qū)。這可以創(chuàng)造長期的財(cái)務(wù)價(jià)值，但從每個(gè)季度的財(cái)報(bào)來看，確實(shí)很難衡量這背后的意義。”

一位 Twtich 前員工透露，該公司的信任和安全團(tuán)隊(duì)中有些人知道在哪里能發(fā)現(xiàn)危險(xiǎn)活動(dòng)。這對(duì)游戲行業(yè)至關(guān)重要，因?yàn)橛螒虮旧砭褪且粋€(gè)“獨(dú)特的野獸”。

而現(xiàn)在，很少有人去查看這些“黑暗、可怕的地方”，那里是犯罪分子藏身的地方，也是網(wǎng)暴活動(dòng)泛濫的地方。

更重要的是，沒有人知道情況究竟會(huì)有多糟。