OpenAI 堅信其技術(shù)可以幫助解決科技領(lǐng)域最困難的問題之一：大規(guī)模內(nèi)容審核。OpenAI 聲稱，GPT-4 可以取代數(shù)以萬計的人工審核員，同時幾乎同樣準(zhǔn)確且更加一致。如果這是真的，那么最麻煩、最費腦力的任務(wù)就可以外包給機器。
在一篇博文中，OpenAI 聲稱它已經(jīng)在使用 GPT-4 來開發(fā)和完善自己的內(nèi)容政策、標(biāo)記內(nèi)容和做出決策。OpenAI 安全系統(tǒng)負責(zé)人 Lilian Weng告訴Semafor ：“我希望看到更多的人以這種方式維護信任、安全和節(jié)制。 ” “這在我們?nèi)绾卫萌斯ぶ悄芤栽旄Ｉ鐣姆绞浇鉀Q現(xiàn)實世界問題方面向前邁出了非常好的一步。”
與傳統(tǒng)的內(nèi)容審核方法相比，OpenAI 具有三大優(yōu)勢。首先，它聲稱人們對政策的解釋不同，而機器的判斷是一致的。這些指導(dǎo)方針可以像一本書一樣長，并且不斷變化。雖然人類需要大量的訓(xùn)練來學(xué)習(xí)和適應(yīng)，但 OpenAI 認為大型語言模型可以立即實施新策略。
其次，據(jù)稱 GPT-4 可以在數(shù)小時內(nèi)幫助制定新政策。起草、標(biāo)記、收集反饋和完善的過程通常需要幾周或幾個月的時間。第三，OpenAI 提到了不斷接觸有害內(nèi)容（例如虐待兒童或酷刑視頻）的工人的福祉。
經(jīng)過近二十年的現(xiàn)代社交媒體和更多年的在線社區(qū)的發(fā)展，內(nèi)容審核仍然是在線平臺面臨的最困難的挑戰(zhàn)之一。Meta、谷歌和 TikTok 都依賴大量的版主，他們必須瀏覽可怕且經(jīng)常造成創(chuàng)傷的內(nèi)容。他們中的大多數(shù)人位于工資較低的發(fā)展中國家，為外包公司工作，并且由于只接受最低限度的心理健康護理而面臨心理健康問題。
然而，OpenAI 本身嚴(yán)重依賴 clickworkers 和人類工作。成千上萬的人（其中許多人來自肯尼亞等非洲國家）對內(nèi)容進行注釋和標(biāo)簽。這些短信可能會令人不安，工作壓力很大，而且工資很低。
盡管 OpenAI 宣稱其方法是新穎且革命性的，但人工智能多年來一直被用于內(nèi)容審核。馬克·扎克伯格關(guān)于完美自動化系統(tǒng)的愿景尚未完全實現(xiàn)，但 Meta 使用算法來控制絕大多數(shù)有害和非法內(nèi)容。YouTube 和 TikTok 等平臺依賴于類似的系統(tǒng)，因此 OpenAI 的技術(shù)可能會吸引那些沒有資源開發(fā)自己的技術(shù)的小公司。
每個平臺都公開承認大規(guī)模完美的內(nèi)容審核是不可能的。人類和機器都會犯錯誤，雖然百分比可能很低，但仍然有數(shù)以百萬計的有害帖子被漏掉，還有許多無害的內(nèi)容被隱藏或刪除。
特別是，誤導(dǎo)性、錯誤性和攻擊性內(nèi)容（不一定是非法的）的灰色區(qū)域給自動化系統(tǒng)帶來了巨大的挑戰(zhàn)。即使是人類專家也很難給這些帖子貼上標(biāo)簽，而機器也經(jīng)常出錯。這同樣適用于記錄犯罪或警察暴行的諷刺圖像和視頻。
最終，OpenAI 可能有助于解決其自身技術(shù)加劇的問題。ChatGPT 等生成式人工智能或該公司的圖像創(chuàng)建者 DALL-E 使得大規(guī)模創(chuàng)建錯誤信息并在社交媒體上傳播變得更加容易。盡管 OpenAI 承諾讓 ChatGPT 更加真實，但GPT-4 仍然心甘情愿地制造與新聞相關(guān)的虛假信息和錯誤信息。
文章翻譯自：theverge；原文鏈接：https://www.theverge.com/2023/8/15/23833406/openai-gpt-4-content-moderation-ai-meta