X 剖析社區(qū)注釋：提高事實(shí)核查效率同時(shí)，可能擴(kuò)散錯(cuò)誤信息

　　社交媒體 X 計(jì)劃利用 AI 撰寫社區(qū)注釋(community notes)，其目的是提高事實(shí)核查效率，但官方也承認(rèn)存在明顯風(fēng)險(xiǎn)。

　　該計(jì)劃可能破壞用戶對(duì)事實(shí)核查系統(tǒng)的信任，因?yàn)?AI 撰寫的注釋可能不準(zhǔn)確且具有誤導(dǎo)性。專家警告，AI 注釋可能導(dǎo)致錯(cuò)誤信息擴(kuò)散，并可能加劇審查負(fù)擔(dān)。

　　在最新研究論文中，X 平臺(tái)將這一計(jì)劃描述為一次“升級(jí)”，同時(shí)解釋了 AI 撰寫社區(qū)注釋可能出現(xiàn)的所有問題。

　　在理想情況下，X 平臺(tái)描述了 AI 能夠加速和增加錯(cuò)誤帖子上的社區(qū)注釋數(shù)量，從而提高平臺(tái)范圍內(nèi)的事實(shí)核查力度。

　　每個(gè) AI 撰寫的注釋將由人工審查員評(píng)分，為 AI 提供反饋，以改善其寫作能力。隨著 AI 寫作能力提升，人工審查員可以專注于 AI 無法快速處理的更細(xì)微的事實(shí)核查任務(wù)，例如需要特定專業(yè)知識(shí)或社會(huì)意識(shí)的帖子。

　　如果一切順利，人類和 AI 審查員將共同轉(zhuǎn)變 X 的事實(shí)核查方式，甚至探索形成“公共知識(shí)生產(chǎn)中人類與 AI 合作的新形式”。

　　IT之家援引論文觀點(diǎn)，然而，仍然存在一個(gè)關(guān)鍵問題：X 平臺(tái)不確定 AI 撰寫的注釋是否能夠像人類撰寫的注釋一樣準(zhǔn)確。

　　進(jìn)一步復(fù)雜化的是，AI 可能會(huì)生成“有說服力但錯(cuò)誤”的注釋，人類評(píng)分員可能會(huì)因?yàn)?AI 在撰寫有說服力、情感共鳴且看似中立的注釋方面“異常擅長(zhǎng)”而給予好評(píng)。這可能會(huì)破壞反饋循環(huán)，削弱社區(qū)注釋的可信度，并隨著時(shí)間的推移，讓整個(gè)系統(tǒng)變得不那么可靠。

　　X 平臺(tái)預(yù)測(cè)，如果無法解決這一難題，最重要的注釋的影響可能會(huì)被稀釋。一種可能的解決方案是取消人工審查流程，將 AI 撰寫的注釋應(yīng)用于“類似上下文”的帖子，但最大的潛在問題是顯而易見的：自動(dòng)匹配人們認(rèn)為不需要注釋的帖子可能會(huì)顯著削弱系統(tǒng)信任度。

廢棄水果“變形記”（科...

最后一頁