評論員文章

大家都還記得，ChatGPT剛出來時，它的代碼生成功能讓人們大感新鮮。

(資料圖片僅供參考)

然而，隨著各種似是而非、真假難辨的答案如潮水般涌入，被逼急的Stack Overflow不得不連夜下封殺令——ChatGPT，禁！

具體來說，Stack Overflow的版主有權(quán)封禁疑似發(fā)布ChatGPT等AI生成內(nèi)容的賬號，并且直接刪帖。

然而，Stack Overflow最近卻發(fā)布了這樣一條新規(guī)：

鑒于目前我們無法準(zhǔn)確識別AI生成的內(nèi)容，「假陽性」的概率非常高，這種一言堂的過度禁言措施，可能會讓網(wǎng)站損失大量有貢獻(xiàn)的網(wǎng)友。

因此，只有在真實(shí)可驗(yàn)證的情況下，版主們才能禁言賬號。而不管是寫作風(fēng)格等主觀猜測，還是GPT檢測器的結(jié)果，都不可作為衡量指標(biāo)。

這條版規(guī)一發(fā)，簡直讓版主們瞬間炸了鍋！

在他們看來，這簡直是對LLM幻覺肆意擴(kuò)散的公然默許，是對社區(qū)清明環(huán)境的公開破壞，是道德的淪喪，人性的扭曲……

其中一些版主，已經(jīng)憤而罷工了。

保衛(wèi)我們的社區(qū)不被AI侵占

一些版主和用戶寫了一封公開信，憤怒控訴新規(guī)將使Stack Overflow這個大家心中的代碼問答圣地徹底淪陷。

他們義憤填膺地表示，AI生成的內(nèi)容會對「平臺和內(nèi)容的完整性、可信度構(gòu)成重大威脅」。而運(yùn)營者的決定將破壞Stack Overflow成為「高質(zhì)量信息庫」的目標(biāo)。

從前，版主只要自己認(rèn)定帖子內(nèi)容是AI生成的，就能自行刪帖或封號。

但如今，這個標(biāo)準(zhǔn)變得非常嚴(yán)苛。以往的慣用方法，如今都不再適用。

而這些版主們認(rèn)為，這將意味著：以后在Stack Overflow上，AI生成的內(nèi)容可以被肆意發(fā)布，絲毫不用顧忌社區(qū)對此是何看法。

從此，一打開Stack Overflow，我們很可能會看到滿眼的錯誤信息，和抄襲來的內(nèi)容。

另外，新政也將剝奪Stack Exchange社區(qū)自行定義政策的余地。

遺憾的是，到目前為止，運(yùn)營者與版主們尚未取得良好的直接溝通，版主們最后能做的就是——選擇罷工，不再對平臺的帖子進(jìn)行審核。

在他們看來，自己的罷工是拯救社區(qū)「免于完全價值流失」的最后手段。

版主的抗議公開信全文

在大量AI生成的內(nèi)容被刪除之后，Stack Overflow公司頒布了一項(xiàng)新的「禁令」，默許不正確的信息和不受約束的剽竊行為在Stack Exchange上泛濫。這對該平臺及其內(nèi)容的完整性和可信度構(gòu)成了重大威脅。

以下簽名者，是Stack Overflow和Stack Exchange的志愿版主、貢獻(xiàn)者和用戶。

從即日起，我們將對Stack Overflow和Stack Exchange開展全面罷工，以抗議Stack Overflow公司現(xiàn)在以及將來將要強(qiáng)加給我們的政策和平臺規(guī)則變動。

我們通過合理的方式實(shí)現(xiàn)平臺變革的努力被忽視了，我們的擔(dān)憂也被無視了?，F(xiàn)在，作為最后的手段，我們要退出這個我們已經(jīng)投入了超過十年的關(guān)心和志愿努力的平臺。

我們堅(jiān)信Stack Exchange的核心使命：以問答的形式提供一個高質(zhì)量的信息庫，而Stack Overflow公司最近采取的行動則直接損害了這個目標(biāo)。

具體來說，版主不再被允許以AI生成的答案為由，在部分情況下刪除AI生成的答案。這使得幾乎所有AI生成的答案都可以自由發(fā)布，而無需考慮社區(qū)對此類內(nèi)容已有的既定共識。

反過來，這使得不正確的信息（俗稱「幻覺」）和剽竊行為在該平臺上肆意泛濫。

正如Stack Overflow公司之前指出的那樣，這破壞了我們對平臺的信任。

此外，直接發(fā)給版主的政策細(xì)節(jié)與公開概述的準(zhǔn)則有很大不同，版主還被禁止在公開場合分享這些細(xì)節(jié)。

這些政策無視此前上賦予給每個Stack Exchange社區(qū)決定各自政策的余地，在沒有和社區(qū)交換意見的情況下進(jìn)行直接修改，推翻社區(qū)的共識，還拒絕三思而行。

在這件事得到我們滿意的解決之前，我們將暫停這些活動，包括但不限于以下：

· 發(fā)布和處理flag

· 運(yùn)行SmokeDetector，反垃圾郵件機(jī)器人

· 關(guān)閉或投票關(guān)閉帖子

· 刪除或投票刪除帖子

· 審查隊(duì)列中的任務(wù)

· 運(yùn)行協(xié)助審核的機(jī)器人，如檢測抄襲、低質(zhì)量答案和粗魯?shù)脑u論等

在Stack Overflow公司收回這一新政策，以解決版主的擔(dān)憂，并允許版主有效地執(zhí)行針對AI生成的答案的既定政策之前，我們呼吁全面罷工，此舉將作為保護(hù)Stack Exchange平臺和用戶免受完全價值損失的最后努力。

同時，我們也想提醒Stack Overflow公司，一個完全依賴志愿者的網(wǎng)絡(luò)，不能一直忽視、虐待，并將矛頭指向這些志愿者。

Stack Overflow的新政策

新規(guī)中寫明，Stack Overflow官方對目前的內(nèi)容審核方法進(jìn)行了一系列分析后發(fā)現(xiàn)，AI生成的內(nèi)容審核機(jī)制并不準(zhǔn)確。

也就是說，對于一些內(nèi)容是否由AI生成的判定并不一定正確，負(fù)責(zé)的版主或者志愿者可能會出現(xiàn)錯誤判斷的情況。

官方擔(dān)心，此舉會助長對某些地區(qū)或國家的用戶的偏見，或是把大量合法的內(nèi)容發(fā)布者拒之門外。

為了解決這個問題，官方要求負(fù)責(zé)審核內(nèi)容的版主在封號之前，需要用非常嚴(yán)格的證據(jù)標(biāo)準(zhǔn)來確定該用戶發(fā)布的內(nèi)容是由AI生成的。

在新規(guī)下，版主們慣用的基于用戶寫作風(fēng)格，以及論壇行為等好用的標(biāo)準(zhǔn)都將不能再使用，因?yàn)檫@并不算「嚴(yán)格」。

官方表示，版主們所慣用的方法并不能100%的進(jìn)行裁定。

同時，GPT檢測器在官方看來也不可取。誤判率過高，不可接受，不能作為判定的可靠指標(biāo)。

總之，新規(guī)中官方對版主的權(quán)力進(jìn)行了限制。只有經(jīng)過嚴(yán)格證據(jù)審查得出的結(jié)論才能采納，并采取進(jìn)一步行動（如封停賬號等）。

任何靠直覺、猜測的方式都不應(yīng)該再采用。

為什么不得不罷工？一個版主的血淚控訴

一位版主在Stack Overflow上發(fā)帖，詳細(xì)解釋了版主們不得不選擇罷工的原因。

ta表示，大家這樣做，或多或少都是為了整個社區(qū)的利益。

2022年11月下旬，隨著ChatGPT的推出，大量用戶開始瘋狂把AI生成的答案搬運(yùn)上來。

用ChatGPT生成的答案，與真人用戶的回答非常相近

比如下面這位網(wǎng)友就表示，自己先新建了一個賬戶，然后把沒有答案的隨機(jī)問題貼進(jìn)ChatGPT里，再把生成的答案po出來。

在一個半小時內(nèi)，ta就po出了9個回答，并取得了1個接受、3個贊成，以及62個聲望值。

隨后，這些隨機(jī)復(fù)制粘貼自ChatGPT的回答，迅速產(chǎn)生巨大的影響，這位網(wǎng)友非常期待后續(xù)的情況。

玩花了的網(wǎng)友們引起的審核團(tuán)隊(duì)的注意，他們警鈴大作，立即為Stack Overflow制定了新規(guī)。

新規(guī)自然是有道理的，Stack Overflow從2008年成立以來，就一直靠社區(qū)志愿者審核來維持運(yùn)營。

但ChatGPT生成的答案通?？雌饋砗芎茫瑹o數(shù)網(wǎng)友在瘋狂發(fā)布這些答案，會給志愿者造成巨大的負(fù)擔(dān)。

因此，社區(qū)才不得不發(fā)布禁令。

這位版主表示，禁令發(fā)布后，版主們兢兢業(yè)業(yè)，直接參與了社區(qū)管理團(tuán)隊(duì)，在方方面面幫助這項(xiàng)新政策在這條社區(qū)實(shí)行。

而處理帖子的過程，也非常麻煩。

審核團(tuán)隊(duì)會使用JavaScript腳本來幫助審核，需要工具的時候，他們會直接上手去寫。他們還會擴(kuò)展現(xiàn)有的網(wǎng)站功能。

每天，版主們都會處理大量的帖子，還會經(jīng)歷被辱罵之類的情況。

因此，在周一接到新版禁令后，版主們非常心累。畢竟，大家都是志愿者，而不是正式員工。他們已經(jīng)為社區(qū)付出夠多了……

罷工者的訴求

罷工的版主們想要什么？歸根結(jié)底還是問題解決。

有些問題需要官方親自承認(rèn)，有些問題需要員工們公開進(jìn)行討論，明確到底應(yīng)該做什么。

ChatGPT規(guī)則是由整個社區(qū)共同制定的規(guī)則，并且已經(jīng)得到了廣泛的支持。

員工不應(yīng)該僅僅使用非公開渠道（聊天室和版主團(tuán)隊(duì)）進(jìn)行大規(guī)模的規(guī)則變更，走這些渠道就意味著廣大用戶將無法知曉。

版主被要求根據(jù)一項(xiàng)從未公開的規(guī)則來處理flag。而實(shí)際上，網(wǎng)站上的所有內(nèi)容都表明了舊有的政策仍然有效。

因此，版主仍然會收到無法與該政策一致處理的flag。最終，社區(qū)肯定會注意到這種不同。

那些在公告公開之前就發(fā)帖講解政策變化的少數(shù)版主，其實(shí)他們正冒著失去版主權(quán)力、無法訪問版主團(tuán)隊(duì)的風(fēng)險。這對版主來說非常不公平。

Philippe發(fā)帖怒斥新規(guī)，他表示，官方所擔(dān)心的可能產(chǎn)生的種族歧視是一種赤裸裸的指責(zé)。但很顯然，沒有人希望被無端指控為種族歧視。

在最壞的情況下，新規(guī)反映出員工認(rèn)為版主和社區(qū)持對立態(tài)度。

員工對政策的表述非常含糊（正如前面所說的，公開的和私下的政策存在差異），并且沒有提供他們認(rèn)為做得不正確的具體實(shí)例。

他們希望版主不再將GPT檢測器作為唯一的判斷標(biāo)準(zhǔn)，這當(dāng)然可以，但是對于一個在兩個小時內(nèi)發(fā)布了十幾個長回答的人來說，很明顯，這些回答肯定不全是他們自己寫的，他們只是在復(fù)制粘貼地回答問題。

根據(jù)政策，這是不可接受的，但版主們應(yīng)該如何處理呢？

版主們是否可以在沒有直接證據(jù)證明其為抄襲的情況下使用檢測工具？

然而，現(xiàn)實(shí)是，沒人告訴版主他們到底應(yīng)該怎么做……