本文來(lái)自微信公眾號(hào)：德外5號(hào)（ID：dewaiwuhao），作者：呂菁，原文標(biāo)題：《<衛(wèi)報(bào)>對(duì)AIGC的態(tài)度：我們所做的不能合成復(fù)制 | 德外視窗》，頭圖來(lái)自：視覺(jué)中國(guó)

(資料圖)

在面對(duì)生成式AI帶來(lái)的變革面前，《衛(wèi)報(bào)》管理高層對(duì)生成式AI的態(tài)度和原則值得參考。

“在理想狀態(tài)下，它真的令人眼花繚亂。但它也有一些缺點(diǎn)?！薄缎l(wèi)報(bào)》編輯創(chuàng)新主管克里斯·莫蘭（Chris Moran）用一句話簡(jiǎn)潔地總結(jié)了大多數(shù)記者、編輯和新聞主管對(duì)ChatGPT等新技術(shù)的看法。這些缺點(diǎn)可能會(huì)對(duì)新聞業(yè)帶來(lái)嚴(yán)重的威脅。

但同時(shí)，莫蘭也認(rèn)為生成式AI的應(yīng)用實(shí)踐讓他“對(duì)新聞給世界帶來(lái)的價(jià)值感到非常樂(lè)觀”。因?yàn)橥ㄟ^(guò)研究生成式AI的作用機(jī)制，會(huì)進(jìn)一步證實(shí)新聞工作的重要性，它不能被簡(jiǎn)單的合成復(fù)制所取代。

制造幻象：“不能忽視AI工具會(huì)編造事實(shí)”

ChatGPT 以及其他生成式AI工具會(huì)通過(guò)編造信息，或?yàn)榱丝偨Y(jié)內(nèi)容而引入原文本中沒(méi)有的“事實(shí)”來(lái)制造“幻象”。北歐媒體公司Schibsted已經(jīng)在實(shí)際使用中證明了這一點(diǎn)。生成式AI在撰寫(xiě)文章摘要的過(guò)程中會(huì)編造原文中沒(méi)有的信息，這樣做的概率每十次中就有一次。

同樣，衛(wèi)報(bào)也遭遇過(guò)類似事件。有研究人員使用ChatGPT開(kāi)展研究時(shí)，ChatGPT引用了《衛(wèi)報(bào)》指定記者多年前撰寫(xiě)的一篇文章。然而《衛(wèi)報(bào)》工作人員通過(guò)檔案檢索，甚至查閱了已刪除文檔，都找不到這篇文章存在過(guò)痕跡。因?yàn)?，這篇文章根本就不存在，它只是AI生造的“幻象”而已。

莫蘭不否認(rèn)生成式AI技術(shù)非常令人興奮，但作為記者“你真的不能忽視它會(huì)編造內(nèi)容的事實(shí)?！?/strong>這類型的幻象問(wèn)題到底會(huì)隨著技術(shù)的發(fā)展得到解決，還是會(huì)成為生成式AI應(yīng)用過(guò)程中不可避免的一部分，人們對(duì)此爭(zhēng)論不休。對(duì)于許多新聞媒體來(lái)說(shuō)，這個(gè)問(wèn)題不克服會(huì)使生成式AI難以成為可信賴的信息來(lái)源。

莫蘭指出，谷歌在測(cè)試中，預(yù)計(jì)將把生成式AI巴德（Bard）整合到搜索當(dāng)中，同時(shí)，谷歌對(duì)其提供的搜索結(jié)果也發(fā)出了“巴德可能會(huì)顯示不準(zhǔn)確或冒犯性的信息，這些信息不代表谷歌的觀點(diǎn)?！钡木?。

莫蘭對(duì)于這種做法持質(zhì)疑態(tài)度，“我認(rèn)為，作為一家高質(zhì)量的新聞機(jī)構(gòu)，必須冷靜地思考一些根本性的問(wèn)題，關(guān)于新聞機(jī)構(gòu)是否可以在現(xiàn)有條件下部署運(yùn)用生成式AI?！?/p>

集體談判：重估媒體的價(jià)值

新聞集團(tuán)首席執(zhí)行官羅伯特·湯姆森（Robert Thomson）認(rèn)為，媒體行業(yè)的“集體知識(shí)產(chǎn)權(quán)正受到威脅”，新聞媒體應(yīng)該“大聲主張賠償”。為解決這一爭(zhēng)端，全球最大的科技公司正在與主要媒體進(jìn)行談判，希望達(dá)成具有里程碑意義的交易。

關(guān)于威脅的由來(lái)，莫蘭解釋道：“當(dāng)微軟、谷歌和其他公司將AI工具與搜索引擎相嫁接時(shí)，人們會(huì)期待它能搜索出清晰而準(zhǔn)確的答案，而這可能會(huì)導(dǎo)致生成式AI編造虛假新聞?！盇I工具甚至還可能將這些憑空產(chǎn)生的新聞扣上《衛(wèi)報(bào)》《泰晤士報(bào)》或是《紐約時(shí)報(bào)》的“帽子”。這勢(shì)必對(duì)信息生態(tài)系統(tǒng)的健康產(chǎn)生負(fù)面影響，也會(huì)損害新聞機(jī)構(gòu)的品牌信譽(yù)。

不僅如此，生成式AI還將新聞內(nèi)容剝離新聞網(wǎng)站直接提供給用戶，致使新聞行業(yè)的商業(yè)模式遭到破壞。像這樣白白為他人做嫁衣的事，新聞行業(yè)在接入互聯(lián)網(wǎng)的早期已經(jīng)遭遇過(guò)一次了。當(dāng)時(shí)新聞機(jī)構(gòu)提供的免費(fèi)新聞被無(wú)償引入搜索引擎或社交媒體，而谷歌和Facebook等大型科技公司卻憑借這些信息發(fā)展起數(shù)十億美元的廣告平臺(tái)。

此外，《衛(wèi)報(bào)》已經(jīng)運(yùn)營(yíng)了一個(gè)API（Application Programming Interface，應(yīng)用程序編程接口）好幾年了，人們可以通過(guò)該API付費(fèi)獲取其內(nèi)容流，但從來(lái)沒(méi)有AI公司聯(lián)系要求使用它。莫蘭說(shuō)，《衛(wèi)報(bào)》正在“思考我們的內(nèi)容在這種環(huán)境中的價(jià)值”，并補(bǔ)充道“可以肯定的是，新聞媒體在這些常見(jiàn)爬蟲(chóng)數(shù)據(jù)集中起到了非常重要的作用”。

英國(guó)《金融時(shí)報(bào)》6月報(bào)道稱，包括新聞集團(tuán)（News Corp）、阿克塞爾·斯普林格（Axel Springer）、《紐約時(shí)報(bào)》（New York Times）和《衛(wèi)報(bào)》（The Guardian）在內(nèi)的新聞媒體正在與科技公司討論在聊天機(jī)器人中使用其內(nèi)容的版權(quán)和付費(fèi)問(wèn)題。談判的議題不止局限在利益分配上，還包括新聞機(jī)構(gòu)如何與生成式AI公司合作的具體事宜。

“版權(quán)對(duì)所有媒體來(lái)說(shuō)都是一個(gè)至關(guān)重要的問(wèn)題，”英國(guó)《金融時(shí)報(bào)》表示也在就此事進(jìn)行談判?！白鳛橐患矣嗛喥髽I(yè)，我們需要保護(hù)我們的新聞和商業(yè)模式的價(jià)值。像我們一樣，與相關(guān)公司進(jìn)行建設(shè)性對(duì)話是實(shí)現(xiàn)這一目標(biāo)的最佳方式?！?/p>

《衛(wèi)報(bào)》的人工智能使用原則

為了應(yīng)對(duì)AI帶來(lái)的風(fēng)險(xiǎn)和機(jī)遇，《衛(wèi)報(bào)》成立了一個(gè) Guardian AI 工作組，在6月發(fā)布了三條AI原則，闡明《衛(wèi)報(bào)》將如何使用或不使用生成式AI工具。

1.為了讀者的利益

由于生成式AI目前并不可靠，所以《衛(wèi)報(bào)》考慮僅在有助于原創(chuàng)新聞的創(chuàng)建和分發(fā)的情況下，在編輯中使用生成式AI工具。同時(shí)還要謹(jǐn)防嵌入在AI工具的底層調(diào)校中的偏見(jiàn)。在以任何方式使用生成式AI之前，《衛(wèi)報(bào)》記者必須明確這樣做對(duì)讀者有益，并獲得高級(jí)編輯的認(rèn)可，并將使用痕跡向讀者公開(kāi)。

2.為了我們的使命、我們的員工和更廣泛的組織的利益

衛(wèi)報(bào)將致力于讓生成式AI提高工作效率，例如幫助記者訪問(wèn)大型數(shù)據(jù)集，為同事們提供修正建議，為營(yíng)銷活動(dòng)提供創(chuàng)意，或減少過(guò)度耗時(shí)的官僚主義業(yè)務(wù)流程。所有對(duì)AI工具的使用都必須以促進(jìn)《衛(wèi)報(bào)》使命達(dá)成為目標(biāo)：“嚴(yán)肅的報(bào)道需要花費(fèi)時(shí)間和精力，仔細(xì)揭露事實(shí)，讓有權(quán)勢(shì)的人承擔(dān)責(zé)任，對(duì)想法和論點(diǎn)提出質(zhì)疑”。

3.尊重內(nèi)容的創(chuàng)作者和版權(quán)擁有者

許多生成式AI模型都是不透明的系統(tǒng)，這些系統(tǒng)是在未經(jīng)創(chuàng)建者知情或同意的情況下收集材料并進(jìn)行訓(xùn)練的。《衛(wèi)報(bào)》考慮使用工具和模型的指導(dǎo)原則是它們?cè)诙啻蟪潭壬峡紤]了權(quán)限、透明度和公平獎(jiǎng)勵(lì)等關(guān)鍵問(wèn)題。即便以任何形式使用生成式AI，也不代表《衛(wèi)報(bào)》要放棄追溯版權(quán)的訴求。

盡管制定了這些原則，但《衛(wèi)報(bào)》尚未以任何方式將生成式AI工具添加到新聞采編過(guò)程中。對(duì)此，莫蘭的解釋是，《衛(wèi)報(bào)》不希望只是為了追求新鮮感而使用生成式AI。

目前新聞機(jī)構(gòu)對(duì)生成式AI能否提升效率尚存在爭(zhēng)議。因?yàn)樗鼰o(wú)法在沒(méi)有人類參與的情況下實(shí)現(xiàn)自動(dòng)化，并且其內(nèi)容的真實(shí)與準(zhǔn)確性還需要人工核查，那么它的實(shí)際生產(chǎn)效率就會(huì)下降。

更為重要的一點(diǎn)是，為抵御合成內(nèi)容的巨浪，避免被其吞噬，我們最不應(yīng)該放棄的就是作為訓(xùn)練有素的記者和編輯應(yīng)有的專業(yè)性，因?yàn)槲覀兪侨祟悺?/strong>

所以，衛(wèi)報(bào)正在尋找更多的案例，明確哪些是AI工具能做而我們不能做的，以及AI工具能為解放專業(yè)人士的創(chuàng)造性生產(chǎn)力做好哪些基礎(chǔ)性工作等等。

衛(wèi)報(bào)工作人員沒(méi)有部署AI工具的壓力

關(guān)于《衛(wèi)報(bào)》何時(shí)會(huì)在新聞編輯部中部署AI工具，莫蘭表示，在新聞生產(chǎn)環(huán)境中部署一種模型，尤其是在IP會(huì)話的背景下，這是一個(gè)重大決定。由于現(xiàn)在缺乏具有充分說(shuō)服力和變革性的有效案例，所以現(xiàn)在并不是部署AI工具的好時(shí)機(jī)。一些本質(zhì)性的問(wèn)題需要找到答案，比如AI工具是如何工作的？對(duì)讀者有好處嗎？它參與的痕跡能被分離出來(lái)嗎？無(wú)論付出怎樣的代價(jià)都值得嗎？

當(dāng)員工準(zhǔn)備在具體工作中使用生成式AI工具之前，首要考慮的是教會(huì)他們鑒別使用AI工具的潛在風(fēng)險(xiǎn)，例如了解點(diǎn)擊“使其更簡(jiǎn)潔”按鈕可能會(huì)導(dǎo)致的后果。莫蘭透露，《衛(wèi)報(bào)》已經(jīng)向英國(guó)、美國(guó)和澳大利亞新聞編輯部的270人進(jìn)行了演示，他們最終將制作一些類似員工社交媒體指南的內(nèi)容，規(guī)范員工在社交媒體的行為。

“就常規(guī)工作而言，接受AI工具的應(yīng)用教育比做成一件具體的事更重要?！?/strong>莫蘭說(shuō)。新聞機(jī)構(gòu)的AI工具應(yīng)用抉擇需要對(duì)記者、設(shè)計(jì)師和攝影師們負(fù)責(zé)，因?yàn)樗麄兊墓ぷ骱芸赡軙?huì)受到生成式AI的影響。

莫蘭認(rèn)為，AI工具的應(yīng)用也許會(huì)提高工作效率，但這樣做還為時(shí)尚早，因?yàn)樗€不值得信賴。所以應(yīng)該更審慎地作出決定。對(duì)于AI工具的應(yīng)用將會(huì)如何影響新聞行業(yè)的發(fā)展，現(xiàn)在還沒(méi)有定論。誰(shuí)也難以保證它會(huì)讓一切變得更好，抑或演變?yōu)橐粓?chǎng)災(zāi)難。

“可以肯定的是，隨著技術(shù)的進(jìn)步發(fā)展，未來(lái)的某一天，它將徹底地改變我們的工作。”莫蘭說(shuō)。

本文來(lái)自微信公眾號(hào)：德外5號(hào)（ID：dewaiwuhao），作者：呂菁