1月27日，路透社消息稱法國頂尖學(xué)府之一的巴黎政治學(xué)院宣布該校將禁止使用ChatGPT，對使用該軟件的處罰可能會(huì)嚴(yán)重到被學(xué)校開除，甚至被整個(gè)法國高等教育開除。

(資料圖片)

“ChatGPT軟件正在向全世界的教育工作者和研究人員提出一個(gè)涉及欺詐和剽竊的嚴(yán)肅問題，”巴黎政治學(xué)院在這份通知中稱，“在沒有透明參考的情況下，除特定課程目的外，學(xué)生不得使用該軟件制作任何書面作品或演示文稿?！?/p>

巴黎政治學(xué)院并不是第一所宣布禁用ChatGPT的學(xué)校。ChatGPT發(fā)布不到一個(gè)月，就引起了美國教育界的高度重視。多所美國中學(xué)及大學(xué)陸續(xù)宣布校內(nèi)禁用ChatGPT，并通過減少課后作業(yè)的方式，避免學(xué)生利用家庭網(wǎng)絡(luò)訪問ChatGPT作弊。美國紐約市教育部，甚至要求全紐約市的學(xué)生和教師不要使用這款A(yù)I工具，并對下轄的教育部設(shè)備或互聯(lián)網(wǎng)設(shè)卡，限制訪問ChatGPT。

AI生成內(nèi)容的倫理和法律問題，正在引發(fā)社會(huì)各界的廣泛討論與思考。

AI背后的學(xué)術(shù)隱憂

“ChatGPT很好玩，但它不是作者”，這是《Science》期刊主編Holden Thorp在1月26日發(fā)表的一篇關(guān)于人工智能的社論。Holden Thorp指出，“原創(chuàng)”是Science發(fā)表論文的基礎(chǔ)，而利用ChatGPT編寫文本的行為，等同于從ChatGPT中抄襲。

“我們正在更新編輯政策，要求作者不要使用ChatGPT（或任何其他人工智能工具）生成的文本、數(shù)據(jù)、圖像或是圖形。違反這一政策將被Science期刊視為學(xué)術(shù)不端行為，這與篡改圖像或抄襲無異。”不過Holden Thorp也表示，上述規(guī)定并不包含AI論文中以研究為目的生成的數(shù)據(jù)。

在AI學(xué)界，知名機(jī)器學(xué)習(xí)會(huì)議之一的ICML（International Conference on Machine Learning）最近也宣布禁止“發(fā)表包含從大型語言模型（LLM，Large Language Model）生成的文本（例如 ChatGPT）的論文（相關(guān)研究除外）”，以免出現(xiàn)“意想不到的后果和無法解決的問題”。

對于學(xué)術(shù)期刊和頂會(huì)論文來說，AI生成的內(nèi)容最大的問題在于知識(shí)權(quán)屬和責(zé)任確定問題。作為論文作者，研究人員無疑要對論文的觀點(diǎn)和內(nèi)容負(fù)責(zé)，而AI要如何對文章內(nèi)容負(fù)責(zé)？如果AI生成的內(nèi)容出現(xiàn)了謬誤、不恰當(dāng)、造假，甚至是抄襲剽竊，又該如何追責(zé)呢？

考慮到“AI作弊”帶來的普遍問題，目前從OpenAI官方，到學(xué)術(shù)期刊出版商，以及“草根”開發(fā)者都在研究如何分辨一篇文章的“作者”到底是人還是機(jī)？

目前，OpenAI正在研發(fā)相應(yīng)的AI檢測工具。OpenAI客座研究員Scott Aaronson在德克薩斯大學(xué)的一次演講中表示，他們正在通過給AI生成內(nèi)容打“水印”來打擊作弊。這項(xiàng)技術(shù)將通過調(diào)整ChatGPT生成單詞的規(guī)則，在生成內(nèi)容的特定位置制造“偽隨機(jī)”的特定單詞，讀者很難察覺，但就如同密電碼一樣，“握有密鑰”的人就輕易判斷這篇內(nèi)容是否是ChatGPT生成的了。

《Nature》的出版商Springer Nature也正在開發(fā)可以檢測LLM的技術(shù)。而就在前不久，普林斯頓大學(xué)的一位22歲的華裔學(xué)生Edward Tian研究出了一款專門給ChatGPT挑毛病的應(yīng)用GPTZero，可以通過檢測文本的“困惑性（Perplexity）”和“突發(fā)性（Burstiness）”這兩項(xiàng)指標(biāo)，來判斷內(nèi)容是人類創(chuàng)作還是機(jī)器生成。

AI引發(fā)版權(quán)問題

在校外，AI本身的“道德”問題，則讓美術(shù)“老師”們對新生的AI繪圖工具提出了嚴(yán)重的質(zhì)疑，這直指另一個(gè)至關(guān)重要的問題——版權(quán)。

自從AIGC火了以后，很多行業(yè)的配圖工作變得輕松了許多。以媒體行業(yè)為例，嚴(yán)肅媒體對新聞配圖要求高，既要符合文意，又要對版權(quán)負(fù)責(zé)。所以無論是美術(shù)作品還是照片，要么是親手創(chuàng)作，要么來自授權(quán)圖庫，但很多文章受客觀條件限制，要找到一張符合要求的配圖并不容易。

有了AI繪圖以后，很多媒體人開始嘗試用AI畫配圖，甚至是直接繪制新聞人物的肖像。那發(fā)自己用AI做的圖，總不會(huì)侵權(quán)吧？這個(gè)問題，還真不一定。

2022年下半年，AIGC剛剛躥紅，就有一些小有名氣的藝術(shù)家對AI繪圖提出了抗議。2022年，Erin Hanson等眾多美國藝術(shù)家發(fā)起了反對Stable Diffusion的抗議行動(dòng)，他們認(rèn)為Stable Diffusion生成的部分畫作抄襲了他們的風(fēng)格，而這種行為嚴(yán)重侵犯了他們的合法權(quán)益。

AIGC雖然叫做AI生成，但其本身并沒有創(chuàng)造能力，只能通過不斷學(xué)習(xí)人類的生產(chǎn)過程，照貓畫虎，AI繪圖就是典型。在AI訓(xùn)練過程中，需要“投喂”大量的人類畫作，從而學(xué)習(xí)人類的構(gòu)圖、繪畫技巧，實(shí)現(xiàn)AIGC（AI Generative Content，AI生成內(nèi)容）。

不過在這個(gè)生成的過程中，AI學(xué)的實(shí)在太像了，以至于很多畫作直接與模型庫中的人類畫師風(fēng)格完全一致。

“稍有名氣的畫師可能都遇到過作品被盜用、創(chuàng)意被侵權(quán)的事件?！币晃粐鴥?nèi)某知名游戲公司的美術(shù)總監(jiān)向虎嗅表示，雖然AI沒有完全盜用畫師的作品，但畫師對風(fēng)格上的抄襲也是很難接受的，不論抄襲者是人類還是AI?！叭绻腥四弥c我繪圖風(fēng)格完全一樣的畫，說是學(xué)習(xí)或是參考我覺得沒什么。但如果說這是他‘生成’的，那就跟聲明原創(chuàng)沒什么差別了。不管是否用于商業(yè)用途，我都會(huì)覺得被嚴(yán)重冒犯了?！?/p>

AI的抄襲、剽竊和作弊不應(yīng)該只是道德問題，還需要法律法規(guī)的約束。而目前，AI在很多領(lǐng)域都存在法律盲區(qū)。

我國AI領(lǐng)域的立法還處于建章立制階段。當(dāng)前已經(jīng)出臺(tái)了兩部與AI相關(guān)的監(jiān)管條例，分別是《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》和《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》，并均已開始生效。除此以外，還有一些分散在《民法典》、《數(shù)據(jù)安全法》、《網(wǎng)絡(luò)安全法》、《個(gè)保法》、《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》、《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》等法律法規(guī)中的個(gè)別條款規(guī)定以及一些支持產(chǎn)業(yè)發(fā)展性質(zhì)的文件，目前來說還沒有成為一個(gè)完整的體系。

“AI生成內(nèi)容是一項(xiàng)新興的技術(shù)，法律的滯后性和穩(wěn)定性導(dǎo)致目前還沒有專門對這種AI疑似抄襲的現(xiàn)象進(jìn)行規(guī)制?！庇^韜中茂律師事務(wù)所合伙人王渝偉表示，從國外行業(yè)實(shí)踐來看，越來越多的平臺(tái)和AI繪圖工具對作品版權(quán)作出了嚴(yán)格要求，謹(jǐn)防AI抄襲導(dǎo)致著作權(quán)侵權(quán)。在我國，目前還是應(yīng)當(dāng)根據(jù)《著作權(quán)法》，判斷AI生成內(nèi)容與人類藝術(shù)家作品之間是否存在實(shí)質(zhì)性相似，進(jìn)而認(rèn)定是否抄襲。

除了涉嫌抄襲藝術(shù)家作品的AIGC內(nèi)容，在另一方面，即使是隨機(jī)生成的內(nèi)容及畫作，也還是會(huì)涉及版權(quán)問題。

AI繪圖在抖音和小紅書上剛剛興起之時(shí)，即有腦洞大開的網(wǎng)友提出，可以把AI生成的圖片掛到付費(fèi)圖庫作為收費(fèi)資源，實(shí)現(xiàn)“躺賺”。

面對這樣的騷操作，Adobe選擇“有限制”地開放AI繪圖。只要符合特定標(biāo)準(zhǔn)，就允許在圖片庫Adobe Stock中上傳生成式 AI 藝術(shù)品進(jìn)行售賣。但上傳前必須標(biāo)記 AI 制作的內(nèi)容，并且需要擁有其參考圖像或文本的商業(yè)版權(quán)。

作為一款開源模型，Stable diffusion的開發(fā)者Stability AI和RunwayML則認(rèn)為既然開源，那么它也應(yīng)該依此引用開源CC0協(xié)議，即版權(quán)歸公，同時(shí)任何人也可以自由地使用，包括商業(yè)使用。而對于DALL-E 2和Midjourney這樣并未開源的AIGC模型來說，生成內(nèi)容的權(quán)屬則相對模糊。

目前AIGC市場上也存在很多版權(quán)亂象，一些基于Stable Diffusion開發(fā)應(yīng)用的廠商聲稱，使用自己AI程序生成的圖片版權(quán)歸自己，甚至依此生產(chǎn)NFT向使用者兜售。

對此，王渝偉認(rèn)為，AI應(yīng)用的使用者，在使用這種應(yīng)用進(jìn)行創(chuàng)作時(shí)，生成的圖片如果符合獨(dú)創(chuàng)性的要件，就能夠構(gòu)成《著作權(quán)法》上的作品。而廠商已明確告知了使用者著作權(quán)的歸屬問題，相當(dāng)于在合同中已經(jīng)進(jìn)行了約定，所以這種作品的著作權(quán)應(yīng)當(dāng)歸屬于廠商。?并不是說AI應(yīng)用基于開源模型開發(fā)，它所生成的作品就不存在著作權(quán)，還是應(yīng)當(dāng)根據(jù)《著作權(quán)法》的規(guī)定判定著作權(quán)歸屬。

“目前相關(guān)法律制定最大的障礙和阻力，可能是法律如何保持科技發(fā)展和倫理價(jià)值的平衡?！蓖跤鍌ヌ岢?，一方面，AI技術(shù)的高速發(fā)展，可能會(huì)與人類的基本倫理認(rèn)知相違背，違反社會(huì)公序良俗；另一方面，法律的規(guī)制也不能對AI技術(shù)設(shè)置過于嚴(yán)苛的標(biāo)準(zhǔn)，影響AI的進(jìn)一步發(fā)展。

本文作者：齊健，來源：虎嗅APP，原文標(biāo)題：《ChatGPT很厲害，但還有關(guān)鍵問題懸而未決》

風(fēng)險(xiǎn)提示及免責(zé)條款 市場有風(fēng)險(xiǎn)，投資需謹(jǐn)慎。本文不構(gòu)成個(gè)人投資建議，也未考慮到個(gè)別用戶特殊的投資目標(biāo)、財(cái)務(wù)狀況或需要。用戶應(yīng)考慮本文中的任何意見、觀點(diǎn)或結(jié)論是否符合其特定狀況。據(jù)此投資，責(zé)任自負(fù)。

關(guān)鍵詞： 管理規(guī)定 政治學(xué)院 信息服務(wù)