版面截屏圖

【編者按】

人工智能是引領(lǐng)這一輪科技革命和產(chǎn)業(yè)變革的戰(zhàn)略性技術(shù)。生成式人工智能的迅速崛起，正使得AI逐漸滲透至普通人的生活。正如任何先進(jìn)技術(shù)都可能被誤用，AI作為工具被濫用的情況也逐步浮出水面。技術(shù)無善惡，但法律有邊界，新華每日電訊推出系列評論，為走偏的AI劃出界限。

復(fù)活逝者？AI變現(xiàn)不能無倫理底線

評論員顏之宏

近日，一些商業(yè)機(jī)構(gòu)聲稱只要“一張照片”和“一段人聲錄音”，就能利用AI技術(shù)“復(fù)活”逝者，讓其親屬緩解相思之苦。為證實(shí)其能力，部分商家還使用AI技術(shù)“復(fù)活”了一些已故明星，以此達(dá)到招徠顧客的目的。這一行為迅速在社交平臺上引起關(guān)注，一些被“復(fù)活”藝人的親屬對此強(qiáng)烈不滿，要求刪除視頻。

AI技術(shù)正站在風(fēng)口上，存在巨大的商業(yè)想象空間。但是，在“技術(shù)變現(xiàn)”的過程中，應(yīng)以恪守倫理為原則，以遵守法律為底線。民法典第994條明確規(guī)定，“死者的姓名、肖像、名譽(yù)、榮譽(yù)、隱私、遺體等受到侵害的，其配偶、子女、父母有權(quán)依法請求行為人承擔(dān)民事責(zé)任；死者沒有配偶、子女且父母已經(jīng)死亡的，其他近親屬有權(quán)依法請求行為人承擔(dān)民事責(zé)任。”這就意味著，即使斯人已逝，其面容、聲音等特征信息仍受法律保護(hù)。上述事件中，商家若沒有取得相關(guān)近親屬的同意授權(quán)，就涉嫌違法。

用AI技術(shù)來延續(xù)親人的“數(shù)字生命”，還必須恪守倫理底線、彰顯技術(shù)溫度。不久前，一位短視頻博主為了撫慰自己的奶奶，利用AI換臉技術(shù)，將因病去世的父親“復(fù)活”，網(wǎng)友紛紛點(diǎn)贊。如此善意地使用技術(shù)，既為生者留念想，也為逝者保尊嚴(yán)，應(yīng)當(dāng)被鼓勵。這與某些只為博流量、謀利益的做法形成了鮮明的對比。在堅(jiān)持正確價(jià)值導(dǎo)向的前提下，將前沿技術(shù)進(jìn)行商業(yè)轉(zhuǎn)化不僅能帶來可觀的經(jīng)濟(jì)利益，也能反過來助力技術(shù)水平的提升。當(dāng)下，有人用AI技術(shù)找到了程序中的“BUG”，達(dá)到了降本增效的目的；有人用AI技術(shù)“開天眼”，幫助醫(yī)生在患者的CT圖像中找病灶；還有人把AI技術(shù)用在影視作品的特效制作中，以此提升影視劇的觀賞性。這些真實(shí)的案例都能產(chǎn)出高附加值的經(jīng)濟(jì)效益，也是“技術(shù)向善”的重要體現(xiàn)。

從“一鍵脫衣”到“復(fù)活生意”，在技術(shù)發(fā)展的過程中，行業(yè)參與者不能將牟利訴求建立在他人的痛苦之上。針對此類不法現(xiàn)象，有關(guān)部門也應(yīng)采取措施，維護(hù)法律的嚴(yán)肅性，營造清朗的網(wǎng)絡(luò)空間。

刷榜跑分？AI評測不應(yīng)走偏路線

評論員周琳、董雪

“百模大戰(zhàn)”以來，AI大模型的部分榜單上出現(xiàn)了一個奇怪現(xiàn)象：長期盤踞在榜單前列的，經(jīng)常是一些名不見經(jīng)傳的國產(chǎn)大模型，它們竟然以接近滿分的優(yōu)勢碾壓了ChatGPT、Gemini和其他知名的AI大模型。

之所以令人大跌眼鏡，是因?yàn)檫@與大眾的實(shí)際體驗(yàn)嚴(yán)重不符。不少AI大模型分?jǐn)?shù)名列前茅，實(shí)力卻不及格。如果說“聽不懂答不對、動不動就崩潰”司空見慣，那么更諷刺的是，有的大模型根本沒對業(yè)界開放，就算大家想感受一下“第一名”的風(fēng)采都找不到門路。

有人可能會好奇：一些AI大模型“高分低能”是怎么做到的？原因其實(shí)很簡單，那就是評測中出現(xiàn)了數(shù)據(jù)污染和泄露。簡單來說，榜單排名類似于有第三方“考官”出了一個題庫，題庫中大量考題針對性測評大模型各個方面的能力，而有的“考生”提前拿到題庫，并把答案逐一背了下來。

“考高分”的目的也很明確，那就是投機(jī)取巧、炒作包裝。業(yè)內(nèi)人士告訴記者，在國內(nèi)眾多大模型激烈競爭、良莠不齊的當(dāng)下，許多大模型還未在用戶之間形成過硬的口碑，離產(chǎn)生世界級影響還有較遠(yuǎn)的一段路。而評測是直觀體現(xiàn)大模型能力的關(guān)鍵方式之一，學(xué)術(shù)化榜單和市場化榜單都得到了廣泛重視，刷榜跑分因此成為一些企業(yè)快速吸引眼球的手段。

當(dāng)然，榜單失真的背后，不只有作弊的“考生”，也可能有徇私的“考官”。業(yè)界需要客觀、公正、高水準(zhǔn)的優(yōu)質(zhì)榜單幫助大家慧眼識珠、去偽存真，“考官”如果協(xié)助“考生”作弊，無疑會擾亂AI大模型的評測環(huán)境。所幸我們看到，部分榜單在遇到刷榜跑分問題后，及時推出補(bǔ)救措施，例如將公開大模型和非公開大模型區(qū)分為兩張榜單，成功擠出大量非公開大模型的水分。

是金非金焰烈而曉，部分大模型企業(yè)一心撲在刷榜跑分上顯然走偏了路線。說到底AI大模型的發(fā)展還是那句老話，關(guān)鍵核心技術(shù)要不來、買不來、討不來，更包裝不來，唯有一步一個腳印，扎扎實(shí)實(shí)地向前走。

套殼冒充？AI推廣不應(yīng)觸法律紅線

評論員程思琪

你以為用的是ChatGPT，其實(shí)只是“套殼AI”。前不久，上海市場監(jiān)管部門查辦了一起ChatGPT商業(yè)混淆案，當(dāng)事人聲稱可提供ChatGPT服務(wù)，但消費(fèi)者使用的卻并非正品。一時間，“套殼AI”引發(fā)輿論關(guān)注，也讓不少AI界“李鬼”現(xiàn)了原形。

自AI產(chǎn)業(yè)蓬勃發(fā)展以來，“套殼AI”現(xiàn)象便屢屢發(fā)生。2023年初，百度“文心一言”上市前夕，網(wǎng)上就曾出現(xiàn)大量自稱“文心一言”的社交賬號，后被官方證明均為假冒。這些“套殼AI”的經(jīng)營者通過將自己的產(chǎn)品與知名AI產(chǎn)品進(jìn)行“攀附”，刻意混淆，讓消費(fèi)者誤認(rèn)誤用，從而獲取不當(dāng)利益。

“套殼AI”如此泛濫，一方面源于人們對前沿科技的狂熱追逐，另一方面也由于人工智能大模型的開源生態(tài)讓生成式AI更容易被濫用。據(jù)專家分析，“套殼AI”主要有兩種模式，一種是通過接入官方平臺，以中轉(zhuǎn)站形式給用戶當(dāng)“二傳手”；另一種則完全使用山寨平臺，使用與知名平臺高度相似的名稱、標(biāo)識等作為“偽裝”。

但不論是哪一種模式，“套殼AI”都隱藏著巨大法律風(fēng)險(xiǎn)和安全隱患。根據(jù)《中華人民共和國反不正當(dāng)競爭法》第六條的規(guī)定，經(jīng)營者不得實(shí)施足以引人誤認(rèn)為是他人商品或者與他人存在特定聯(lián)系的混淆行為。由此可見，上述AI商業(yè)混淆案的當(dāng)事人已構(gòu)成違法。不僅如此，使用知名平臺名稱、商標(biāo)等行為還涉嫌違反商標(biāo)法、消費(fèi)者權(quán)益保護(hù)法、網(wǎng)絡(luò)安全法等相關(guān)法律規(guī)定。

于消費(fèi)者而言，誤用“套殼AI”，還可能陷入其背后隱藏的各類信息安全風(fēng)險(xiǎn)。只需做一些“技術(shù)手腳”，不法分子就可以在用戶與“套殼AI”暢聊時，不知不覺竊取用戶個人隱私，再以此定制“個性化”騙局引人上鉤。

不可否認(rèn)，人工智能產(chǎn)業(yè)的崛起得益于經(jīng)營主體的熱情參與，而從業(yè)者的經(jīng)營行為也關(guān)系著AI產(chǎn)業(yè)的健康發(fā)展。經(jīng)營者只有充分挖掘自身優(yōu)勢，嚴(yán)守法律底線，才能在市場競爭中抓住機(jī)遇長久發(fā)展。而這些企圖投機(jī)取巧的“套殼AI”終將在市場的大浪淘沙中被淘汰。

來源：新華每日電訊