本報(bào)記者 賀俊 見習(xí)記者 劉霄引

    5月16日，美亞柏科公告發(fā)布了一則投資者關(guān)系活動記錄表。記錄表顯示，在AI監(jiān)管產(chǎn)品方面，公司已經(jīng)發(fā)布了AI-3300“慧眼”視頻圖像鑒真工作站，可以對深度合成偽造的視頻圖像、AIGC生成視頻圖像進(jìn)行監(jiān)測鑒定。公司推出的AIGC檢測平臺支持AIGC生成文本的檢測識別。

    隨著AIGC內(nèi)容大量涌現(xiàn)，相關(guān)應(yīng)用在提升人們生產(chǎn)效率的同時，也有不法分子利用其生成虛假內(nèi)容，擾亂社會運(yùn)行的正常秩序，比如美亞柏科在投資者關(guān)系活動記錄表中提到的，中國廣東某地利用AI人工智能技術(shù)炮制虛假不實(shí)信息非法獲利的案件。

    美亞柏科AI安全首席科學(xué)家金輝曾在民生AI峰會上的發(fā)言中表示，AIGC生成式人工智能的內(nèi)容確實(shí)讓人很難辨別真假，造成很多虛假的新聞，讓人顛覆了眼見為實(shí)的認(rèn)知。犯罪分子也會利用生成式人工智能進(jìn)行新型網(wǎng)絡(luò)犯罪手段的詐騙，這都對人工智能安全帶來一定的挑戰(zhàn)。

    對此，薩摩耶云科技集團(tuán)首席經(jīng)濟(jì)學(xué)家鄭磊在接受《證券日報(bào)》記者采訪時表示：“為了避免這種情況的發(fā)生，必須研發(fā)相應(yīng)的逆向鑒別技術(shù)和產(chǎn)品，作為人們?nèi)粘７婪哆@類違法犯罪活動的輔助工具，也為司法機(jī)關(guān)提供了執(zhí)法證據(jù)和依據(jù)。”

    此前，谷歌CEO桑達(dá)爾·皮查伊也曾表示，隨著人們不斷投入能力越來越強(qiáng)大的模型，谷歌也在深入研究AI應(yīng)當(dāng)肩負(fù)的責(zé)任，這包括讓用戶擁有可識別生成式內(nèi)容的工具。

    浙江大學(xué)國際聯(lián)合商學(xué)院數(shù)字經(jīng)濟(jì)與金融創(chuàng)新研究中心聯(lián)席主任、研究員盤和林在接受《證券日報(bào)》記者采訪時表示：“此類工具未來在B端和G端有一定應(yīng)用場景，尤其是當(dāng)前生成式AI大行其道之時，圖像鑒真將在未來成為剛需。”

    美亞柏科表示，后續(xù)將持續(xù)圍繞包括反生成式AI在內(nèi)的AI安全及監(jiān)管領(lǐng)域進(jìn)行研究，并根據(jù)業(yè)務(wù)需要適時布局相關(guān)產(chǎn)品。

    頂象技術(shù)安全專家田際云向《證券日報(bào)》記者介紹：“按照安全行業(yè)的說法，反生成式AI就是防范生成式AI濫用帶來的風(fēng)險。”

    鄭磊表示，反生成式AI依靠AIGC的逆向工程原理開發(fā)的人工智能產(chǎn)品，本身也屬于人工智能，相當(dāng)于對生成式AI輸出的結(jié)果進(jìn)行逆向解碼，給出鑒別判斷，或恢復(fù)到之前的原形狀態(tài)。由于生成式AI輸出的結(jié)果與人類制作的內(nèi)容高度相似，如果不用逆向技術(shù)手段，難以和人類生成的內(nèi)容區(qū)分開。在一些應(yīng)用場景中，需要進(jìn)行這樣的鑒別，因此是有現(xiàn)實(shí)需要的。

    盤和林認(rèn)為，生成式AI能以假亂真，反生成式AI可以去偽存真，未來自覺標(biāo)注AI生成將是免責(zé)和防偽的關(guān)鍵，而反生成式AI則是技術(shù)上的重要補(bǔ)充。

    “對于AI監(jiān)管，我們需要從多個方面入手，包括數(shù)據(jù)集獲取的安全合規(guī)性、人工智能模型的可解釋性和透明性、人工智能生成內(nèi)容的識別和審核、建立相關(guān)的監(jiān)管機(jī)制和法律法規(guī)。”中國移動通信聯(lián)合會元宇宙產(chǎn)業(yè)委執(zhí)行主任于佳寧在接受《證券日報(bào)》記者采訪時表示，“美亞柏科在反生成式AI產(chǎn)品的研發(fā)和應(yīng)用方面的布局和探索是非常值得肯定的，希望更多的企業(yè)和機(jī)構(gòu)加入AI監(jiān)管和安全方面的研究應(yīng)用中，加強(qiáng)對AI濫用和AI作惡的打擊力度，形成人機(jī)合作、共同治理的良好局面。”

（編輯 汪世軍 喬川川）