每經(jīng)編輯｜杜宇    

據(jù)央視財經(jīng)，當(dāng)?shù)貢r間11月6日，美國著名投資人巴菲特執(zhí)掌的伯克希爾-哈撒韋公司發(fā)表聲明，緊急澄清視頻平臺優(yōu)兔上傳播的幾段關(guān)于巴菲特發(fā)表評論的視頻，是用人工智能偽造的“欺詐性視頻”，并非巴菲特本人錄制。

圖片來源：央視財經(jīng)

6日，伯克希爾-哈撒韋公司在其網(wǎng)站上發(fā)表聲明稱，巴菲特注意到，優(yōu)兔上傳播著幾段關(guān)于巴菲特發(fā)表評論的視頻，并配有偽造圖像或人工智能生成的圖像。一般來說，這類視頻圖像可能看起來像是巴菲特，但模仿者聲音單調(diào)，顯然不是巴菲特的聲音。巴菲特?fù)?dān)心，這類欺詐性視頻正在成為一種蔓延的病毒。因?yàn)?，不熟悉巴菲特的人可能會認(rèn)為這些視頻是真的，并被這些視頻的內(nèi)容誤導(dǎo)。自5月伯克希爾股東大會以來，巴菲特很少公開發(fā)表評論。

出生于1930年的巴菲特，是全球著名的投資家。1957年，他成立巴菲特投資俱樂部，后于1965年收購瀕臨破產(chǎn)的紡織企業(yè)伯克希爾-哈撒韋公司，并通過卓越的投資決策，將其逐步轉(zhuǎn)變?yōu)槿蜃罹邇r值的投資控股集團(tuán)之一。

如今，利用生成式人工智能制造的虛假圖片、音頻和視頻信息等“深度偽造”內(nèi)容正在快速傳播，被用來騷擾他人、詐騙金錢，甚至干擾選舉。業(yè)內(nèi)分析人士指出，如何預(yù)防和阻止“深度偽造”內(nèi)容誤導(dǎo)大眾，已成為擺在各國政府和科技巨頭面前的難題。美國目前在聯(lián)邦層面沒有旨在控制人工智能風(fēng)險的法規(guī)。上個月，加州州長紐森簽署一項監(jiān)管人工智能聊天機(jī)器人的法案，要求聊天機(jī)器人運(yùn)營商在用戶與人工智能聊天機(jī)器人互動方面提供“關(guān)鍵”保護(hù)措施，如確保聊天機(jī)器人不與未成年人或其他弱勢群體談?wù)撟詺⒌仍掝}。

圖片來源：視覺中國

事實(shí)上，不只是巴菲特這樣的投資大師深受AI偽造視頻之苦。在國內(nèi)，也有不少學(xué)者、名人等成為AI假視頻的受害者。

今年3月，據(jù)央視財經(jīng)報道，網(wǎng)絡(luò)上曾出現(xiàn)中國工程院院士張伯禮為某美白護(hù)膚品做宣傳的視頻。但張伯禮本人表示，這些內(nèi)容全是假的，“我從來沒用過這個護(hù)膚品，我也沒做過這方面的宣傳，更沒研究過，所以里邊完全是編造的?！?/p>

據(jù)界面新聞，近日，演員溫崢嶸被AI盜播帶貨的新聞受到諸多關(guān)注。她自曝刷到AI盜播自己的直播間，上前質(zhì)問竟被拉黑，以至于“我現(xiàn)在很難證明我是我?！?/p>

對此，抖音集團(tuán)副總裁李亮11月6日在社交平臺發(fā)文稱，經(jīng)核查后發(fā)現(xiàn)，被曝光的“三個直播間同時開播”案例并非發(fā)生在抖音平臺。經(jīng)過與相關(guān)方聯(lián)系，并根據(jù)投訴線索核查，發(fā)現(xiàn)平臺上確實(shí)存在一些利用AI仿冒名人帶貨的短視頻內(nèi)容。

李亮還表示，這類AI侵權(quán)仿冒行為，嚴(yán)重?fù)p害了創(chuàng)作者、商家及平臺在消費(fèi)者心中的信譽(yù)，不符合平臺的長期利益，平臺非常重視并開展專項治理工作。AI內(nèi)容侵權(quán)識別是行業(yè)性技術(shù)難題，惡意仿冒賬號也在不斷與平臺進(jìn)行技術(shù)對抗，公司會持續(xù)加大投入應(yīng)對挑戰(zhàn)，維護(hù)創(chuàng)作者、商家和消費(fèi)者的合法權(quán)益。

面對亂象，中央網(wǎng)信辦于今年6月啟動了“清朗·整治AI技術(shù)濫用”專項行動第二階段工作，重點(diǎn)整治7類突出問題，包括利用AI制作發(fā)布色情低俗內(nèi)容，利用AI假冒他人實(shí)施侵權(quán)違法行為。

我國已有多部法律法規(guī)對AI內(nèi)容規(guī)范做出了要求，例如，網(wǎng)絡(luò)安全法第22條和《生成式人工智能服務(wù)管理暫行辦法》第9條及第11條對個人信息保護(hù)作出了明確要求；《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》第6條禁止任何組織和個人利用深度合成服務(wù)侵犯他人合法權(quán)益等，第10條要求深度合成服務(wù)提供者必須采取技術(shù)或人工方式，對輸入數(shù)據(jù)和合成結(jié)果進(jìn)行審核。

9月1日起施行的《人工智能生成合成內(nèi)容標(biāo)識辦法》則對標(biāo)注進(jìn)行了更加清晰的指引。該辦法強(qiáng)調(diào)，任何組織和個人不得惡意刪除、篡改、偽造、隱匿生成合成內(nèi)容標(biāo)識，不得通過不正當(dāng)標(biāo)識手段損害他人合法權(quán)益。

每日經(jīng)濟(jì)新聞綜合央視財經(jīng)、界面新聞、公開資料

封面圖片來源：央視財經(jīng)