國(guó)家互聯(lián)網(wǎng)信息辦公室針對(duì)語(yǔ)音社交軟件中深度偽造技術(shù)濫用問(wèn)題，依法約談了映客等11家互聯(lián)網(wǎng)信息服務(wù)企業(yè)。這一行動(dòng)凸顯了監(jiān)管部門(mén)對(duì)新技術(shù)應(yīng)用風(fēng)險(xiǎn)的重視，也引發(fā)了公眾對(duì)語(yǔ)音社交平臺(tái)安全與倫理的深入思考。

隨著人工智能技術(shù)的快速發(fā)展，深度偽造（Deepfake）技術(shù)已從視頻領(lǐng)域延伸至音頻領(lǐng)域。該技術(shù)能通過(guò)機(jī)器學(xué)習(xí)模擬特定人物的聲音，生成以假亂真的語(yǔ)音內(nèi)容。在語(yǔ)音社交軟件中，這項(xiàng)技術(shù)若被不當(dāng)利用，可能被用于制造虛假信息、進(jìn)行語(yǔ)音詐騙或侵犯他人名譽(yù)權(quán)，給個(gè)人與社會(huì)帶來(lái)嚴(yán)重危害。

本次被約談的企業(yè)包括映客等多個(gè)知名語(yǔ)音社交平臺(tái)，主要涉及未嚴(yán)格落實(shí)用戶(hù)實(shí)名制、未能有效識(shí)別和處置利用深度偽造技術(shù)生成的違規(guī)內(nèi)容等問(wèn)題。監(jiān)管部門(mén)要求相關(guān)企業(yè)全面自查整改，加強(qiáng)對(duì)深度偽造語(yǔ)音內(nèi)容的監(jiān)測(cè)技術(shù)研發(fā)，完善內(nèi)容審核機(jī)制，切實(shí)履行平臺(tái)主體責(zé)任。

語(yǔ)音社交作為近年來(lái)興起的社交模式，因其即時(shí)性和隱私性受到用戶(hù)青睞。技術(shù)往往是一把雙刃劍。深度偽造技術(shù)在豐富娛樂(lè)應(yīng)用和輔助創(chuàng)作的也為虛假信息傳播打開(kāi)了方便之門(mén)。例如，偽造名人語(yǔ)音進(jìn)行商業(yè)推廣，或模仿他人聲音實(shí)施社交詐騙，這些行為不僅損害用戶(hù)權(quán)益，也破壞了網(wǎng)絡(luò)空間的清朗環(huán)境。

此次約談釋放出明確信號(hào)：互聯(lián)網(wǎng)企業(yè)必須堅(jiān)持科技向善，在技術(shù)創(chuàng)新與倫理規(guī)范之間尋求平衡。企業(yè)應(yīng)建立更嚴(yán)格的內(nèi)容安全體系，包括采用先進(jìn)的聲紋識(shí)別技術(shù)鑒別偽造語(yǔ)音，設(shè)置便捷的用戶(hù)舉報(bào)渠道，并對(duì)違規(guī)賬號(hào)采取封禁等措施。也應(yīng)加強(qiáng)用戶(hù)教育，提升公眾對(duì)深度偽造技術(shù)的認(rèn)知和防范意識(shí)。

從更廣的視角看，深度偽造治理需要多方協(xié)同。除了企業(yè)自律和監(jiān)管跟進(jìn)，還需加快相關(guān)法律法規(guī)的完善，明確技術(shù)使用的法律邊界。技術(shù)社群也應(yīng)積極研發(fā)反偽造檢測(cè)工具，形成技術(shù)制衡。只有通過(guò)全社會(huì)的共同努力，才能有效遏制技術(shù)濫用，讓語(yǔ)音社交行業(yè)在創(chuàng)新與安全的軌道上行穩(wěn)致遠(yuǎn)。

隨著人工智能技術(shù)持續(xù)演進(jìn)，類(lèi)似挑戰(zhàn)可能還會(huì)出現(xiàn)。此次約談為整個(gè)行業(yè)敲響了警鐘：在追逐商業(yè)利益的絕不能忽視社會(huì)責(zé)任。唯有將安全、倫理置于發(fā)展的重要位置，互聯(lián)網(wǎng)信息服務(wù)才能健康可持續(xù)地造福社會(huì)。