In oktober 2024 verscheen een groot aantal nasynchronisatievideo's van Xiaomi-CEO "Lei Jun" op het korte videoplatform, en verschillende nasynchronisatie-imitatie- en spoofvideo's verschenen de een na de ander. In feite zijn de stemmen in deze video's niet van Lei Jun zelf, maar worden ze nagesynchroniseerd door AI.Van spoofing-ondernemer Lei Jun tot AI die audio en video van Dr. Zhang Wenhong produceert om goederen voor zichzelf te verkopen, er zijn zelfs criminelen die AI gebruiken om video's diepgaand te synthetiseren om fraude te plegen.
Het afgelopen jaar is het fenomeen van AI-diepe synthese van audio- en video-inbreuk steeds ernstiger geworden.
Onlangs heeft CCTV News de chaos blootgelegd van AI-gesynthetiseerde audio en video van beroemdheden.
Voorheen gebruikten sommige internetgebruikers de stem van Andy Lau, geproduceerd door AI, om verkeer voor zichzelf te genereren. Andy Lau Film Company heeft ook een dringende verklaring afgegeven om internetgebruikers eraan te herinneren niet in de AI-spraaksynthesetechnologie-zwendel te vervallen door de stem van Andy Lau te vervalsen.
Uit onderzoek van CCTV News bleek dat het niet moeilijk is om een diepgaande AI-synthese van audio en video te realiseren, en zelfs op sommige winkelplatformsAI-technologie voor diepe synthese is voor veel online winkels een winstgevend hulpmiddel geworden. Het kost slechts tientallen yuan om de diepe AI-synthese van audio en video van beroemdheden aan te passen.
Deskundigen zeiden:Relevante wet- en regelgeving bepaalt duidelijk dat diepgaande synthese, productie en vrijgave van informatie van anderen zonder toestemming verboden is.
Onlinewinkels die opdrachten ontvangen voor diepgaande AI-synthese om video's van beroemdheden te produceren, zijn al inbreukmakend en moeten overeenkomstige wettelijke verantwoordelijkheden dragen.
Bovendien kunnen niet alleen beroemdheden, maar ook gewone mensen en zelfs geanimeerde afbeeldingen, als zij AI gebruiken om hun audio en video te synthetiseren zonder de toestemming van de persoon of de eigenaar van het auteursrecht, dit ook als een inbreuk worden beschouwd en moet dit juridisch aansprakelijk zijn.