Menurut Nezar, video, gambar, dan suara buatan AI yang semakin realistis membuka peluang penyalahgunaan teknologi untuk memanipulasi informasi. Salah satu risiko yang menjadi perhatian ialah penipuan menggunakan identitas digital yang menyerupai orang sebenarnya.
Ia mencontohkan kasus penipuan melalui pertemuan virtual di Hong Kong sekitar dua tahun lalu. Dalam peristiwa tersebut, sebuah perusahaan mengalami kerugian hingga US$25 juta.
Penipuan itu melibatkan seorang staf keuangan yang melakukan 15 kali transfer setelah mengikuti instruksi dalam pertemuan daring. Orang-orang yang tampak hadir sebagai jajaran pimpinan perusahaan ternyata merupakan hasil rekayasa digital, sedangkan staf tersebut menjadi satu-satunya peserta yang asli.
"Jadi dalam pertemuan online itu semuanya fake, yang asli cuma dia sendiri di situ, si staf itu," kata Nezar.
Untuk mengurangi risiko serupa, sejumlah perusahaan teknologi global mulai mengembangkan mekanisme autentikasi dan penelusuran asal-usul konten digital melalui metadata. Teknologi tersebut dapat membantu memberikan informasi mengenai sumber dan keaslian suatu konten.