Daftar Isi
Ringkasan bisnis plan
Penipuan dan manipulasi media selalu menjadi bagian dari komunikasi masa perang, tetapi belum pernah sebelumnya hampir semua aktor dalam konflik dapat menghasilkan audio, video, dan teks yang realistis dari pejabat politik dan pemimpin militer musuh mereka. Ketika kecerdasan buatan (AI) menjadi lebih canggih dan biaya komputasi terus menurun, deepfake akan menimbulkan tantangan dalam lingkungan informasi online selama konflik bersenjata.
Untuk mengatasi tantangan ini, pejabat keamanan dan pembuat kebijakan membutuhkan pemahaman yang lebih baik tentang cara kerja teknologi dan cara penggunaannya dalam konflik bersenjata internasional. Deepfake dapat digunakan untuk berbagai tujuan, termasuk memalsukan perintah dari pemimpin militer, menciptakan kebingungan di antara masyarakat dan angkatan bersenjata, serta melegitimasi perang dan pemberontakan. Meskipun taktik ini dapat dan sering gagal, potensinya untuk memengaruhi komunikasi dan pengiriman pesan musuh berarti bahwa pejabat keamanan dan intelijen pasti akan menggunakannya dalam skala luas.
Bagi pembuat kebijakan dan pejabat di negara demokratis, deepfake merupakan tantangan yang sangat sulit. Mengingat pentingnya lingkungan informasi tepercaya bagi masyarakat demokratis, pemerintah demokratis umumnya harus mewaspadai deepfake, yang mengancam merusak kepercayaan itu. Namun pejabat keamanan dan intelijen di Amerika Serikat dan negara demokrasi lainnya akan memiliki insentif yang kuat untuk menyebarkan deepfake terhadap musuh mereka, terutama dalam konteks konflik bersenjata. Akibatnya, Amerika Serikat dan sekutu demokratisnya harus mempertimbangkan untuk mengembangkan kode etik untuk penggunaan pemalsuan mendalam oleh pemerintah, dengan mengacu pada norma dan preseden internasional yang ada.
Selain itu, Amerika Serikat juga harus mempertimbangkan untuk membuat sesuatu seperti “proses ekuitas deepfake”, yang secara longgar dimodelkan pada proses serupa untuk keamanan siber, untuk menentukan kapan manfaat menggunakan teknologi deepfake terhadap target profil tinggi lebih besar daripada risikonya. . Dengan menyatukan pandangan pemangku kepentingan di berbagai kantor dan lembaga pemerintah, proses musyawarah yang inklusif seperti itu adalah cara terbaik untuk memastikan bahwa deepfake digunakan secara bertanggung jawab.