AI Deepfake Tingkatkan Penipuan Digital, Kominfo Peringatkan

Seiring teknologi kecerdasan buatan (AI) semakin maju, banyak penjahat memanfaatkannya untuk melancarkan penipuan digital. Salah satu contoh paling menakutkan adalah deepfake, yang dapat meniru wajah, suara, dan video seseorang dengan tingkat kemiripan yang sangat tinggi.

Wakil Menteri Komunikasi dan Digital, Nezar Patria, mengungkapkan bahwa perkembangan AI membuat modus penipuan semakin kompleks dan berbahaya. Ia menegaskan bahwa masyarakat sering kali kesulitan membedakan konten asli dari hasil rekayasa teknologi.

“Sekarang suara kita bisa ditiru, gambar wajah kita bisa ditiru, dan tampil dalam bentuk deepfake video yang dihasilkan oleh AI dengan sangat mulus,” kata Nezar dikutip pada Kamis 18 Juni 2026. Ia menambahkan bahwa kemajuan ini menambah risiko bagi keamanan siber.

Nezar menyebutkan bahwa adopsi AI saat ini berlangsung sangat cepat. Teknologi tersebut bahkan telah bergerak melampaui fase generative AI menuju era agentic AI, yakni sistem yang memiliki kemampuan lebih mandiri dalam melakukan penalaran dan pengambilan keputusan.

Meski menawarkan berbagai manfaat bagi dunia bisnis, pendidikan, kesehatan, hingga pemerintahan, kemajuan tersebut juga menghadirkan risiko baru yang perlu diantisipasi secara serius. Dalam konteks keamanan siber, Nezar menyoroti pemanfaatan AI oleh pelaku kejahatan digital untuk menjalankan berbagai modus scam atau penipuan online.

Teknologi deepfake yang semakin canggih memungkinkan pelaku memalsukan identitas seseorang untuk mengelabui korban. Menurutnya, hasil manipulasi AI kini telah berkembang menjadi apa yang disebut sebagai synthetic reality atau realitas sintetik, yakni konten digital yang tampak sangat nyata sehingga sulit dikenali sebagai hasil rekayasa.

“Awamnya masyarakat kita tentang perkembangan AI ini membuat banyak yang terkecoh. Itu sebabnya scam saat ini luar biasa,” ujarnya. Ia menilai peningkatan literasi digital masyarakat menjadi salah satu langkah penting untuk mengurangi risiko penyalahgunaan AI. Masyarakat perlu memahami bahwa foto, suara, maupun video yang beredar di ruang digital tidak selalu mencerminkan kondisi sebenarnya.

Selain ancaman penipuan digital, Nezar juga menyoroti perkembangan agentic AI yang memiliki kemampuan menjalankan tugas dan mengambil keputusan secara lebih mandiri dibandingkan generasi AI sebelumnya. Ia menekankan bahwa berbagai kalangan akademisi dan pakar teknologi telah mengusulkan penerapan protokol yang lebih ketat untuk memastikan keputusan penting tetap berada dalam kendali manusia.

“Banyak pakar mengusulkan agar dilakukan satu protokol yang cukup ketat, termasuk menerapkan prinsip human in the loop dalam decision making,” jelasnya. Prinsip human in the loop mengharuskan adanya keterlibatan manusia dalam proses pengawasan dan pengambilan keputusan akhir, terutama untuk keputusan yang berdampak besar terhadap individu maupun masyarakat.

Lebih jauh, Nezar menjelaskan bahwa pembahasan etika AI saat ini tidak lagi cukup dilakukan secara sukarela sebagaimana pada tahap awal perkembangan teknologi tersebut. Ia menilai prinsip-prinsip seperti transparansi, akuntabilitas, keamanan, dan perlindungan pengguna harus menjadi bagian yang melekat sejak tahap perancangan teknologi melalui pendekatan ethics by design.

“Transparency, accountability, safety, itu harus hadir di dalam implementasi, di dalam pengembangan satu produk AI,” tegasnya. Untuk itu, pemerintah mendorong kolaborasi antara pengembang teknologi, pelaku industri, akademisi, dan komunitas pengguna AI dalam memperkuat tata kelola serta mitigasi risiko sejak tahap awal pengembangan.

“Semoga kita bisa merumuskan langkah‑langkah yang tepat dan pemikiran dari forum ini mungkin bisa menjadi pertimbangan‑pertimbangan dalam membuat satu kebijakan AI yang etis di Indonesia,” pungkasnya.

Dengan cepatnya perkembangan AI, penting bagi semua pihak untuk tetap waspada dan meningkatkan literasi digital. Penggunaan prinsip human in the loop dan etika by design dapat membantu menjaga agar teknologi ini tetap bermanfaat dan tidak disalahgunakan. Pemerintah, akademisi, dan masyarakat harus bekerja sama untuk menciptakan kebijakan yang menyeimbangkan inovasi dan keamanan.