Banjir Video Sampah AI di TikTok, 60% Konten Anak-Anak Palsu

Jakarta — Banjir konten buatan AI yang murahan dan kadang menyeramkan kini hampir mustahil dihindari di media sosial. Video-video hasil kecerdasan buatan ini mulai mengubur karya kreator manusia di berbagai platform.

TikTok, platform video vertikal paling populer, juga terkena dampaknya. Laporan terbaru dari perusahaan pengeditan video bernama Kapwing menunjukkan bahwa hampir 60% video yang muncul di halaman For You untuk pengguna baru adalah konten sampah AI. Angka ini tiga kali lebih banyak dibandingkan dengan YouTube.

Kondisi ini sangat memprihatinkan, terutama bagi pengguna termuda. Kapwing menemukan bahwa kategori dengan kepadatan konten sampah tertinggi adalah Kids atau Anak-anak. "Tagar #cartoonkids hampir seluruhnya berisi konten sampah. Hanya tiga dari 100 video yang kami periksa benar-benar buatan manusia," ungkap perusahaan tersebut, seperti dikutip dari Futurism.

Lebih buruk lagi, begitu sebuah akun menunjukkan ketertarikan pada konten AI, algoritma akan langsung membanjiri linimasa pengguna itu dengan lebih banyak konten serupa. Temuan ini menjadi peringatan keras tentang seberapa besar masalah yang ditimbulkan oleh konten sampah AI saat ini.

Anak muda yang mudah terpengaruh kini terpapar banjir materi AI setengah matang dan 'merusak otak'. Para ahli memperingatkan bahwa hal ini bisa membahayakan perkembangan otak. Di sisi lain, teknologi deepfake yang makin realistis mempermudah penyebaran misinformasi dan propaganda politik.

TikTok bukan satu-satunya platform yang kecanduan tren ini. Facebook dan Instagram milik Meta juga berubah. Pengguna, dan kemungkinan besar juga bot, kini berinteraksi dengan konten aneh dan penuh kekerasan.

Dalam upaya mengendalikan masalah ini, TikTok mengumumkan pada November lalu bahwa mereka akan memberi pengguna opsi untuk mengatur jumlah konten AI di linimasa mereka. "Kami tahu dari komunitas bahwa banyak orang menikmati konten buatan AI, mulai dari seni digital hingga penjelasan sains. Kami ingin memberi kebebasan kepada pengguna untuk melihat lebih banyak atau lebih sedikit konten semacam itu, sesuai preferensi mereka," kata Jade Nester, Direktur Kebijakan Publik untuk Keselamatan dan Privasi TikTok Eropa.

Baru-baru ini, YouTube juga mengumumkan perubahan dalam cara melabeli konten buatan AI. Tujuannya untuk menekan konten sampah. Namun, langkah itu belum sampai pada tahap mengubah cara video direkomendasikan atau apakah video tersebut memenuhi syarat untuk dimonetisasi.

Hingga kini, belum ada solusi mudah yang jelas untuk masalah ini. Teknologi AI sudah berkembang begitu pesat sehingga makin sulit membedakan antara kenyataan dan konten sampah buatan mesin.

Secara keseluruhan, situasi ini menunjukkan betapa cepatnya konten AI berkualitas rendah membanjiri platform utama. Algoritma yang dirancang untuk menarik perhatian justru memperparah penyebaran konten yang belum terverifikasi, terutama di kalangan anak-anak yang rentan.