Kecerdasan buatan generatif menghidupkan kembali warisan mengerikan dari orang-orang fanatik, termasuk mantan diktator Jerman Adolf Hitler, ketika pengguna TikTok memanfaatkan alat AI aplikasi untuk menghidupkan kembali pidato xenofobia dari para pemimpin yang telah lama meninggal.
Fenomena ini baru-baru ini didokumentasikan dalam dua laporan berbeda, satu oleh kelompok pengawas nirlaba Media Matters for America dan satu lagi dalam penyelidikan yang dilakukan oleh Institute for Strategic Dialogue dan SITE Intelligence Group, yang diterbitkan oleh the Washington Post. Keduanya meluncurkan jaringan kecil akun yang membuat dan menyebarkan versi terjemahan pidato Hitler yang disulihsuarakan AI.
Mengapa remaja menceritakan rahasia mereka kepada orang asing secara online
Menurut penelitian Media Matters, audio yang dihasilkan AI telah mengumpulkan jutaan penayangan, termasuk video yang mengejek pemimpin atau video yang mengubah audio tersebut menjadi meme. Akun lain tampaknya berdedikasi untuk membuat dan membagikan audio ini dengan sungguh-sungguh, terkadang dengan pesan anti-Semit. Video populer yang menggunakan audio tersebut, sering kali diberi gaya dengan audio yang diperlambat dan “digemakan”, sudah ada sejak April 2024, dengan beberapa terjemahan yang tidak tepat. Setelah laporan tersebut dipublikasikan, TikTok menghapus akun salah satu pengunggah yang dikenal dan mulai mengarahkan penelusuran terkait ke halaman “Fakta Tentang Holocaust”, yang mendokumentasikan pembantaian jutaan warga sipil Yahudi, penyandang disabilitas, tahanan politik, kelompok LGBTQ+, dan orang-orang LGBTQ+ oleh Hitler. mereka yang berasal dari Romani.
Itu Washington Post melaporkan bahwa kelompok-kelompok fasis terkenal memuji penggunaan AI untuk menyebarkan propaganda fanatik, dengan menyebutkan adanya pertumbuhan jumlah generasi muda yang terlibat dengan ujaran kebencian dan komunitas sayap kanan secara online. Para ahli mengatakan kepada publikasi tersebut bahwa mereka khawatir alat moderasi platform, termasuk yang ada di situs Meta dan X, tidak akan mampu mengimbangi penyebaran yang dibantu oleh AI.
Cerita Teratas yang Dapat Dihancurkan
Kedua laporan tersebut mencatat banyak sentimen positif di bagian komentar video tersebut, dengan beberapa pengguna langsung memuji tokoh sejarah dan kebijakannya, dan menandai bahwa banyak dari video ini tidak memamerkan peluit supremasi kulit putih yang jelas, sehingga menimbulkan ketakutan bahwa pengguna secara tidak sadar menjadi radikal karena isinya.
Upaya serupa untuk menulis ulang warisan tokoh sejarah telah dilakukan di TikTok selama setahun terakhir, didorong oleh AI. Pada bulan Juni, versi internal alat avatar digital AI baru yang dibocorkan secara keliru – yang memungkinkan penggunanya membuat iklan menggunakan kemiripan dengan pencipta – menyebabkan beredarnya beberapa video buatan AI yang menampilkan avatar yang mengucapkan berbagai retorika supremasi kulit putih, termasuk kutipannya. dari Mein Kampf dan “Surat untuk Amerika” karya Osama Bin Laden. Pada tahun 2023, video TikTok yang mengucapkan pernyataan Bin Laden yang sama, terkadang dikaitkan dengan sentimen supremasi kulit putih, memicu kepanikan di seluruh aplikasi, karena pengguna mengontekstualisasikan ulang pidato tersebut sebagai risalah anti-kekaisaran sehubungan dengan pengepungan Israel terhadap warga Palestina di Gaza dan Israel. dukungan bangsa AS.
Secara umum, kelompok pengawas telah mendokumentasikan contoh berulangnya aktor dalam dan luar negeri yang menyebarkan disinformasi pada aplikasi melalui penggunaan alat AI generatif, termasuk pemalsuan digital sintetis (atau “deepfakes”) yang dilakukan para pemimpin politik. Akun supremasi kulit putih dan pro-Nazi juga berkembang biak di platform ini, beroperasi bersama-sama dengan jaringan di situs-situs seperti Telegram untuk meningkatkan konten mereka dalam algoritma media sosial.
Menurut laporan Institute for Strategic Dialogue pada bulan Juli, TikTok menampung “ratusan” akun pro-Nazi, yang secara kumulatif mengumpulkan jutaan penayangan. Perusahaan tersebut, kata organisasi tersebut, belum bergerak cukup cepat untuk menghentikan penyebarannya.