Viral Berita Hoax Kecelakaan KA, Ternyata Hasil Produk ChatGPT

KONTEKS.CO.ID – Viral hoax kecelakaan KA di Tiongkok. Polisi di Provinsi Gansu, China barat laut, menahan seorang pria yang diduga membuat berita palsu dengan teknologi kecerdasan buatan (AI) dan menyebarkannya di platform media sosial.

Pria bermarga Hong itu dikabarkan menggunakan ChatGPT untuk membuat berita kecelakaan kereta api yang fatal dengan elemen yang dikumpulkan dari berbagai berita trending. Viral hoax kecelakaan KA pun menjadi perhatian aparat keamanan setempat.

Kisah yang dibuat-buat, yang mengatakan sembilan orang tewas setelah kereta menabrak pekerja jalan di Provinsi Gansu pada 25 April, menarik perhatian petugas keamanan dunia maya setempat.

Mereka segera meluncurkan penyelidikan dan menemukan bahwa total 21 akun di Baijiahao, platform bergaya blog dari raksasa mesin pencari China Baidu, mem-posting versi artikel yang berbeda secara bersamaan, melibatkan lokasi kecelakaan yang berbeda.

Berita palsu itu pun memperoleh lebih dari 15.000 klik pada saat itu.

Polisi melacak semua akun yang terlibat dalam kasus tersebut dari perusahaan pemasaran “we-media” yang terdaftar di Shenzhen, Provinsi Guangdong, China selatan.

Hong, perwakilan hukum dari perusahaan yang menggunakan teknologi AI untuk mengarang informasi palsu dan tidak benar yang disebarkan dan dilihat secara luas, telah ditangkap dan didakwa dengan pertengkaran dan memprovokasi masalah.

Kasus ini membutuhkan penyelidikan lebih lanjut.

Aturan Deepfake China
Ini adalah kasus pertama sejak peraturan pertama negara tentang aplikasi teknologi deepfake mulai berlaku pada bulan Januari.

Peraturan yang bertujuan untuk mendorong perkembangan industri AI dan mencegah penyalahgunaan teknologi tersebut, menyatakan bahwa video dan foto sintetik yang dibuat melalui teknologi deep synthesis, yang biasa dikenal dengan “deepfake”, harus diberi label yang jelas untuk mencegah kebingungan publik.

Peraturan tersebut juga mencakup tanggung jawab penyedia dan pengguna deepfake, termasuk melarang tindakan ilegal dengan menggunakan teknologi, menyiapkan sistem peninjauan, dan mengidentifikasi informasi pengguna.

Saat ChatGPT OpenAI menjadi populer, dengan raksasa pencarian online China Baidu dan perusahaan teknologi lainnya meluncurkan produk saingan setelahnya, teknologi AI generatif yang digunakan chatbot ini telah menarik perhatian regulator dunia maya China.

Mengutip laman CGTN, Rabu, 10 Mei 2023, Cyberspace Administration of China (CAC) telah merilis draf peraturan pada 11 April untuk mengelola layanan AI generatif, yang diharapkan mulai berlaku tahun ini, menurut CAC.

Dikatakan bahwa negara mendukung inovasi, pemasyarakatan, dan aplikasi independen AI, tetapi produk atau layanan terkait harus mematuhi persyaratan undang-undang dan peraturan, dan menghormati moralitas sosial dan ketertiban umum.

Ini mengusulkan persyaratan dari akses penyedia layanan, desain algoritme, pemilihan data pelatihan, konten yang digeneralisasi, dan privasi pengguna serta rahasia bisnis.

“Penyedia layanan berkewajiban untuk mengambil tindakan pencegahan risiko dan menanggapi persyaratan peraturan,” kata Liu Xiaochun, seorang profesor di Sekolah Hukum Universitas Akademi Ilmu Sosial Tiongkok, dalam sebuah wawancara. ***