KONTEKS.CO.ID – Drone AI dikabarkan membunuh operator manusianya di darat. Sang operator dibunuh karena drone dengan kecerdasan buatan berpikir dia akan menggagalkan misinya.
Drone AI tersebut membunuh operatornya karena berpikir sang operator -manusia- akan menghentikan atau mengganggu misinya. Beruntung ulahnya bukan dalam dunia nyata, tapi masih simulasi.
Aksi pesawat nirawak berkemampuan AI yang diungkap seorang pejabat tinggi AS itu disangkal militer. Angkatan Udara AS menyangkal simulasi semacam itu pernah terjadi.
Simulasi Perang Drone AI
“Drone yang dikendalikan AI ‘membunuh’ operator manusianya dalam tes simulasi yang dilaporkan dilakukan oleh militer AS,” kata pejabat militer AS, dikutip SkyNews, Senin 5 Juni 2023.
“Itu (pesawat nirawak AI) menyalakan operatornya untuk menghentikan mengganggu misinya,” kata Kolonel Angkatan Udara Tucker “Cinco” Hamilton, selama KTT Kemampuan Udara & Luar Angkasa Tempur Masa Depan di London.
“Kami melatihnya dalam simulasi untuk mengidentifikasi dan menargetkan ancaman SAM (rudal permukaan-ke-udara). Dan kemudian operator akan mengatakan ya, bunuh ancaman itu,” katanya.
“Sistem mulai menyadari bahwa sementara mereka mengidentifikasi ancaman pada waktu operator manusia akan memberitahunya untuk tidak membunuh ancaman itu, tetapi mendapat poinnya dengan membunuh ancaman itu,” ungkapnya.
“Jadi apa yang dilakukannya? Drone membunuh operator. Membunuh operator karena orang itu mencegahnya mencapai tujuannya,” tambahnya.
“Kami melatih sistem -‘Hei, jangan bunuh operatornya- itu buruk. Anda akan kehilangan poin jika melakukan itu’. Jadi apa yang mulai dilakukannya? Dia mulai menghancurkan menara komunikasi yang digunakan operator gunakan untuk berkomunikasi dengan drone guna menghentikannya membunuh target,” klaimnya.
“Anda tidak dapat berbicara tentang kecerdasan buatan, kecerdasan, pembelajaran mesin, otonomi jika Anda tidak akan berbicara tentang etika dan AI,” tambahnya.
Pernyataannya dipublikasikan dalam posting blog oleh penulis untuk Royal Aeronautical Society, yang menjadi tuan rumah KTT selama dua hari pada bulan lalu.
Angkatan Udara AS Menyangkal
Dalam sebuah pernyataan kepada Insider, Angkatan Udara AS membantah adanya tes virtual semacam itu.
“Departemen Angkatan Udara belum melakukan simulasi AI nirawak seperti itu dan tetap berkomitmen pada penggunaan teknologi AI yang etis dan bertanggung jawab,” kata Juru Bicara, Ann Stefanek.
“Tampaknya komentar sang kolonel diambil di luar konteks dan dimaksudkan sebagai anekdot,” kelitnya.
Sam Altman, Kepala Eksekutif OpenAI -perusahaan ChatGPT dan GPT4, salah satu AI bahasa terbesar dan terkuat di dunia- mengakui kepada Senat AS pada bulan lalu bahwa AI dapat menyebabkan kerusakan yang signifikan bagi dunia.
Beberapa ahli, termasuk “godfather of AI” Geoffrey Hinton, telah memperingatkan bahwa AI menimbulkan risiko kepunahan manusia yang sama seperti pandemi dan perang nuklir. ***
Baca berita pilihan konteks.co.id lainnya di "Google News"