Bagi Hinton, satu skenario kasus terburuk atau mimpi buruk adalah jika robot dikembangkan dan diberi kemampuan untuk membuat sub-tujuannya sendiri, kemudian memutuskan tujuannya adalah memaksimalkan kekuatannya sendiri.
Apa risiko kecerdasan buatan?
Peneliti lain telah menyuarakan keprihatinan bahwa sistem AI ini menimbulkan risiko dalam jangka pendek, menengah, dan panjang. Bahaya awal termasuk orang yang salah mempercayai disinformasi yang lebih efektif dan lebih meyakinkan, termasuk informasi palsu yang disajikan secara meyakinkan oleh AI.
Penipu dan penjahat mungkin membuat panggilan telepon palsu yang meniru suara kerabat yang mengaku dalam bahaya dan membutuhkan uang dengan cepat.
Misalkan, Paus Fransiskus baru-baru ini menjadi subjek foto palsu buatan komputer yang tersebar luas. Gambar Paus yang mengenakan mantel puffer putih bergaya menjadi viral di situs media sosial dengan banyak orang tampaknya salah mengira foto palsu itu sebagai foto asli.
Jika AI berhasil mengotomatiskan lebih banyak tugas yang saat ini dilakukan oleh orang-orang, pengangguran bisa menjadi masalah, beberapa ketakutan.
New York Times melaporkan, moderator konten internet, paralegal, asisten pribadi, dan penerjemah dapat melihat pekerjaan mereka di bawah tekanan atau diganti.
Risiko jangka panjang, seperti sistem AI yang lepas dari kendali manusia dan bahkan menghancurkan umat manusia, telah lama menjadi pokok fiksi ilmiah.
Beberapa ahli mengutip perilaku tak terduga dari sistem AI yang saat ini sedang dikembangkan. Jika sistem AI saling terkait dengan layanan internet lainnya dan menjadi sangat kuat sehingga mereka dapat menulis kodenya sendiri untuk memodifikasi dirinya sendiri, AI yang lepas kendali dapat menjadi bahaya yang nyata.
Editor : Sefnat Besie
Artikel Terkait
