Mantan Ilmuwan Google Peringatkan Tentang Bahaya Kecerdasan Buatan

COLORADO, iNewsTTU.id - Teknologi berkembang pada tingkat yang menakutkan dan memperingatkan bahwa itu tidak boleh berkembang di luar kemampuan kita untuk mengendalikannya.

Hal itu disampaikan oleh seorang peneliti kecerdasan buatan terkemuka AI Geoffrey Hinton. Dia bergabung banyak pemimpin dunia, termasuk Paus Fransiskus, yang ingin memastikan masalah etika dibangun di dasar teknologi.

Ia seorang peneliti lama di Google yang baru saja pensiun pada usia 75 tahun, menambahkan pendapatnya kepada orang-orang yang mengatakan bahwa potensi bahaya dari teknologi baru ini perlu dicermati.

"Perangkat lunak seperti sistem chatbot GPT-4, yang dikembangkan oleh start-up San Francisco OpenAI, melampaui seseorang dalam jumlah pengetahuan umum yang dimilikinya dan jauh melampaui mereka," katanya kepada BBC News.

"Dalam hal penalaran, itu tidak bagus, tapi sudah melakukan penalaran sederhana.Dan mengingat tingkat kemajuan, kami berharap segalanya menjadi lebih baik dengan cukup cepat. Jadi kita perlu khawatir tentang itu," katanya lebih lanjut.

Dikatakan, GPT-4 adalah model pembelajaran besar yang dilatih pada sejumlah besar data dan teks sejarah dan kontemporer yang ditulis oleh penulis manusia.

Itu dapat menghasilkan teks sendiri dan menghasilkan posting blog, puisi, dan program komputer. Itu dapat terlibat dalam percakapan seperti manusia dan memberikan jawaban atas pertanyaan, lapor New York Times.

Namun, sistem ini masih dalam tahap awal pengembangan dan menunjukkan berbagai kekurangan, meskipun berbicara dengan percaya diri, GPT-4 menyajikan informasi yang salah sebagai faktual dan mengarang informasi dalam insiden yang oleh peneliti disebut halusinasi.

Sistem serupa dapat menghasilkan gambar dan video bergaya audio dan fotorealistik yang meyakinkan dan terkadang meniru model orang sungguhan.

Saat ini, versi awal kecerdasan buatan ini kurang memiliki kesadaran diri. Ada perdebatan tentang apakah kesadaran diri mungkin untuk kreasi digital.

Hinton, yang sekarang tinggal di Kanada, adalah pelopor dalam pembuatan dan desain “jaringan saraf”, jenis infrastruktur pemrograman yang membantu komputer mempelajari keterampilan baru dan bentuk analisis. Ini digunakan di banyak sistem AI.

Dia dan dua kolaborator memenangkan penghargaan tertinggi dalam bidang komputasi, Penghargaan Turing, pada tahun 2018. Dalam analisis Hinton, sistem AI yang sedang dikembangkan ini sangat berbeda dari perangkat lunak yang biasa digunakan orang.

"Saya sampai pada kesimpulan bahwa jenis kecerdasan yang kita kembangkan sangat berbeda dengan kecerdasan yang kita miliki," ungkapnya.

Tidak seperti kecerdasan biologis manusia, ada banyak salinan dari sistem digital yang sama dengan model dunia yang sama. Meskipun mereka dapat belajar secara terpisah, mereka membagikan pengetahuan mereka secara instan.

"Jadi seolah-olah Anda memiliki 10.000 orang dan setiap kali satu orang mempelajari sesuatu, semua orang secara otomatis mengetahuinya. Dan begitulah chatbots ini dapat mengetahui lebih banyak daripada satu orang," lanjutnya.