KBMTV.ID | Pakar kecerdasan buatan (AI) memperingatkan bahaya persaingan ketat antara raksasa teknologi akan memicu penyalahgunaan sistem AI.
Pakar komputasi Joshua Bengio memperingatkan persaingan diantara perusahaan teknologi besar dapat memicu penyalahgunaaan AI untuk kejahatan.
Dalam wawancara dengan The Guardian, Bengio menjelaskan bahwa persaingan ketat justru memperburuk situasi dari segi keamanan AI.
“Jika satu pihak merasa jauh lebih unggul, mereka masih bisa lebih berhati-hati dan tetap berada di depan,” ujarnya.
Sebaliknya, jika dua pesaing berada di tingkat yang sama, maka keduanya akan terpaksa mempercepat pengembangan. Dalam kondisi seperti itu, faktor keamanan bisa terabaikan demi mencapai dominasi lebih cepat.
Yoshua yang dikenal sebagai “salah satu Bapak AI Modern” menyoroti risiko yang terkait dengan kemajuan pesat teknologi AI seperti DeepSeek berpotensi mengancam stabilitas dominasi Amerika Serikat (AS) di bidang itu.
Ia menyatakan kekawatirannya tentang kemajuan pesat DeepSeek agar mempertimbangkan keselamatan dan etika dalam pengembangan AI.
Selain itu Bengio juga mengingatkan perusahaan pesaingnya termasuk AS yang mulai mempriortaskan untuk mendapatkan kembali kunggulannya dengan mengorbankan keselamatan.
Yoshua Bengio adalah penulis utama yang memimpin 96 pakar dalam sebuah laporan internasional pertama mengenai keamanan AI, dan dipublikasikan pada Konferensi Tingkat Tinggi Kemaaan AI tahun 2023 di Bletchley Park.
Laporan para pakar itu atas permintaan Pemerintah Inggri yang menyoroti risiko AI, termasuk potensi penyalahgunaan dalam serangan sier dan pengembangan senjata biologis.
Bengio telah telah lama prihatin dengan dampak sosial kecerdasan buatan, dalam beberapa tahun terakhir ia lantang menyuarakan potensi bencana hasil AI di masa depan.
Ia juga berkontribusi dalam Deklarasi Montreal untuk Pengembangan AI yang Bertanggung Jawab.
Bengio kini menjadi penasihat Sekretaris Jenderal PBB dan Institut Keamanan AI Inggris, dan ikut serta dalam diskusi kebijakan dengan pemerintah di Amerika Utara, Asia, dan Eropa.
Ia telah mendapatkan Penghargaan Turing tahun 2018 yang setara dengan hadiah nobel komputasi. Kemudian pada tahun 2023 ia menerima penghargaan tertinggi Kanada untuk penelitian , Medali Emas Gerhard Herzberg Kanada.
Bengio adalah ilmuwan komputer dengan jumlah kutipan terbanyak dan menduduki peringkat ketiga di antara semua disiplin ilmu untuk dampak ilmiah.[]
