BEIJING – Kecerdasan buatan (AI) ditakuti oleh berbagai orang oleh sebab itu prospek yang mana dimilikinya jikalau menjadi terlalu canggih, seperti menggantikan pekerjaan, menjadi lebih besar berpengetahuan daripada manusia, atau bahkan memunculkan ancaman bagi kita.
Sekarang, pada perkembangan yang dimaksud cukup mengkhawatirkan, para ilmuwan yang dimaksud mempelajarinya menemukan bahwa virus yang dimaksud telah dilakukan tumbuh sedemikian rupa sehingga melintasi “garis merah”.
Para peneliti dari Universitas Fudan dalam China menggunakan dua model bahasa besar yang dimaksud populer, yang dimaksud dikenal sebagai LLM, untuk meninjau apakah Teknologi AI dapat mereplikasi diri lalu tumbuh biak di tempat luar kendali, lapor LiveScience .
Dan disarankan Teknologi AI mungkin saja telah dapat menjadi liar oleh sebab itu di 10 uji coba, kedua model Artificial Intelligence menciptakan replika diri mereka yang digunakan terpisah juga berfungsi pada 50 juga 90 persen kasus.
Dalam penelitian yang mana dipublikasikan pada database pracetakarXiv , para peneliti mengatakan: “Replikasi diri yang berhasil tanpa bantuan manusia merupakan langkah penting bagi Artificial Intelligence untuk mengalahkan manusia serta merupakan sinyal awal bagi Kecerdasan Buatan jahat,”
“Itulah sebabnya replikasi diri secara luas diakui sebagai salah satu dari sedikit risiko garis merah pada sistem Kecerdasan Buatan tingkat lanjut,”
“Jika risiko terburuk seperti itu dibiarkan tidak ada diketahui oleh rakyat manusia, pada akhirnya kita akan kehilangan kendali menghadapi sistem Artificial Intelligence terdepan: dia akan mengendalikan tambahan banyak perangkat komputasi, membentuk spesies AI, dan juga berkolusi satu serupa lain untuk melawan manusia,”
“Temuan kami merupakan peringatan keras tepat waktu tentang risiko Kecerdasan Buatan parah yang digunakan ada namun belum diketahui sebelumnya, yang mana menyerukan kolaborasi internasional untuk tata kelola yang dimaksud efektif terhadap replikasi diri sistem Kecerdasan Buatan yang tersebut tidak ada terkendali.”
Laporan yang dimaksud menambahkan bahwa model Open Artificial Intelligence dan juga Google “melaporkan tingkat risiko replikasi diri terendah” serta LLM yang mana digunakan mempunyai “parameter yang dimaksud lebih banyak sedikit juga kemampuan yang dimaksud lebih banyak lemah”.
Studi ini belum ditinjau sejawat sehingga tiada jelas apakah hasil ini dapat direplikasi oleh peneliti lain.
Seorang pria secara terbuka mengaku mengandalkan Artificial Intelligence sebagai uluran tangan, menggunakannya untuk mengirimkan 1.000 lamaran pekerjaan ketika ia tidur dan juga bangun dengan hasil yang luar biasa . Sementara itu, sebuah penelitian telah dilakukan mengungkap dampak mengejutkan dari seringnya penyelenggaraan kecerdasan buatan terhadap otak kita , khususnya di area kalangan Gen Z.
