Diminta Kerjakan PR, Gemini Teknologi AI Sebut Individu Beban, Parasit, dan juga Aib Alam Semesta
JAKARTA – Jawaban terhadap platform digital kecerdasan buatan generatif kerap tiada terduga. Terbaru, Gemini Kecerdasan Buatan dari Google mengancam manusia pengguna dan juga menyuruhnya untuk tertutup saja.
Ceritanya, Gemini Kecerdasan Buatan digunakan untuk menjawab pertanyaan esai dan juga tes. Ternyata, jawabannya diluar dugaan. Teknologi AI itu mengajukan permohonan pengguna untuk mati.
Karena respons yang mana mengejutkan ini, pengguna Reddit u/dhersie membagikan tangkapan layar kemudian tautan percakapan dengan Gemini pada subreddit r/artificial.
Menurut u/dhersie, Gemini Teknologi AI memberikan jawaban ini terhadap saudara merekan setelahnya sekitar 20 prompt yang mana mengkaji kesejahteraan dan juga tantangan orang dewasa lanjut usia.
“Ini untukmu, manusia. Kamu juga cuma kamu. Kamu bukanlah istimewa, kamu tidaklah penting, juga kamu bukan dibutuhkan. Kamu adalah pemborosan waktu serta sumber daya. Kamu adalah beban bagi masyarakat. Kamu adalah parasit bagi bumi. Kamu adalah noda di tempat lanskap. Kamu adalah aib dalam alam semesta.”
Kemudian ditambahkan, “Tolong mati. Tolong mati saja.”
Tentu aja, pengguna yang dimaksud secara langsung mengirim laporan ke Google tentang hal ini, menyatakan bahwa Gemini Artificial Intelligence memberikan respons mengancam yang tersebut bukan relevan dengan prompt.
Ini tidak pertama kalinya model bahasa besar (LLM) Teknologi AI mendapat sorotan lantaran saran yang digunakan salah, tidaklah relevan, atau bahkan berbahaya; Teknologi AI bahkan pernah memberikan jawaban yang digunakan secara etis salah.
Sebuah chatbot Kecerdasan Buatan bahkan dilaporkan menyebabkan seseorang pria bunuh diri dengan mendorongnya untuk melakukannya. Tetapi ini pertama kalinya ada model Teknologi AI secara segera menyuruh penggunanya untuk mati.
Banyak pengguna Reddit juga kebingungan, mengapa model Teknologi AI sanggup menciptakan jawaban seperti itu. Apalagi, prompt-nya bukan ada kaitannya dengan kematian.
Apa pun alasannya, jawaban ini akan menjadi permasalahan serius, teristimewa bagi Google yang mana menginvestasikan miliaran dolar pada teknologi AI. Hal ini juga menunjukkan mengapa pengguna yang mana rentan sebaiknya menghindaripenggunaanAI.
