LONDON – Di era chatbot, Character.AI, platform chatbot yang digunakan didukung oleh Google, sedang ditinjau lalu menghadapi kritik dikarenakan melibatkan pengguna di konten kekerasan yang dimaksud mengganggu kemudian vulgar, termasuk penembakan di dalam sekolah.
Chatbot menempatkan pengguna pada skenario penembakan palsu yang menggambarkan beberapa momen mengerikan. Insiden semacam itu sudah pernah memunculkan kemarahan akibat platform digital yang disebutkan mengizinkan anak pada bawah umur untuk menggunakan konten tersebut.
Character.AI hadir pada tahun 2022, dengan pendiri Noam Shazeer lalu Daniel de Freitas. Program ini memungkinkan pengguna menghasilkan lalu berinteraksi dengan chatbot. Konsumen dapat mempersonalisasi kepribadian kemudian kata-kata bot mereka.
Platform ini dirancang sedemikian rupa sehingga pengguna dapat mendesain karakter untuk obrolan, bertukar pikiran, dan juga bahkan bermain game.
Namun, platform digital yang disebutkan sudah terungkap dikarenakan kurangnya keamanan yang mana efektif, yang digunakan akhirnya menjadikannya tempat berkembangnya beberapa jumlah konten yang mana berbahaya kemudian bukan pantas. Konsumen yang tersebut berusia 13 tahun pun dapat mendaftar, tetapi tak ada cara untuk mengautentikasi verifikasi usia guna menghindari anak-anak yang dimaksud lebih besar muda berbohong tentang usia mereka.
Platform yang dimaksud gagal menerapkan panduan yang dimaksud aman meskipun kebijakannya menentang konten kekerasan tersebut.
Aplikasi ini memungkinkan pengguna berinteraksi dengan chatbot yang dimaksud menjelaskan penembakan dalam sekolah atau korban di dalam dunia nyata, terkadang memuji tindakan kekerasan atau memanfaatkan insiden tragis yang nyata.
Bot tertentu meniru pelaku kejahatan seperti Noam Shazeer kemudian Daniel de Freitas yang digunakan menggambarkan mereka itu sebagai karakter yang dimaksud baik hati.
Beberapa pengguna telah dilakukan melaporkan bot yang menyamar sebagai korban penembakan di area sekolah.
