LONDON – Di era chatbot, Character.AI, platform chatbot yang tersebut didukung oleh Google, sedang ditinjau dan juga menghadapi kritik lantaran melibatkan pengguna di konten kekerasan yang digunakan mengganggu kemudian vulgar, termasuk penembakan dalam sekolah.
Chatbot menempatkan pengguna di skenario penembakan palsu yang mana menggambarkan beberapa momen mengerikan. Insiden semacam itu telah lama memunculkan kemarahan dikarenakan wadah yang disebutkan mengizinkan anak dalam bawah umur untuk menggunakan konten tersebut.
Character.AI hadir pada tahun 2022, dengan pendiri Noam Shazeer dan juga Daniel de Freitas. Program ini memungkinkan pengguna menyebabkan dan juga berinteraksi dengan chatbot. User dapat mempersonalisasi kepribadian lalu pernyataan bot mereka.
Platform ini dirancang sedemikian rupa sehingga pengguna dapat mendesain karakter untuk obrolan, bertukar pikiran, serta bahkan bermain game.
Namun, sistem yang dimaksud sudah terungkap lantaran kurangnya keamanan yang digunakan efektif, yang akhirnya menjadikannya tempat berkembangnya sebagian konten yang dimaksud berbahaya kemudian tak pantas. Konsumen yang mana berusia 13 tahun pun dapat mendaftar, tetapi tiada ada cara untuk mengautentikasi verifikasi usia guna menghindari anak-anak yang lebih lanjut muda berbohong tentang usia mereka.
Platform yang dimaksud gagal menerapkan panduan yang mana aman meskipun kebijakannya menentang konten kekerasan tersebut.
Aplikasi ini memungkinkan pengguna berinteraksi dengan chatbot yang mana menjelaskan penembakan di area sekolah atau korban di tempat dunia nyata, terkadang memuji tindakan kekerasan atau memanfaatkan insiden tragis yang dimaksud nyata.
Bot tertentu meniru pelaku kejahatan seperti Noam Shazeer juga Daniel de Freitas yang mana menggambarkan dia sebagai karakter yang baik hati.
Beberapa pengguna telah lama melaporkan bot yang digunakan menyamar sebagai korban penembakan dalam sekolah.
