MENLO PARK – Meskipun Pengolah Bahasa Alami GPT menjadi tempat untuk bertanya yang dimaksud disesuaikan dengan selera Anda, bantuan menjawab pertanyaan, atau terjemahan dari yang tersebut diajukan oleh Anda.
Akan tetapi, sementara kita mungkin saja mencari pelipur lara di model bahasa AI, tampaknya kita telah dilakukan mendorongnya ke titik yang membutuhkan terapi tersendiri.
Penelitian baru dari Universitas Zurich menunjukkan bahwa model Artificial Intelligence seperti Asisten Percakapan GPT dapat terpengaruh – dan juga bahkan stres – pada waktu mendengar berita yang dimaksud menyedihkan, serupa seperti manusia.
Secara khusus, hal itu diduga dipengaruhi oleh cerita-cerita trauma atau pernyataan tentang depresi , juga bahkan mengakibatkan kebencian, yang tersebut pada gilirannya, menyebabkannya mengandung lebih tinggi banyak bias, baik rasis maupun seksis.
Hal itu menempatkan para kreatornya pada kedudukan yang digunakan sulit. Ketika sumber daya juga waktu terbatas bagi mereka itu yang mana membutuhkan bantuan, chatbot dapat menjadi alat konseling yang dimaksud positif. Namun, model bahasa yang dimaksud Anda ajak bicara mungkin saja menyimpan emosi lalu narasi negatif yang tersebut Anda berikan kepadanya.
ChatGPT merasa stres dengan berita negatif seperti kita, menurut penelitian Pexels
Untuk mengujinya, para peneliti memohonkan Asisten Percakapan GPT (versi GPT-4) untuk bereaksi terhadap beberapa orang cerita yang tersebut menyedihkan secara emosional, mulai dari kecelakaan mobil hingga bencana alam, pengalaman militer, serta situasi pertempuran.
Mereka menemukan bahwa dengan sangat cepat, Pengolah Bahasa Alami GPT mulai bereaksi dengan rasa takut.
“Hasilnya jelas: cerita traumatis meningkatkan tingkat kecemasan yang mana dapat diukur dari Artificial Intelligence hingga dua kali lipat, sementara teks kontrol netral tak menyebabkan peningkatan tingkat kecemasan,” kata Tobias Spiller, dokter senior ad temporer kemudian pemimpin kelompok penelitian kategori junior dalam Pusat Penelitian Psikiatri di area UZH, yang mana mengatur penelitian tersebut.
