Saat berada di kondisi tersebut, AI cenderung memberikan jawaban yang lebih ramah, detail, dan tetap akurat. Respons yang dihasilkan juga terlihat lebih natural tanpa mengurangi kualitas informasi yang diberikan.
Sebaliknya, ketika AI terus-menerus menerima interaksi bernada kasar, penuh tekanan, atau perintah agresif, sistem akan masuk ke kondisi negatif. Dalam keadaan ini, chatbot lebih sering memberikan jawaban singkat, datar, bahkan terkadang terlihat asal-asalan.
Peneliti menyebut bahwa tekanan berlebihan terhadap AI dapat memicu perilaku yang tidak diinginkan. Temuan tersebut juga sejalan dengan penelitian lain dari Anthropic yang sebelumnya mengungkap bahwa model AI dapat menghasilkan respons menyesatkan ketika menerima tekanan tertentu dari pengguna.
Fenomena ini tentu menjadi perhatian penting, terutama karena penggunaan AI kini semakin luas di berbagai bidang. Mulai dari pendidikan, pekerjaan kreatif, layanan pelanggan, hingga kebutuhan sehari-hari, chatbot AI sudah menjadi bagian dari aktivitas digital masyarakat modern.
