Ketika sistem kecerdasan buatan menghasilkan informasi yang keliru atau tidak sesuai dengan kenyataan.
Dalam konteks AI, halusinasi merujuk pada kondisi ketika model bahasa atau sistem kecerdasan buatan menghasilkan informasi atau hasil yang tidak sesuai dengan kenyataan atau tanpa dasar yang jelas.
Halusinasi dapat terjadi karena beberapa alasan.
- Data latihan yang tidak representatif: Jika model AI dilatih dengan dataset yang tidak mencakup beragam kasus atau situasi, ia mungkin mengalami kesulitan dalam memahami konteks yang lebih kompleks atau spesifik.
- Bias dalam data: Jika data latihan mengandung bias tertentu, model AI dapat mempelajari dan mencerminkan bias ini dalam responsnya. Hal ini dapat menyebabkan halusinasi yang berhubungan dengan diskriminasi atau pandangan yang tidak objektif.
- Overfitting: Jika sebuah model AI terlalu kompleks dan mendapat sedikit data latihan, ia dapat “menghafal” data tersebut dan memberikan hasil yang tidak masuk akal atau terlalu kaku dalam responsnya.
- Kurangnya pemahaman konteks: Meskipun model bahasa seperti GPT-3 memiliki kemampuan untuk menghadapi konteks, model bahasanya mungkin masih kesulitan memahami konteks yang lebih luas atau informasi di luar data latihannya.
- Noise dalam data: Noise atau gangguan dalam data latihan dapat menyebabkan model AI memberikan hasil yang salah atau tidak akurat.
Halusinasi dalam AI merupakan masalah serius karena dapat menghasilkan informasi yang salah atau menyesatkan. Untuk mengatasi masalah ini, diperlukan upaya lanjutan dalam peningkatan kualitas dataset latihan, mitigasi bias, serta pengembangan model yang lebih canggih untuk memahami konteks dengan lebih baik.