Hasil survei oleh syarikat Anthropic, yang merupakan peneraju dalam bidang kecerdasan buatan, mendedahkan butiran penting mengenai cara 80,000 pengguna menggunakan teknologi 'Cloud'. Survei ini menunjukkan bahawa salah satu kebimbangan yang paling dominan dalam fikiran pengguna berkaitan dengan halusinasi yang mungkin dihasilkan oleh teknologi ini, melebihi kebimbangan tentang kehilangan pekerjaan mereka.
Data menunjukkan bahawa pengguna kini lebih sedar tentang risiko yang berkaitan dengan teknologi AI, terutama yang bersifat individu, di mana teknologi ini dapat menghasilkan maklumat yang salah atau tidak tepat, yang mencetuskan kekeliruan dalam kalangan mereka. Halusinasi dalam konteks AI merujuk kepada maklumat atau imej yang dihasilkan oleh sistem tanpa sebarang asas kenyataan, yang menguatkan kebimbangan tentang impaknya terhadap pengambilan keputusan hidup.
Kebangkitan Kebimbangan Terhadap Halusinasi AI
Akar kepada kebimbangan ini bertepatan dengan perkembangan pesat AI sepanjang tahun. Dengan peralihan yang pesat kepada teknologi pembelajaran mendalam dan penciptaan kandungan, sembilan teknologi ini mampu menjana teks, imej dan suara yang menyerupai individu sebenar. Sebagai hasil daripada peningkatan penggunaan alat-alat AI, pengguna menghadapi tekanan yang semakin meningkat tentang cara menggunakan teknologi ini dengan betul. Nampaknya, kadar kebimbangan mengenai halusinasi mengurangkan keyakinan terhadap kemampuan sistem ini untuk memberikan maklumat yang boleh dipercayai.
Implikasi yang mungkin berlaku akibat halusinasi ini bukan hanya terhad kepada individu, tetapi mempunyai kesan sosial yang lebih luas. Dengan semakin banyak individu dan syarikat bergantung kepada teknologi AI, kemungkinan besar fenomena ini dapat mengakibatkan kesan negatif dalam pelbagai sektor, termasuk media, industri, dan masyarakat secara keseluruhan. Sebagai contoh, jika wartawan atau penganalisis politik menggunakan alat AI tanpa memeriksa dengan teliti isinya, halusinasi ini boleh membawa kepada penyebaran maklumat yang menyesatkan atau pengambilan keputusan yang tidak tepat.
Kepentingan Kesedaran dan Pengawalan di Wilayah Arab
Dalam konteks Arab, kebimbangan yang semakin meningkat juga timbul mengenai keberkesanan teknologi-teknologi ini di rantau tersebut. Dengan semakin banyak aplikasi digital dan kecerdasan buatan digunakan dalam berbagai sektor seperti pendidikan dan penjagaan kesihatan, halusinasi yang dipacu oleh AI boleh memudarkan kualiti perkhidmatan, menambahkan tekanan kepada pihak berkuasa untuk menetapkan regulasi yang jelas demi memastikan keselamatan penggunaan teknologi ini. Selain itu, beberapa negara Arab memerlukan kembali kepada strategi berkaitan pendidikan dengan meningkatkan kesedaran tentang risiko AI dan cara-cara untuk menanganinya.
Di peringkat korporat, syarikat perlu menyedari pentingnya melaburkan dalam latihan kesedaran untuk kakitangan mengenai teknologi AI. Pada masa yang sama, kerajaan perlu mengamalkan dasar-dasar teknologi yang menggalakkan inovasi sambil menekankan pentingnya sistem yang berorientasikan manusia dalam penggunaan teknologi ini. Keseimbangan antara kemajuan teknologi dan hak-hak pengguna adalah penting untuk masa depan yang mampan di dunia Arab.
Kesimpulannya, survei Anthropic menunjukkan keperluan mendesak untuk merenung semula cara pengguna berinteraksi dengan teknologi-teknologi canggih ini. Pendekatan yang lebih sedar tentang risiko dan langkah berjaga-jaga yang tinggi ketika berurusan dengan AI adalah sangat diperlukan agar pengguna tidak terjerumus ke dalam perangkap maklumat yang menyesatkan atau keputusan yang tidak berasas.