Karakter Jessica Foster, yang memasarkan dirinya sebagai seorang prajurit Amerika, telah menarik perhatian luas di dunia digital setelah berhasil meraih lebih dari satu juta pengikut di Instagram dalam waktu empat bulan. Foster muncul dalam serangkaian foto mengenakan seragam angkatan bersenjata AS sambil berdiri di samping pesawat tempur, termasuk pesawat tempur terkenal 'F-22 Raptor', sehingga menjadikannya karakter unik di mata pengikutnya.
Namun, penyelidikan kemudian mengungkap bahwa Foster hanyalah hasil dari teknologi kecerdasan buatan, di mana tidak ada catatan yang membuktikan bahwa dia pernah bertugas di militer, yang menimbulkan pertanyaan mengenai kredibilitas apa yang ia publikasi di akun media sosialnya.
Fenomena ini mencerminkan fenomena yang lebih luas di mana karakter palsu dan tidak nyata digunakan untuk memanfaatkan emosi manusia dan menarik perhatian melalui platform media sosial. Akun-akun sayap kanan berkontribusi dalam menyebarluaskan karakter-karakter ini demi tujuan politik tertentu, untuk mendapatkan pengikut, meningkatkan tingkat interaksi, dan mendapatkan keuntungan material. Banyak kasus melibatkan karakter militer atau politik yang dekat dengan pengambil keputusan, dan dalam kasus Jessica Foster, kemunculannya dalam konteks sensitif seperti serangan militer terhadap Iran menambah kehebohan.
Meskipun tidak ada simbol yang mengindikasikan jenis karakter ini, banyak komentator percaya bahwa tokoh-tokoh ini adalah sosok nyata, dan karenanya, mereka semakin banyak diikuti. Jessica Foster sering berinteraksi dengan peristiwa sehari-hari, bahkan muncul dalam foto di atas kapal militer di Selat Hormuz, yang semakin meningkatkan perhatian terhadap akunnya.
Angkatan bersenjata AS menyangkal adanya prajurit semacam itu, dan kekhawatiran semakin meningkat bahwa penggunaan kecerdasan buatan untuk menciptakan karakter palsu dapat memicu perang informasi, di mana akun-akun yang menyesatkan digunakan untuk menyebarkan propaganda politik. Dalam konteks ini, Sam Gregory, direktur eksekutif lembaga 'Witness', berpendapat bahwa karakter-karakter palsu ini dapat berkontribusi pada distorsi fakta dan mengubah perdebatan publik.
Krisis ini tampak dalam berbagai aspek, di mana Joan Donovan dari Universitas Boston menunjukkan bahwa akun-akun ini berkembang karena kemudahan pembuatan dan diagnosisnya melalui teknologi kecerdasan buatan. Para peneliti memperingatkan bahwa kurangnya transparansi mengenai karakter-karakter ini dapat mengarah pada erosi kepercayaan dalam informasi yang beredar di ruang siber, yang menghambat diskusi publik yang dibangun di atas fakta dan informasi yang akurat.
Dalam konteks internasional yang serupa, kami telah melihat banyak kasus pemanfaatan teknologi untuk menghasilkan konten palsu untuk tujuan propaganda, dan ini menunjukkan bahwa wilayah Arab tidak terisolasi dari fenomena ini. Kami telah menyaksikan penyebaran akun-akun palsu dan menyesatkan di wilayah tersebut, yang dieksploitasi untuk mempromosikan narasi tertentu yang dapat mempengaruhi perdamaian dan keamanan.
Kondisi saat ini memerlukan pemantauan yang cermat dan pemahaman terhadap metode baru dalam mengeksploitasi ruang digital, serta pentingnya mengembangkan strategi berkelanjutan untuk memerangi informasi yang menyesatkan. Ketergantungan pada teknologi kecerdasan buatan tanpa pengawasan dapat menciptakan lingkungan yang berbahaya bagi masyarakat, yang memerlukan kesadaran kolektif untuk menghadapi berbagai risiko di sekitarnya.