OpenAI menengarai ada akun kelompok Iran yang akan menggunakan ChatGPT untuk menghasilkan konten yang mengganggu proses Pilpres Amerika Serikat. Mereka sudah menyelidiki akun-akun tersebut dan menghapus ChatGPT dari akun tersebut.  

OpenAI mengatakan pihaknya menemukan artikel online dan komentar media sosial yang dibuat dengan bantuan ChatGPT. Isinya tidak menjangkau banyak orang – namun terfokus pada sejumlah isu yang memecah belah termasuk pemilihan presiden AS, perang Israel di Gaza, dan kehadiran Israel di Olimpiade. Materi yang dihasilkan AI itu ditujukan untuk audiens progresif dan konservatif.

Investigasi menemukan bahwa artikel panjang yang dihasilkan oleh AI dipublikasikan di situs web yang menyamar sebagai website media berita. OpenAI mengatakan akun-akun yang kini diblokir tersebut menyusun komentar media sosial – baik dalam bahasa Inggris dan Spanyol – dengan meminta ChatGPT untuk menulis ulang komentar yang sudah diposting oleh pengguna media sosial lainnya. 

“Mereka menyelingi konten politik mereka dengan komentar tentang fesyen dan kecantikan, mungkin untuk tampil lebih autentik sebagai upaya untuk menambah pengikut,” kata perusahaan itu.

Beberapa waktu lalu, laporan intelijen Microsoft mengatakan jaringan Iran Storm-2035, yang terdiri dari empat situs web yang menyamar sebagai outlet berita, secara aktif melibatkan kelompok pemilih AS di ujung spektrum politik yang berlawanan.

"Keterlibatan tersebut dibangun dengan pesan yang terpolarisasi mengenai isu-isu seperti kandidat presiden AS, hak-hak LGBTQ, dan konflik Israel-Hamas," kata laporan tersebut.

Sebelumnya, OpenAI mengklaim telah menggagalkan lima operasi yang berupaya menggunakan modelnya untuk aktivitas penipuan di internet. Lima operasi ini disinyalir akan mengganggu proses emilihan Presiden AS yang dijadwalkan digelar pada 5 November 2024 mendatang. []