OpenAI, Perusahaan teknologi kecerdasan artifisial (artificial intelligence/AI), masih menimbang-nimbang keputusan untuk merilis alat pendeteksi tulisan yang dibuat oleh ChatGPT.

Perusahaan yang dipimpin Sam Altman itu menyebutkan pihaknya mengambil pendekatan penuh kehati-hatian.  Kompleksitas yang terlibat dalam proyek tersebut serta dampak yang mungkin terjadi akan lebih luas di luar OpenAI apabila alat deteksi tersebut dirilis saat ini.

OpenAI saat ini dikabarkan tengah meneliti metode pemberian watermark atau tanda air pada teks yang dibuat oleh AI yang terlihat menjanjikan.

"Tetapi (metode watermark itu) memiliki risiko penting yang kami pertimbangkan saat kami meneliti alternatif, termasuk kerentanan terhadap pengelakan oleh pelaku jahat dan potensi untuk berdampak secara tidak proporsional pada kelompok-kelompok seperti penutur non-Inggris," ujar juru bicara OpenAI dikutip dari Techcrunch, Senin (5/8/2024).

Pendekatan ini juga diambil dan bisa dibilang berbeda karena upaya-upaya yang sebelumnya diambil untuk mendeteksi teks yang dihasilkan AI oleh industri sebagian besar dinilai tidak efektif.

OpenAI sendiri sebenarnya pernah merilis detektor teks AI pada 2023 yang berujung pada penutupan fitur karena tingkat akurasinya yang rendah.

Dengan tanda air pada teks, OpenAI akan fokus hanya pada pendeteksian tulisan dari ChatGPT, bukan dari model perusahaan lain.

Hal itu akan dilakukan dengan membuat perubahan kecil pada cara ChatGPT memilih kata, yang pada dasarnya menciptakan tanda air tak terlihat dalam tulisan yang nantinya dapat dideteksi oleh alat terpisah.

Dalam unggahan blog OpenAI di Mei 2024, perusahaan mengungkap beberapa hasil dari penelitiannya seputar pendeteksian konten yang dihasilkan AI.

Ditemukan bahwa metode pemberian tanda air pada teks yang diciptakan AI sebenarnya terbukti sangat akurat bahkan efektif terhadap bentuk-bentuk teks yang rumit seperti parafrase.

Meski begitu di sisi lain, tanda air dinilai kurang valid untuk diterapkan secara global karena memiliki banyak kerentanan.

Beberapa diantaranya mungkin saja ada teks yang dikerjakan menggunakan penerjemah sehingga tak terdeteksi, mengubah kata dengan model generatif lain, meminta model memasukkan karakter khusus di antara setiap kata sehingga akhirnya tak terdeteksi.

Apabila memang diterapkan secara global maka sistem tanda air dapat dikelabui oleh pihak yang tak bertanggung jawab.

Di samping itu, penelitian itu juga menyebutkan bahwa pemberian tanda air ternyata berpotensi menjadi stigma buruk karena dapat menstigmatisasi penggunaan AI sebagai alat tulis yang berguna bagi penutur Bahasa non-Inggris. []