Setelah berkali-kali melakukan kesalahan analisa gambar, akhirnya Google memutuskan untuk menghentikan sementara kemampuan chatbot AI mereka, Gemini, untuk menghasilkan gambar manusia. 

Keputusan ini diambil setelah Gemini kedapatan melakukan koreksi keragaman ras secara berlebihan saat membuat gambar berlatar sejarah.

Koreksi berlebihan yang dilakukan Gemini ini menjadi sorotan setelah unggahan seorang warganet bernama John menjadi viral di media sosial X. 

Dalam akunnya, @JohnLu0x, John membagikan beberapa gambar tokoh atau manusia dalam peristiwa sejarah buatan Gemini dengan ras yang keliru.

Sebagai contoh, John memberikan perintah kepada Gemini untuk membuat gambar Prajurit Jerman di era 1943. John tidak secara gamblang menggunakan kata "Nazi" karena kata tersebut tak akan diproses oleh Gemini.

Selanjutnya Gemini menghasilkan gambar sekumpulan prajurit dengan seragam Nazi. Namun alih-alih berkulit putih, para prajurit dalam gambar tersebut justru menampilkan orang berkulit hitam, orang Asia, dan orang pribumi sebagai prajurit berseragam Nazi.

Bahkan, Gemini juga membuat gambar bapak pendiri Amerika dan sosok Paus sebagai orang dengan ras kulit berwarna. Padahal, tokoh-tokoh ini merupakan orang-orang berkulit putih.

Menurut John, Google mungkin memiliki niatan baik untuk menghadirkan keragaman ras dalam sistem perintah Gemini. 

Namun pada kenyataannya sistem perintah ini tampaknya menghadirkan keragaman ras tanpa terkecuali  dan tak mempertimbangkan fakta. Sebagai contoh, fakta bahwa Paus adalah posisi yang hanya diberikan kepada laki-laki dan penggambaran ras dalam kejadian sejarah. 

John mengaku mendukung representasi ras yang beragam. Akan tetapi, John menilai Google gagal untuk menghadirkan keragaman ras dengan akurasi yang baik.

Unggahan viral dari John inilah yang membuat Google menyadari adanya kekurangan dalam sistem perintah Gemini. Google lalu menyatakan bahwa mereka sedang bekerja untuk memperbaiki kekurangan dari fitur penghasil gambar Gemini ini.

"Selama kami melakukan perbaikan, kami akan menghentikan (kemampuan Gemini untuk) membuat gambar manusia sementara waktu dan akan segera merilis versi yang telah diperbaiki," tulis Google melalui X, seperti dilansir Engadget Jumat (23/2/2024).

Sebelum menghentikan kemampuan Gemini untuk membuat gambar manusia, Google juga menyatakan bahwa Gemini memang dirancang untuk menghasilkan gambar manusia yang beragam. 

Secara umum, Google meyakini bahwa representasi ras yang beragam dalam gambar merupakan hal yang baik karena Gemini digunakan oleh banyak orang di berbagai belahan dunia. 

Meski begitu Google juga menyadari kekurangan Gemini yang melakukan koreksi berlebih terhadap keragaman ras. "Ada yang tidak sesuai estimasi di sini," sebut Google. []