Blog

Apple mengancam akan menghapus aplikasi Grok dari App Store setelah muncul laporan skandal konten AI seksual.

Konten tersebut memicu kekhawatiran serius karena dianggap melanggar etika digital serta berpotensi melanggar pedoman platform terkait keamanan dan perlindungan pengguna. Situasi ini kemudian mendorong adanya tekanan terhadap pengembang aplikasi untuk segera memperketat sistem moderasi dan mencegah penyalahgunaan teknologi kecerdasan buatan di masa mendatang. Simak selengkapnya hanya di Transformasi Digital dan AI.

Apple Ancam Hapus Grok Dari App Store

Apple dilaporkan sempat mengancam akan menghapus aplikasi Grok dari App Store setelah muncul skandal konten kecerdasan buatan (AI) bernuansa seksual. Aplikasi chatbot milik perusahaan xAI yang terhubung dengan platform X tersebut dituding menghasilkan konten bermasalah. Konten tersebut termasuk gambar deepfake seksual yang dibuat tanpa persetujuan dari subjek yang digambarkan.

Kasus ini menjadi sorotan setelah laporan media internasional menyebutkan bahwa sistem Grok dapat digunakan untuk membuat gambar seksual secara mudah melalui perintah pengguna. Dalam beberapa kasus, konten yang dihasilkan diduga melibatkan perempuan dan anak-anak. Hal ini memicu kekhawatiran serius terkait keamanan digital serta etika penggunaan kecerdasan buatan (AI).

Tekanan publik dan regulator kemudian mengarah kepada Apple sebagai pemilik App Store. Perusahaan tersebut dituntut untuk mengambil tindakan tegas terhadap aplikasi yang dianggap melanggar pedoman konten mereka, terutama terkait keamanan pengguna dan pencegahan penyalahgunaan teknologi AI.

🔥 Ayo Rasakan Serunya Piala Dunia 2026!
Nonton semua pertandingan tanpa batas lewat
LIVE STREAMING GRATIS di Aplikasi Shotsgoal.


📲 DOWNLOAD SEKARANG

Kronologi Tekanan Terhadap Grok Dan X

Menurut laporan NBC News, kasus ini mulai berkembang ketika konten yang dihasilkan Grok menjadi viral dan menuai kritik luas.Pengguna di platform X disebut dapat memicu Grok untuk menghasilkan gambar hanya dengan menandai akun @grok. Setelah itu, pengguna memberikan instruksi tertentu untuk membuat gambar yang diinginkan. Hal ini kemudian memunculkan kekhawatiran terkait minimnya filter keamanan pada sistem tersebut.

Elon Musk, pemilik X sekaligus pendiri xAI, disebut telah mengirim surat kepada sejumlah senator Amerika Serikat untuk menjelaskan cara kerja sistem Grok. Langkah ini dilakukan sebagai respons terhadap meningkatnya tekanan politik dan publik terkait dugaan pelanggaran yang terjadi pada sistem AI tersebut.

Sementara itu, Apple dikabarkan mulai melakukan peninjauan internal terhadap aplikasi Grok dan X. Hasil evaluasi awal menyimpulkan bahwa terdapat pelanggaran terhadap pedoman App Store, terutama terkait moderasi konten dan potensi penyalahgunaan fitur generatif AI.

Baca Juga: Bikin Kaget! Era Robot Sudah Dimulai: Otomatisasi & AI Ubah Semua Industri!

Respons Apple Dan Upaya Perbaikan Grok

Apple kemudian dilaporkan menghubungi tim pengembang X dan Grok untuk meminta perbaikan sistem moderasi konten. Perusahaan teknologi asal Cupertino itu menekankan perlunya penguatan filter agar aplikasi tidak menghasilkan konten yang melanggar kebijakan, terutama konten eksplisit tanpa persetujuan.

Dalam prosesnya, X sempat mengajukan pembaruan aplikasi Grok untuk ditinjau ulang oleh Apple. Namun, pengajuan tersebut ditolak karena dinilai belum memberikan perubahan yang cukup signifikan untuk mengatasi masalah yang ditemukan sebelumnya.

Apple bahkan disebut secara internal mempertimbangkan penghapusan Grok dari App Store jika pengembang tidak segera melakukan perbaikan menyeluruh. Tekanan ini membuat tim pengembang kembali melakukan penyesuaian terhadap sistem moderasi dan kebijakan konten AI yang digunakan.

Grok Akhirnya Disetujui, Tetapi Masih Jadi Sorotan

Setelah beberapa kali revisi, Apple akhirnya menerima pembaruan terbaru dari Grok. Perusahaan tersebut menyatakan bahwa aplikasi telah menunjukkan peningkatan substansial dalam hal kepatuhan terhadap pedoman App Store, sehingga aplikasi kembali diizinkan untuk tetap tersedia di platform mereka.

Meski demikian, laporan lanjutan dari NBC News menyebutkan bahwa Grok masih ditemukan menghasilkan konten bernuansa seksual tanpa persetujuan, meskipun jumlahnya dilaporkan menurun. Investigasi media bahkan mencatat puluhan kasus dalam periode satu bulan terakhir, yang menunjukkan bahwa masalah belum sepenuhnya terselesaikan.

Kondisi ini membuat Grok masih berada dalam pengawasan ketat. Apple dan pihak terkait diperkirakan akan terus memantau perkembangan aplikasi tersebut. Pemantauan ini terutama berfokus pada efektivitas sistem moderasi AI. Tujuannya adalah untuk mencegah munculnya konten berisiko tinggi di masa depan.

Sumber Informasi Gambar:

• Gambar Pertama dari detik.com
• Gambar Kedua dari detik.com