Apabila Grok-2 dilancarkan, ia menggunakan enjin penjanaan imej daripada pihak ketiga iaitu Flux.1 (oleh Black Forest Labs). Berbeza dengan AI lain seperti DALL-E (OpenAI) atau Gemini (Google) yang sangat ketat, Grok pada mulanya mempunyai penapis yang sangat longgar.
Sejurus selepas pelancaran, pengguna menyedari bahawa mereka boleh “memujuk” Grok untuk menghasilkan imej tokoh terkenal atau individu dalam situasi yang tidak sopan, termasuk imej yang menanggalkan pakaian atau menggantikan wajah pada tubuh yang bogel (deepfake).
Anda boleh lihat sendiri situasi yang cukup membimbangkan di platform X apabila sejumlah lelaki miang menggunakan fungsi Grok terbabit untuk menjana gambar tidak senonoh yang berkait dengan wanita dari dunia sebenar.
Yang lebih mengejutkan, pengguna juga boleh memuat naik gambar sesiapa sahaja melalui platform tersebut dan mengarahkan Grok untuk menjana gambar tanpa pakaian atau…
Klik untuk baca artikel penuh.
Sumber: 