Masalah dengan gambar yang dibuat oleh AI adalah AI yang membuat gambar. Artinya, perintah sederhana dapat menciptakan gambaran relativitas yang realistis apa pun. Tidak sulit membayangkan permasalahan yang mungkin timbul dari fakta tersebut.
Google pada hari Selasa mengumumkan fitur yang disebut SynthID yang ditujukan untuk memerangi deepfake dan penyalahgunaan gambar yang dihasilkan AI. Google DeepMind meluncurkan versi beta dari alat tersebut, yang menurut perusahaan tersebut, “menyematkan tanda air digital langsung ke piksel gambar, membuatnya tidak terlihat oleh mata manusia, namun dapat dideteksi untuk identifikasi.”
Dengan kata lain, di permukaannya, gambar yang dihasilkan AI akan terlihat regular di permukaan, tetapi memiliki penanda yang mudah dikenali agar orang tahu bahwa itu bukan gambar asli. Saat ini SynthID telah dirilis ke “sejumlah terbatas” pelanggan yang menggunakan Imagen, mannequin Google Deepmind yang menggunakan perintah teks untuk membuat gambar fotorealistik.
Google mengatakan SynthID seharusnya lebih efektif daripada tanda air tradisional, yang lebih mudah dihapus, dipotong, atau merusak gambar. Tanda air SynthID akan tetap terlihat bahkan setelah filter ditambahkan, warna diubah, atau ukuran gambar diubah. Alat SynthID harus dapat memberi pengguna gambaran apakah Imagen digunakan untuk membuat gambar menggunakan sistem tingkat kepercayaan tiga tingkat — kemungkinan besar, tidak mungkin, dan mungkin terdeteksi.
Ke depannya, Google mengatakan mungkin akan memperluas alat tersebut agar dapat mengidentifikasi gambar dari mannequin lain dan mungkin mengintegrasikan alat SynthID ke dalam produk lain yang ditawarkannya.
Topik
Kecerdasan Buatan Google
