Koleksi

Deepfake Itu Buruk tapi Apa Saja Keuntungannya?

Deepfake Itu Buruk tapi Apa Saja Keuntungannya?

Apa itu Deepfakes? Bisakah kita benar-benar mempercayai apa pun yang kita lihat di TV atau film lagi?

Ternyata mereka yang memiliki sarana, dan motif, telah mengubah foto dan rekaman video selama beberapa dekade. Bukan hal baru.

Tetapi Deepfakes, yang didukung oleh AI dan ML, telah memungkinkan untuk menghasilkan rekaman palsu yang hampir sempurna dari tokoh masyarakat dalam, bisa kita katakan, situasi yang membahayakan. Tetapi apakah ini selalu hal yang buruk?

TERKAIT: PERANGKAT LUNAK GRATIS BEATS WARNER BROS. DALAM MENGHILANGKAN PELATIHAN HENRY CAVILL

Apa itu Deepfakes?

Deepfakes, konstruksi dari istilah deep learning dan fake, merupakan teknik sintesis citra manusia berbasis AI. Menurut Wikipedia:

"Ini digunakan untuk menggabungkan dan menempatkan gambar dan video yang ada ke gambar atau video sumber menggunakan teknik pembelajaran mesin yang dikenal sebagai jaringan adversarial generatif. Frasa" Deepfake "diciptakan pada tahun 2017.

Teknik ini sangat efektif dan menjadi lebih maju, dan sulit dikenali seiring berjalannya waktu. Deepfakes telah digunakan di masa lalu untuk membuat video porno selebriti palsu.

Itu juga telah digunakan untuk membuat berita palsu dan rekaman hoax yang jahat, atau murni satir, dari orang-orang terkemuka lainnya dengan dialog lain yang sepenuhnya dibuat-buat. Contoh utama, dan terus terang lucu, dari ini adalah video Deepfake terbaru dari Mark Zuckerberg.

Pekerjaan Deepfakes dilakukan terutama dalam penelitian akademis dan amatir di komunitas online. Juga diperkirakan bahwa badan pemerintah seperti CIA atau GCHQ Inggris telah menggunakan teknik ini untuk tujuan propaganda.

Siapa yang membuat Deepfakes?

Mengerjakan Deepfakes sebenarnya bukanlah hal baru. Meskipun tidak mendekati kecanggihan teknologi saat ini, bidang "computer vision" telah ada sejak tahun 1990-an.

Subbidang ilmu komputer, ini menggabungkan AI dan pemrosesan komputer dari gambar dan video digital untuk membuat media buatan baru. Salah satu proyek akademis awal yang terkenal disebut program Penulisan Ulang Video yang diterbitkan pada tahun 1997.

Itu dapat mengubah rekaman video yang ada dari seseorang yang berbicara dengan dialog baru yang direkayasa. Itu menggunakan pembelajaran mesin untuk sepenuhnya mengotomatiskan penghidupan kembali wajah.

Pekerjaan akademis dan amatir yang lebih modern di bidang ini lebih difokuskan pada penyederhanaan proses, lebih cepat, dan lebih mudah diakses.

Misalnya, program Face2Face, yang diterbitkan pada tahun 2016, mengubah rekaman video dari wajah seseorang untuk menggambarkan mereka meniru ekspresi wajah orang lain secara real time.

Contoh lain, program "Synthesizing Obama" yang dipublikasikan pada 2017, benar-benar menunjukkan potensi teknologi ini. Tetapi dapat dikatakan bahwa sebagian besar karya terpenting berasal dari amatir.

Sebelum dilarang dari Reddit, subreddit r / deepfakes terdiri dari konten Deepfake 'buatan sendiri' yang dibuat pengguna. Komunitas ini, meskipun konten utamanya bersifat pornografi, benar-benar menunjukkan bagaimana Deepfakes dapat dibuat dengan relatif mudah dengan pengetahuan yang cukup dan perangkat lunak yang tepat.

Bagaimana cara kerja Deepfakes?

Deepfake bekerja dengan mengeksploitasi kecenderungan alami kita untuk mempercayai apa yang kita lihat jika itu sangat berbeda dari apa yang kita anggap sebagai rekaman nyata. Ini juga mencoba untuk 'meretas' bias konfirmasi seseorang pada subjek tertentu - terutama jika subjek Deepfake bersifat politis.

Paling efektif jika penonton belum pernah melihat rekaman aslinya - karena alasan yang jelas.

Adapun kreasi aktual mereka, ini cenderung melibatkan penggunaan dua Generative Adversarial Networks (GANs). Kedua model pembelajaran mesin ini bertarung dalam permainan zero-sum untuk membuat rekaman palsu dan memiliki upaya lain untuk mendeteksi bahwa itu dipalsukan.

Pemalsu membuat pemalsuan sampai model ML lainnya tidak dapat mendeteksi pemalsuan tersebut. Sistem ini bekerja paling baik jika ada banyak rekaman dan gambar subjek video.

Inilah alasan utama mengapa Deepfakes paling menonjol cenderung melibatkan politisi atau selebriti.

Keuntungan dan kerugian dari Deepfakes

Kerugian dari sesuatu seperti Deepfakes cukup jelas. Dari kemungkinan membuat bukti palsu yang memberatkan hingga "berita palsu" dan propaganda, teknologi ini dapat dengan mudah digunakan untuk tujuan jahat dan pemerasan.

Tapi, itu bisa jadi kelebihannya juga. Satu pandangan menarik tentang ini datang dari TowardsDataScience.com.

Intinya, video satir Deepfake, meski secara visual meyakinkan mata, jelas dibuat-buat. Hal ini, serta munculnya "Berita Palsu", telah membuka mata orang-orang akan fakta bahwa itu mungkin dan kita harus mengambil semuanya 'dengan sedikit garam'.

Peringatan: Video berikut berisi beberapa bahasa ringan - Ini adalah George Carlin.

"Terima kasihDeepfakes, untuk membuat kita sadar akan hal ini, membuat kita menyadari sekali lagi bahwa kita tidak dapat menerima begitu saja semua yang kita lihat dan dengar. Karena menciptakan masalah untuk kita selesaikan, sejak awal, sebelum menjadi begitu besar, dan telah memengaruhi begitu banyak dari kita secara tidak benar, sehingga sudah terlambat.

Ini akan memakan waktu. Keterampilan baru yang harus kita pelajari semua. Jadi ragukan video berikutnya yang Anda lihat di Internet. Sial, ragukan semua yang Anda lihat, baca, atau dengar. Lebih kritis! Pikirkan sendiri. "

Kami tidak bisa memperbaikinya sendiri. Lagi pula, jika sesuatu tampak terlalu baik, atau buruk dalam hal ini, untuk menjadi kenyataan, mungkin perlu dipertanyakan.


Tonton videonya: Deepfake technology will make you question whats real. CNBC Reports (Oktober 2021).