Surabaya (pilar.id) – Perkembangan teknologi Artificial Intelligence (AI) telah memunculkan konten manipulasi foto dan video yang dapat merugikan pengguna media sosial.
Salah satu aplikasi yang menjadi sorotan adalah aplikasi X, di mana banyak orang mengaku menjadi korban manipulasi foto, mengubah busana menjadi tak berbusana. Teknik ini, yang disebut Deepfake, menciptakan konten baru yang terlihat autentik dan meyakinkan. Bagaimana cara kerjanya dan apa bahayanya?
Menurut Aziz Fajar, Dosen Fakultas Teknologi Maju dan Multidisiplin Universitas Airlangga, Deepfake adalah salah satu aplikasi dari model AI yang digunakan untuk mengubah piksel pada gambar.
“Dengan mengubah nilai piksel pada gambar, gambar hasil modifikasi akan berbeda dengan gambar aslinya,” ujarnya.
Aplikasi AI ini juga dapat mengubah tampilan wajah seseorang, dan sayangnya, seringkali disalahgunakan oleh pihak yang tidak bertanggung jawab.
“Deepfake dapat digunakan untuk mengubah wajah seseorang, memungkinkan pembuatan video atau gambar palsu. Padahal, orang yang menjadi korban tidak pernah melakukan hal tersebut,” tambahnya.
Cara Mengenali Deepfake
Fenomena gambar dan video palsu yang dihasilkan oleh AI menjadi kekhawatiran, terutama bagi pengguna media sosial. Korban deepfake seringkali mengalami stres karena reputasi buruk di lingkungan sosialnya.
Aziz, yang juga dosen pengampu mata kuliah Machine Learning, menjelaskan bahwa saat ini sudah ada aplikasi yang dapat mendeteksi deepfake, salah satunya Microsoft’s Video Authenticator Tools. Aplikasi ini membantu dalam mendeteksi foto dan video palsu.
“Dengan menggunakan perangkat lunak anti-deepfake ini, kita dapat mengetahui apakah foto atau video tersebut hasil dari deepfake atau bukan,” ungkapnya. “Meskipun demikian, ada kemungkinan perangkat lunak gagal mendeteksi deepfake,” tambahnya.
Aziz menyampaikan bahwa pengembangan detektor AI yang lebih baik diperlukan karena deepfake akan terus berkembang. Pentingnya peran pengguna media untuk berpikir kritis, mencari tahu sumbernya, dan tidak langsung mempercayai informasi tanpa verifikasi.
“Pada akhirnya, semuanya bergantung pada konsumen media untuk bersikap kritis dan mencari tahu kebenaran informasi,” pungkasnya. (ipl/hdl)
