Sejumlah raksasa teknologi mewanti-wanti dunia soal potensi AI 'mengacaukan' pemilihan umum (pemilu) sambil meneken kesepakatan deteksi karya kecerdasan buatan.
Pada 2024, pemilu dilakukan di berbagai negara, mulai dari Indonesia, Afrika Selatan, India, Taiwan, Amerika Serikat (AS), hingga sejumlah negara di Eropa.
Negara-negara ini disebut dibayang-bayangi oleh AI yang sangat mungkin dimanfaatkan pihak tak bertanggung jawab untuk 'mengacaukan' pesta demokrasi tersebut.
Maka dari itu, belasan perusahaan teknologi yang terlibat dalam upaya membangun atau menggunakan teknologi AI, Jumat (16/2), mendeklarasikan kerja sama dalam mendeteksi dan melawan konten AI yang berbahaya dalam pemilihan umum, termasuk pemalsuan kandidat politik.
Para penandatangan termasuk OpenAI, Google, Meta, Microsoft, TikTok, hingga Adobe.
Perjanjian yang disebut "Kesepakatan Teknologi untuk Memerangi Penggunaan AI yang Menipu pada Pemilu 2024" ini mencakup komitmen untuk berkolaborasi dalam teknologi untuk mendeteksi konten yang dihasilkan AI yang menyesatkan.
Selain itu, bersikap transparan kepada publik tentang upaya untuk mengatasi konten AI yang berpotensi membahayakan.
"AI tidak menciptakan kecurangan dalam pemilu, tetapi kita harus memastikan bahwa AI tidak membantu kecurangan berkembang," ujar Presiden Microsoft Brad Smith dalam sebuah pernyataan di Konferensi Keamanan Munich pada Jumat (16/2), dikutip dari CNN.
Perusahaan teknologi umumnya memiliki catatan yang kurang bagus dalam hal pengaturan diri dan menegakkan kebijakan mereka sendiri. Selain itu, kesepakatan baru ini muncul ketika regulator terus tertinggal dalam menciptakan pagar pembatas untuk teknologi AI yang berkembang pesat.
Sejumlah alat AI yang baru dan terus berkembang menawarkan kemampuan untuk dengan cepat dan mudah menghasilkan teks yang menarik dan gambar yang realistis.
Kemudian, semakin banyak video dan audio yang menurut para ahli dapat digunakan untuk menyebarkan informasi palsu untuk menyesatkan para pemilih.
Pengumuman kesepakatan ini muncul setelah OpenAI pada Kamis (15/2) meluncurkan alat penghasil konten teks-ke-video berbasis AI baru yang sangat realistis bernama Sora.
"Ketakutan terburuk saya adalah bahwa kita menyebabkan kerusakan yang signifikan - kita, bidangnya, teknologinya, industrinya - menyebabkan kerusakan yang signifikan pada dunia," ujar CEO OpenAI, Sam Altman, kepada Kongres AS pada sidang bulan Mei lalu, di mana ia mendesak anggota parlemen untuk mengatur AI.
Lebih lanjut, beberapa perusahaan telah bermitra untuk mengembangkan standar industri untuk menambahkan metadata ke gambar yang dihasilkan AI yang akan memungkinkan sistem perusahaan lain secara otomatis mendeteksi bahwa gambar tersebut dihasilkan oleh AI.
Kesepakatan baru para perusahaan teknologi ini membawa upaya lintas industri tersebut selangkah lebih maju.
Pasalnya, para penandatangan berjanji untuk bekerja sama dalam upaya-upaya seperti menemukan cara untuk melampirkan sinyal yang dapat dibaca oleh mesin di bagian konten yang mengindikasikan asalnya.
Di samping itu, mereka sepakat soal penilaian model AI mereka untuk mengetahui risiko menghasilkan konten AI yang menipu dan berkaitan dengan pemilu.
Para perusahaan ini juga mengatakan mereka akan bekerja sama dalam kampanye edukasi untuk mengajarkan masyarakat bagaimana cara melindungi diri mereka sendiri agar tidak dimanipulasi atau ditipu oleh konten ini.
Dikutip dari Microsoft, berikut poin-poin komitmen para perusahaan teknologi dalam kerja sama yang baru dicanangkan ini:
- Mengembangkan dan menerapkan teknologi untuk memitigasi risiko terkait konten Pemilu AI yang menipu, termasuk perangkat open-source jika diperlukan.
- Menilai model-model yang termasuk dalam cakupan kesepakatan ini untuk memahami risiko yang mungkin ditimbulkan terkait konten pemilu AI yang menipu.
- Berusaha mendeteksi distribusi konten ini di platform mereka.
- Berupaya untuk menangani konten ini yang terdeteksi di platform mereka dengan tepat.
- Membina ketahanan lintas industri terhadap konten pemilu AI yang menipu.
- Memberikan transparansi kepada publik mengenai bagaimana perusahaan mengatasinya.
- Terus terlibat dengan beragam organisasi masyarakat sipil dan akademisi global.
- Mendukung upaya untuk menumbuhkan kesadaran publik, literasi media, dan ketahanan seluruh masyarakat.
Perusahaan yang telah menandatangani komitmen ini adalah Adobe, Amazon, Anthropic, Arm, ElevenLabs, Google, IBM, Inflection AI, LinkedIn, McAfee, Meta, Microsoft, Nota, OpenAI, Snap, Stability AI, TikTok, TrendMicro, Truepic, dan X.
