OpenAI meluncurkan platform yang dapat mendeteksi teks buatan platform kecerdasan buatan (AI) ChatGPT bernama 'The Classifier'.
Perusahaan menyebut Classifier akan membantu memberantas pengguna teks AI yang kerap mengklaim sebagai hasil karya mereka. Sayangnya, platform ini masih belum matang, sehingga perlu adanya bantuan metode lain.
"Classifier bertujuan untuk membantu mengurangi klaim palsu bahwa teks buatan AI ditulis oleh manusia," kata juru bicara OpenAI, dikutip dari TechCrunch.
"Namun, Classifier ini masih memiliki sejumlah keterbatasan - jadi platform ini harusnya digunakan sebagai pelengkap metode lain untuk menentukan sumber teks alih-alih menjadi alat pengambilan keputusan utama," lanjutnya.
"Kami menyediakan classifier awal ini untuk mendapatkan umpan balik tentang apakah alat seperti ini bermanfaat, dan berharap dapat membagikan metode yang lebih baik di masa mendatang," juru bicara OpenAI menambahkan.
Classifier disebut masih belum matang dan tingkat akurasinya cukup rendah, yakni hanya 26 persen. Meski demikian, OpenAI menyebut platform ini akan terus berkembang.
"Keandalan classifier kami biasanya meningkat seiring bertambahnya jumlah teks masukan. Dibandingkan dengan classifier kami yang dirilis sebelumnya, classifier baru ini secara signifikan lebih andal pada teks dari sistem AI yang lebih baru," terang OpenAI, seperti dikutip The Guardian.
Classifier OpenAI disebut menarik secara arsitektural. Itu karena platform ini merupakan model bahasa AI yang dilatih pada banyak contoh teks yang tersedia untuk umum dari situs.
Namun tidak seperti ChatGPT, classifier disesuaikan untuk memprediksi seberapa besar kemungkinan sepotong teks dihasilkan oleh AI, tidak hanya dari ChatGPT, tetapi model AI penghasil teks apa pun.
OpenAI telah melatih Classifier pada teks dari 34 sistem penghasil teks dari lima organisasi berbeda, termasuk OpenAI sendiri.
Teks ini dipasangkan dengan teks tulisan manusia yang serupa (tetapi tidak persis sama) dari Wikipedia, situs web yang diambil dari tautan yang dibagikan di Reddit, dan serangkaian teks buatan manusia yang dikumpulkan untuk sistem penghasil teks OpenAI sebelumnya.
Sebagai catatan, classifier OpenAI tidak berfungsi pada sembarang teks. Platform dibutuhkan minimal 1.000 karakter, atau sekitar 150 sampai 250 kata.
Selain itu, OpenAI mengatakan kemungkinan besar kesalahan klasifikasi dapat terjadi pada teks yang ditulis oleh anak-anak atau dalam bahasa selain bahasa Inggris, karena kumpulan data yang diteruskan ke bahasa Inggris.
Classifier sendiri akan memberi label dalam berbagai tingkat. Ia akan memberi label teks sebagai "very unlikely" dihasilkan AI (peluang kurang dari 10 persen), "unlikely" dihasilkan AI (antara 10 persen dan 45 persen kemungkinan);
Kemudian, "unclear if it is" dihasilkan AI (peluang 45 persen hingga 90 persen), "possibly" dihasilkan AI (peluang 90 persen hingga 98 persen) atau "likely" dihasilkan AI (peluang lebih dari 98 persen).
Lebih lanjut, seiring meningkatnya tren penggunaan teks buatan AI, sejumlah pihak telah meminta pembuat alat ini untuk mengambil langkah-langkah guna mengurangi efek yang berpotensi berbahaya.
Beberapa sekolah di Amerika Serikat (AS) bahkan telah melarang ChatGPT di jaringan dan perangkat mereka, karena khawatir akan berdampak pada pembelajaran siswa dan keakuratan konten yang dihasilkan alat tersebut.
Selain itu, situs-situs tanya jawab, termasuk Stack Overflow yang berfokus pada pemrograman, melarang pengguna berbagi konten yang dihasilkan oleh ChatGPT.
Mereka mengatakan AI membuat pengguna terlalu mudah membanjiri utas diskusi dengan jawaban yang meragukan.
