Atasi Kecurangan, OpenAI Tambahkan Watermark di Tulisan Hasil ChatGPT?

Foto untuk : Atasi Kecurangan, OpenAI Tambahkan Watermark di Tulisan Hasil ChatGPT?

Di tengah perkembangan teknologi kecerdasan buatan (AI), pengenalan tulisan yang dihasilkan oleh model AI seperti ChatGPT menjadi semakin penting. Baru-baru ini, laporan dari The Wall Street Journal mengungkapkan bahwa OpenAI telah mengembangkan alat yang mampu mendeteksi esai yang ditulis oleh ChatGPT dengan tingkat akurasi tinggi.

Meskipun alat tersebut sudah siap, OpenAI masih mempertimbangkan apakah akan merilisnya. Selain itu, ada pula bahasan mendalam yang dilakukan OpenAI tentang penambahan watermark tulisan ChatGPT dan tantangan yang dihadapi dalam implementasinya.

Watermark tulisan di ChatGPT sendiri adalah salah satu metode yang bisa dimanfaatkan untuk menandai teks yang dihasilkan oleh model AI dengan cara tertentu sehingga dapat diidentifikasi sebagai karya AI. Ini mirip dengan watermark pada gambar atau video yang menunjukkan asal-usul konten tersebut. Alat ini dirancang untuk membantu dalam mengidentifikasi teks yang dihasilkan oleh ChatGPT, sehingga memudahkan pendeteksian dan pencegahan penyalahgunaan.

Meskipun alat watermark ini sudah siap, OpenAI belum merilisnya karena beberapa alasan. Dalam pembaruan pada posting blog bulan Mei, yang ditemukan oleh TechCrunch, OpenAI menyatakan bahwa mereka sedang meneliti beberapa alternatif lain selain watermarking, seperti pengklasifikasi dan metadata.

Alat watermark mungkin tidak efektif jika teks dimanipulasi, seperti melalui penerjemahan, pengubahan kata dengan model generatif lain, atau penambahan karakter khusus yang kemudian dihapus. Di sisi lain, watermarking dapat berdampak negatif pada beberapa kelompok, seperti penutur bahasa Inggris non-asli yang menggunakan AI sebagai alat bantu tulis. Hal ini dapat menstigmatisasi penggunaan AI dalam konteks tertentu.

Menurut pernyataan dari juru bicara OpenAI, perusahaan tersebut mengambil pendekatan yang disengaja karena kompleksitas yang terlibat dan kemungkinan dampaknya pada ekosistem yang lebih luas di luar OpenAI. Selain watermarking, OpenAI juga meneliti pengklasifikasi dan metadata sebagai solusi untuk mengidentifikasi teks AI. Pengklasifikasi menggunakan algoritma untuk mengidentifikasi pola dalam teks yang menunjukkan bahwa teks tersebut dihasilkan oleh AI.

Metadata dapat menyertakan informasi tentang asal-usul teks langsung dalam file teks itu sendiri. Dalam pembaruan blognya, OpenAI menyatakan bahwa mereka memprioritaskan rilis alat autentikasi untuk konten audiovisual. Ini karena konten audiovisual memiliki kompleksitas tersendiri dan dapat memanfaatkan teknologi watermarking dengan cara yang lebih langsung dasn efektif.

Bisa disimpulan bahwa watermark tulisan ChatGPT adalah salah satu solusi yang sedang dipertimbangkan oleh OpenAI untuk membantu mengidentifikasi teks yang dihasilkan oleh AI. Meskipun alat ini sudah siap, tantangan dalam implementasinya membuat OpenAI berhati-hati dalam merilisnya.

Alternatif seperti pengklasifikasi dan metadata juga sedang dieksplorasi untuk memberikan solusi yang lebih komprehensif. OpenAI berkomitmen untuk mengambil pendekatan yang hati-hati dan mempertimbangkan dampaknya pada ekosistem yang lebih luas.

Sumber : Klik Disini