OpenAI adalah salah satu perusahaan yang paling banyak dibicarakan dan berpengaruh. Baru-baru ini, perusahaan tersebut merilis postingan blog yang menarik perhatian para pendidik, pelajar, dan penggemar teknologi. Postingan tersebut memberikan tips tentang cara menggunakan ChatGPT sebagai alat pengajaran. Namun, ada satu bagian dari postingan tersebut yang menimbulkan pertanyaan dan menimbulkan perdebatan: pengakuan bahwa Detektor tulisan tangan berbasis AI tidak begitu dapat diandalkan seperti yang mungkin Anda pikirkan. Yuk simak detail artikelnya bersama-sama.
Realitas detektor AI menurut OpenAI: sebuah kerangka kerja poco jelas
Di bagian FAQ postingan, OpenAI telah dihadapi masalah detektor penulisan AI, yang menyatakan bahwa “tidak satu pun dari alat ini yang terbukti mampu membedakan secara andal antara konten buatan AI dan konten buatan manusia“. Pernyataan ini sangat relevan di zaman di mana tulisan yang dihasilkan AI menjadi semakin canggih, hingga membingungkan bahkan para ahli sekalipun. Faktanya, beberapa penelitian menunjukkan hal itu detektor ini sering kali menghasilkan positif palsu, mempertanyakan efektivitas dan keandalannya.
Teks, presisi dan keandalan
Namun apa sebenarnya arti pernyataan ini dalam konteks kecerdasan buatan yang lebih luas dan integrasinya ke dalam masyarakat? Pertama-tama, ini menyoroti meningkatnya kompleksitas model bahasa seperti ChatGPT telah menjadi begitu maju sehingga menghasilkan teks-teks yang hampir tidak dapat dibedakan dari teks-teks yang ditulis oleh manusia. Hal ini menimbulkan pertanyaan etis dan praktis, terutama di dunia akademis, di mana kemungkinan plagiarisme yang dibantu AI adalah salah satunya. perhatian meningkat.
Kedua, pernyataan OpenAI menyoroti perlunya mengembangkan metode deteksi yang lebih efektif. Saat ini, banyak detektor mereka mengandalkan metrik dan algoritme yang belum diuji atau divalidasi secara memadai. Misalnya, beberapa orang menggunakan analisis bahasa alami (NLP) untuk mencari pola tertentu dalam teks, namun pola ini dapat dengan mudah dimanipulasi atau dielakkan. Yang lain lagi mengandalkan database contoh teks yang dihasilkan AI, namun database ini sering kali sudah ketinggalan jaman atau tidak lengkap.
Terakhir, kurangnya keandalan detektor AI saat ini membuka peluang terjadinya penyalahgunaan. Mari kita bayangkan sebuah konteks di mana detektor AI yang salah memberi label yang salah pada esai akademis sebagai buatan AI, membahayakan karir seorang mahasiswa atau peneliti. Atau, pertimbangkan risiko bahwa orang-orang mungkin mulai meragukan kebenaran segala jenis konten online, yang selanjutnya akan memicu krisis misinformasi.
Baca juga: Kecerdasan buatan: mengapa kita harus mengawasi UEA
OpenAI: ChatGPT dan “ketidaktahuan” yang disadarinya.
Poin penting lainnya yang diangkat oleh OpenAI adalah Keterbatasan bawaan ChatGPT dalam mengenali apakah suatu teks dihasilkan oleh kecerdasan buatan atau manusia. Hal ini merupakan detail yang mungkin tidak terpikirkan oleh banyak orang, namun hal ini memiliki implikasi yang signifikan tidak hanya bagi dunia akademis tetapi juga bagi industri dan masyarakat secara luas. Misalnya, jika ChatGPT tidak dapat membedakan antara konten buatan AI dan konten manusia, bagaimana kita dapat mengandalkannya untuk tugas-tugas kompleks lainnya seperti penelitian akademis, membuat laporan keuangan atau bahkan menyusun dokumen hukum?
Yang salah dan ketidaksadaran
“Ketidaktahuan” terhadap ChatGPT ini juga menimbulkan pertanyaan etika dan tanggung jawab. Jika model bahasa AI tidak dapat mengidentifikasi “tangannya” sendiri dalam membuat teks, model tersebut mungkin secara tidak sengaja cberkontribusi pada penyebaran informasi palsu atau menyesatkan. Hal ini khususnya mengkhawatirkan dalam bidang-bidang seperti jurnalisme dan sains, di mana keakuratan dan keterverifikasian informasi adalah hal yang terpenting. Yang pasti hal ini dapat dihindari ketika manusia hendak merevisi teks yang dibuat (sebagaimana mestinya).
Selain itu, keterbatasan ChatGPT menimbulkan pertanyaan yang lebih besar tentang sifat kecerdasan buatan. Jika model AI tidak memiliki “kesadaran” akan tindakannya, sejauh mana kita bisa menganggapnya “cerdas”? Dan bagaimana hal ini mengubah pemahaman kita tentang kecerdasan buatan sebagai perpanjangan atau pelengkap kecerdasan manusia? Ini adalah pertanyaan-pertanyaan yang masih coba dijawab oleh komunitas ilmiah.
Meski alat pendeteksi otomatis berbasis AI tidak dapat diandalkan, bukan berarti manusia tidak akan pernah bisa mendeteksi tulisan yang dihasilkan AI. Misalnya, seorang guru yang mengetahui gaya menulis siswa dengan baik mungkin memperhatikan ketika gaya tersebut tiba-tiba berubah. Namun, saat ini, disarankan untuk menghindari alat pendeteksi AI sepenuhnya.
