Baru-baru ini, Amazon diluncurkan chatbot AI-nya Amazon Q, yang memicu minat dari berbagai perusahaan namun juga kekhawatiran di kalangan karyawan atas masalah akurasi dan privasi yang serius. Q dilaporkan karena memiliki “halusinasi tidak poco kisah” dan mengungkapkan data rahasia, menimbulkan pertanyaan tentang keamanan informasi perusahaan. Berikut detailnya yang diungkapkan oleh Platformer.
Peringatan keamanan untuk Amazon Q: antara data rahasia dan jawaban yang salah
Amazon dia memperkenalkan chatbot AI-nya, bernama Q, tiga hari lalu, tetapi tampaknya tidak semuanya berjalan sesuai rencana. Beberapa karyawan telah memperingatkan masalah akurasi dan privasi: Amazon Q akan mewujudkan "halusinasi" dan mengungkapkannya informasi rahasia, seperti lokasi pusat data AWS, program diskon internal, dan fitur yang belum dirilis.
Informasi ini muncul dari dokumen yang dibocorkan dan diperoleh Platformer, menyoroti a Masalah keamanan tingkat 2, situasi serius yang memerlukan intervensi segera dari para insinyur.
Meskipun demikian, Amazon meremehkan pentingnya diskusi internal ini. Seorang juru bicara mengatakan berbagi umpan balik melalui saluran internal adalah praktik standar di Amazon dan tidak ada masalah keamanan yang teridentifikasi sebagai hasil dari masukan ini. Perusahaan menggarisbawahi pentingnya umpan balik yang diterima dan keinginan untuk melanjutkan menyempurnakan Amazon Q saat bertransisi dari pratinjau ke ketersediaan umum.
Amazon Q, saat ini tersedia dalam pratinjau gratis, disajikan sebagai versi perangkat lunak perusahaan dari chatbot, dengan fungsi awal yang ditujukan untuk menjawab pertanyaan pengembang tentang AWS, memodifikasi kode sumber, dan mengutip sumber. Amazon menekankan keamanan dan privasi Q, membandingkannya dengan alat tingkat konsumen seperti ChatGPT.
Namun, dokumen internal mengungkapkan bahwa Q dapat “berhalusinasi” dan memberikan tanggapan yang merugikan atau tidak pantas, seperti informasi keamanan yang ketinggalan jaman yang dapat membahayakan akun pelanggan. Risiko ini umum terjadi pada model bahasa besar, yang semuanya cenderung memberikan respons yang salah atau tidak tepat setidaknya pada beberapa kesempatan.
Via | Slashdot
