OpenAI, perusahaan kecerdasan buatan yang memukau dunia dengan inovasinya, sedang membentuk badan industri baru. Sasaran, tujuan? Mempromosikan pengembangan sistem AI frontier yang aman dan bertanggung jawab. Ini adalah langkah penting, karena baik pemerintah maupun industri sepakat bahwa meskipun adaAI menawarkan janji yang sangat besar untuk kepentingan dunialangkah-langkah keamanan yang memadai diperlukan untuk mengurangi risiko.
OpenAI, Anthropic, Google dan Microsoft: tiga area utama untuk masa depan AI yang aman
Il Forum Model Perbatasan (begitulah namanya) akan fokus pada tiga bidang utama di tahun mendatang untuk mendukung pengembangan model AI frontier yang aman dan bertanggung jawab. Pertama, akan mengidentifikasi praktik terbaik, mempromosikan berbagi pengetahuan antara industri, pemerintah, masyarakat sipil dan akademisi. Kedua, itu akan mendukung penelitian tentang keamanan AI, mengidentifikasi pertanyaan penelitian paling penting di bidang ini. Pada akhirnya, itu akan memfasilitasi berbagi informasi antara perusahaan dan pemerintah, membangun mekanisme yang aman dan tepercaya untuk berbagi informasi terkait keamanan dan risiko AI.
Baca juga: OpenAI Memperkenalkan Superalignment: Bagaimana AI Dapat Mengikuti Niat Manusia
Komitmen bersama untuk masa depan AI yang aman
Banyak pemimpin industri telah menyatakan antusiasme mereka terhadap inisiatif ini. Kent Pejalan, Presiden Urusan Global di Google & Alphabet, berkata: “Kami senang bekerja sama dengan perusahaan terkemuka lainnya, berbagi keahlian teknis untuk mendorong inovasi yang bertanggung jawab dalam AI. Kita semua harus bekerja sama untuk memastikan bahwa AI bermanfaat bagi semua orang“. Juga Brad Smith, Wakil Presiden & Presiden Microsoft, menggarisbawahi pentingnya inisiatif ini: “Perusahaan yang menciptakan teknologi AI memiliki tanggung jawab untuk memastikannya aman, terlindungi, dan tetap berada di bawah kendali manusia. Inisiatif ini adalah langkah kunci untuk menyatukan sektor teknologi guna memajukan AI secara bertanggung jawab dan mengatasi tantangan dengan cara yang bermanfaat bagi seluruh umat manusia".
Anna Makanju, Wakil Presiden Urusan Global di OpenAI, menekankan bahwa teknologi AI yang canggih memiliki potensi untuk membawa manfaat besar bagi masyarakat. Dia mengklaim bahwa realisasi potensi ini itu membutuhkan pengawasan dan tata kelola. Dia menekankan pentingnya perusahaan AI, terutama yang bekerja pada model yang paling kuat, menyelaraskan kesamaan dan mempromosikan praktik keamanan yang bijaksana dan adaptif. Ini, katanya, itu akan memastikan bahwa alat AI yang kuat memiliki keuntungan sebesar mungkin. Dia menekankan bahwa ini adalah pekerjaan yang mendesak dan forum berada pada posisi yang baik untuk bertindak cepat guna meningkatkan keamanan AI.
