OpenAI memiliki konsep penyelarasan super, sebuah langkah maju yang signifikan dalam mengelola risiko yang terkait dengan superintelligence. Kecerdasan super, yang disebut sebagai teknologi paling berdampak yang pernah ditemukan umat manusia, dapat membantu menyelesaikan banyak masalah terpenting dunia. Namun, kekuatan besar dari superintelijen itu juga bisa sangat berbahaya, mengarah pada ketidakberdayaan umat manusia atau bahkan kepunahan manusia.
OpenAI menghadirkan Superalignment: upaya untuk "menyelaraskan" kecerdasan buatan dengan niat manusia
Sementara superintelligence mungkin tampak jauh, OpenAI yakin hal itu bisa terjadi pada dekade ini. Mengelola risiko ini akan membutuhkan, antara lain, lembaga baru untuk tata kelola dan penyelesaian masalah penyelarasan superintelijen: Bagaimana sistem AI yang jauh lebih pintar daripada manusia dapat memastikan bahwa mereka mengikuti niat manusia?
Saat ini, tidak ada solusi untuk memandu atau mengontrol sistem superintelijen. Teknik penyelarasan AI saat ini mereka mengandalkan kemampuan manusia untuk mengawasi AI, yang tidak akan dapat diskalakan ke superintelligence. Tujuan dari OpenAI adalah untuk membangun sebuah pencari penyelarasan tingkat manusia otomatis. Untuk mencapai tujuan ini, metode pelatihan yang terukur perlu dikembangkan.
Baca juga: AI dan AGI: CEO Google DeepMind memprediksi terobosan yang akan segera terjadi
OpenAI sedang mengumpulkan tim peneliti dan insinyur pembelajaran mesin terbaik untuk mengatasi masalah ini. 20% dari daya komputasi yang tersedia selama empat tahun ke depan akan didedikasikan untuk memecahkan masalah ini. Tujuannya adalah untuk memecahkan tantangan teknis utama penyelarasan superintelligence dalam empat tahun. OpenAI mengundang semua orang yang telah berhasil dalam pembelajaran mesin untuk memfokuskan perhatian mereka pada penyelarasan. Hasil dari upaya ini akan dibagikan secara luas, dan penyelarasan serta keamanan model non-OpenAI adalah penting. Perlu dicatat bahwa perusahaan juga akan bekerja untuk meningkatkan keamanan model saat ini dan mengatasi risiko lain dari AI.
Memecahkan penyelarasan superintelijen membutuhkan pemikiran terbaik di dunia. Buka AI mendorong kerjasama lintas disiplin dan keterlibatan aktif dengan isu-isu sosioteknis yang terkait dengan penyelarasan superintelijen.
