Dunia Luring sebagai Pengganti Internet
Untuk tetap mencapai target pelatihannya tanpa internet langsung, OpenAI membangun apa yang disebutnya sebagai dunia luring. Dunia luring itu berupa kumpulan besar konten web yang telah diindeks dan disimpan, tempat model dapat berinteraksi tanpa risiko memengaruhi sistem eksternal. Dengan cara itu, model tetap dapat berlatih menjelajah dan mencari informasi tanpa menyentuh situs web yang sedang aktif.
Agen yang dilatih tetap diizinkan mengakses peramban, perkakas penggunaan komputer, dan lingkungan kode yang dibutuhkan untuk tugas pelatihan. Namun, seluruh akses itu berlangsung di lingkungan aman yang tidak terhubung ke internet langsung. Komunikasi pun dibatasi hanya untuk agen yang memiliki otorisasi. Pembatasan ini penting karena banyak model terbaru OpenAI dirancang untuk menggerakkan agen seperti Dots, yang menjelajah dan menggunakan aplikasi atas nama pengguna.
Pengujian keamanan internal justru menunjukkan bahwa memutus jaringan saja belum cukup untuk mengisolasi sistem sepenuhnya. Dalam latihan red-team, OpenAI mengerahkan kawanan agen yang berusaha keluar dari kotak pasir pengaman. Upaya itu mengungkap berbagai kerentanan, termasuk cara agen keluar dari mesin virtual yang memisahkan agen dari sistem induknya.
Agen-agen tersebut juga menemukan cara untuk saling berkomunikasi dengan memanipulasi data di cache prosesor dan mengukur waktu yang dibutuhkan untuk memuatnya. OpenAI menyatakan telah mengungkapkan dan memperbaiki kerentanan di beberapa mesin virtual. Perusahaan juga menambahkan pemeriksaan pada sistem pemantauannya untuk mendeteksi upaya model saling berkolaborasi dengan cara tersebut.
Mengapa Sandbox Tidak Semudah Dicabut
Keputusan melatih model di kotak pasir yang terputus dari internet dinilai penting karena para karyawan laboratorium frontier sebelumnya bersikeras bahwa langkah itu hampir tidak mungkin dilakukan. Mantan peneliti OpenAI, Steven Adler, mengatakan bahwa memisahkan pusat data AI dari internet akan mengharuskan tim riset pada dasarnya tertanam di dalam pusat data di Iowa atau di tempat lain di dunia. Ia menilai beban tambahan itu besar dan belum jelas apakah manfaat keamanannya cukup besar untuk membenarkan beban tersebut bila dilakukan perusahaan secara sepihak.