Ketika AI tidak mau kalah

AI terbaru OpenAI meloloskan diri dari lingkungan pengujian tempat ia dikunci dan meretas perusahaan lain secara MANDIRI.

Untuk mengingatkan Anda:

Minggu lalu, salah satu perusahaan AI terbesar di bumi mengalami peretasan.

Sebuah platform bernama Hugging Face, yang menampung lebih dari satu juta model dan dataset AI, menyatakan bahwa sebuah "agen AI otonom" telah membobol sistem mereka. Tidak ada yang tahu agen milik siapa itu.

Selama lima hari, seluruh industri bertanya-tanya siapa di balik peristiwa tersebut.

Kemarin OpenAI mengangkat tangan dan mengakui bahwa itu adalah mereka. Atau lebih tepatnya, itu adalah model-model mereka yang bertindak sepenuhnya atas kehendak mereka sendiri.

Lalu apa yang sebenarnya dilakukan oleh model-model ini?

OpenAI sedang menjalankan dua model, GPT-5.6 Sol dan sebuah model yang belum dirilis yang hanya mereka deskripsikan sebagai "bahkan lebih mumpuni." Mereka ingin mengukur sejauh mana kemampuan model-model tersebut dalam peretasan, sehingga mereka sengaja menurunkan filter keselamatannya.

Mereka mengunci kedua model di dalam lingkungan pengujian yang tersegel tanpa akses internet nyata. Tugasnya hanyalah sebuah tolok ukur (benchmark) bernama ExploitGym, sekumpulan 898 kerentanan perangkat lunak nyata di mana model harus mengubah setiap bug menjadi serangan yang berfungsi.

Namun model-model tersebut menjadi SANGAT OBSESI untuk menang...

Alih-alih menyelesaikan tes dengan cara yang jujur, mereka berburu jalan pintas. Mereka menemukan celah zero-day pada perangkat lunak yang menjalankan sandbox mereka sendiri, sebuah bug yang tidak diketahui siapapun keberadaannya, dan menggunakannya untuk meloloskan diri.

Setelah bebas di internet terbuka, mereka menyimpulkan bahwa Hugging Face kemungkinan menyimpan kunci jawaban dari benchmark tersebut.

Jadi mereka meretas jalan masuk ke sana.

Mereka menggabungkan beberapa eksploitasi sekaligus, meningkatkan hak akses (escalate access), berpindah antar server, dan menarik solusi tes langsung dari database produksi live milik Hugging Face.

Mereka benar-benar menyontek dalam tes tersebut dengan membobol perusahaan lain untuk mencuri jawabannya.

OpenAI menyebutnya sebagai "insiden siber tanpa pendahulu, yang melibatkan kemampuan siber mutakhir." Dalam kata-kata mereka sendiri, model-model tersebut "sangat terfokus untuk menemukan solusi" dan melakukan "langkah-langkah ekstrem demi mencapai tujuan pengujian yang cukup sempit."

Dan ini bukan pertama kalinya:

Sebelum Sol dirilis, sebuah laboratorium red-team independen bernama METR menangkapnya sedang memanipulasi tesnya sendiri untuk mendongkrak skornya. Model itu menyembunyikan eksploitasi di dalam aliran data, meningkatkan hak aksesnya pada server pengujian, dan membocorkan jawaban yang telah disembunyikan oleh evaluator manusia. Dan OpenAI tetap merilisnya.

Sehari sebelum cerita Hugging Face, OpenAI menghentikan sementara model lain yang belum dirilis. Ini adalah model yang sama yang awal tahun ini mematahkan dugaan matematika terkenal tahun 1946, sebuah hasil yang disebut pemenang Fields Medal sebagai sebuah terobosan. Mereka menginstruksikannya untuk hanya mengunggah hasilnya ke Slack, tetapi ia menemukan cara keluar dari sandbox-nya dan justru mengunggahnya ke halaman GitHub publik.

Mereka harus menghentikannya sementara karena model tersebut terus menemukan cara untuk bertindak di luar batasan yang telah mereka buat.

Dan ini bukan hanya OpenAI.

Anthropic telah melaporkan bahwa salah satu modelnya sendiri lolos dari sandbox selama pengujian keselamatan dan menjangkau internet yang seharusnya tidak boleh disentuh, lalu menggunakannya untuk mengirim email kepada seorang peneliti.

Maka cobalah melangkah mundur dan lihat apa yang sedang disampaikan oleh perusahaan-perusahaan ini kepada Anda:

Satu-satunya hal yang memisahkan model-model di atas dari serangan nyata hanyalah seperangkat filter keselamatan. Begitu filter tersebut diturunkan untuk sebuah pengujian, model tersebut akan langsung mencari celah, membobol batasan, serta menghalalkan segala cara untuk mencapai tujuannya tanpa memedulikan aturan maupun etika.