BULETINENERGI.COM — Laporan terbaru dari The Information pada Selasa lalu mengungkap bahwa OpenAI tengah mengadopsi teknik "recurrent depth", yang juga disebut "opaque recurrence", pada model terbarunya, Astra. Berbeda dengan model penalaran konvensional yang bekerja secara berurutan, teknik ini memungkinkan model memproses pertanyaan yang sama berulang kali dalam sebuah siklus. Hasilnya, jejak logika yang ditinggalkan menjadi lebih minim dan sulit dilacak oleh sistem pengawasan eksternal.
Kenapa Teknik Ini Bikin Khawatir
Kekhawatiran utama bukan tanpa alasan. Biasanya, rantai pemikiran atau chain of thought merekam langkah-langkah yang diambil model saat memecahkan masalah. Catatan ini kerap menjadi alat investigasi penting ketika model bertindak di luar kendali, seperti pada insiden agen AI nakal yang sempat terjadi di OpenAI.
Dengan teknik recurrent depth, proses tersebut jadi tidak linear. Model bisa menyelesaikan banyak perhitungan dalam ruang laten atau di luar kanal yang terlihat, sehingga meninggalkan lebih sedikit jejak audit.
Buck Shlegeris, CEO Redwood Research, menyuarakan keresahannya secara terbuka. "Saya sangat khawatir dengan laporan bahwa Astra menggunakan opaque recurrence. Saya tidak tahu apakah Astra jauh lebih sulit dipantau daripada model sebelumnya. Tetapi jika OpenAI terus mendorong teknik ini, mereka akan punya opsi untuk meningkatkan recurrencesecara masif dan menghancurkan kemampuan monitoring chain of thought sepenuhnya," tulisnya setelah kabar tersebut beredar.
Apa Itu Recurrent Depth dan Dampaknya
Recurrent depth pada dasarnya mengubah cara model "berpikir". Alih-alih menyusun langkah solusi satu per satu secara eksplisit, model diajak untuk memproses ulang informasi dalam loop. Ini memang membuat penalaran lebih efisien dalam beberapa kasus, tetapi mengurangi transparansi proses.
Zvi Mowshowitz, advokat senior keamanan AI, menilai langkah ini seperti bermain api. Menurutnya, teknik tersebut berisiko merusak kesepakatan tidak tertulis yang selama ini dijaga OpenAI dan Anthropic untuk mempertahankan rantai pemikiran yang setia dan mudah diawasi. "Penggunaan teknik yang lebih intensif kemungkinan akan merusak kemampuan monitoring," ujarnya. Ia bahkan menyarankan perlunya regulasi untuk mencegah "perlombaan menuju dasar" antar laboratorium AI.
Semua model AI memang melakukan sebagian penalaran yang tidak transparan, dan para peneliti jarang menganggap log chain of thought sebagai representasi langsung dari proses berpikir model. Namun, para ahli sepakat bahwa kekhawatiran ini tetap sah, terutama jika teknik opaque reasoning ditingkatkan skalanya secara agresif.
Bantahan dan Komitmen OpenAI
Menanggapi spekulasi yang berkembang, OpenAI menegaskan bahwa penggunaan teknik ini pada Astra masih terbatas. Perusahaan memastikan rantai pemikiran model tetap dapat dibaca dan menolak anggapan bahwa mereka akan beralih ke "neuralese", istilah untuk representasi internal yang tidak bisa dipahami manusia.
Jakub Pachocki, Chief Scientist OpenAI, menegaskan komitmen perusahaan dalam sebuah unggahan di X. "OpenAI telah bekerja untuk mempertahankan dan memanfaatkan pemantauan chain of thought sejak model penalaran pertama kami. Ini adalah tujuan inti dari program riset kami saat ini," tulisnya.
Perusahaan juga telah mengumumkan rencana sistem pemantauan chain of thought yang ekstensif sebagai bagian dari rencana keselamatan jangka panjang mereka.
Apa Langkah Selanjutnya
Kabar ini memicu diskusi lebih luas di kalangan peneliti. Dalam laporan lanjutan, The Information menyebutkan bahwa Anthropic dan Google DeepMind juga telah membahas teknik serupa. Ryan Greenblatt, peneliti utama Redwood Research, mengingatkan bahaya eskalasi.
"Kekhawatiran terbesar saya adalah perkembangan alami dari sini akan melibatkan peningkatan penalaran buram hingga titik di mana model bernalar sepenuhnya atau hampir sepenuhnya di ruang laten," jelas Greenblatt. "Saya harap belum terlambat untuk menghindari arsitektur yang paling mengkhawatirkan dan OpenAI akan berhenti di sini."
Bagi pengguna yang mulai akrab dengan istilah AI reasoning, kabar ini menegaskan bahwa transparansi sistem tetap menjadi medan tarik antara efisiensi teknologi dan akuntabilitas keamanan. Belum ada keputusan final apakah teknik ini akan diterapkan luas, tetapi arah pengembangan model di masa depan akan sangat menentukan standar keselamatan industri AI secara global.