Jakarta, CNBC Indonesia - Seorang mantan karyawan OpenAI bidang keamanan sistem yang baru-baru ini mengundurkan diri mengkritik pendekatan perusahaan terhadap mekanisme keamanan AI.

Seorang mantan karyawan itu menyebu budaya serba cepat yang berfokus pada pengembangan pesat di perusahaan AI saat ini meningkatkan risiko kegagalan.

Dalam artikel berjudul "Saya Keluar dari OpenAI Karena Budayanya Rusak," yang diterbitkan oleh Atlantic pada Sabtu, David Robinson mengatakan perusahaan AI, termasuk OpenAI, tidak "cukup berhati-hati" dan seharusnya lebih menekankan pada keahlian dan penelitian keselamatan sebelum mengembangkan sistem yang lebih mumpuni.

"Era coba-coba sudah berakhir," tulis Robinson sebagaimana dilansir Reuters, dikutip Minggu (4/10/2026).

Robinson berpendapat sistem AI canggih membutuhkan pengamanan yang lebih mirip dengan yang digunakan di industri seperti tenaga nuklir dan penerbangan.

Alih-alih memperkuat sistem pengamanan sebelum memperkenalkan produk ke publi, perusahaan AI seperti OpenAI kata dia cenderung sangat bergantung pada apa "penyebaran iteratif," yaitu merilis sistem dan memperkuat pengamanan ketika masalah muncul.

Di tengah kondisi kerja yang dilaporkan Robinson itu, OpenAI dan pesaingnya, Anthropic, sebetulnya telah menghadapi pengawasan ketat oleh otoritas di AS, setelah insiden kontrol keselamatan gagal, atau sistem eksperimental berperilaku di luar dugaan.

Robinson, yang mengatakan telah menghabiskan 3,5 tahun di OpenAI, membantu menyusun kerangka kerja kesiapan perusahaan dan mengawasi laporan keselamatan untuk 12 peluncuran model perintis.

Namun, ia mengklaim: "Saat perusahaan berpacu dari satu peluncuran ke peluncuran berikutnya, perusahaan gagal mencapai tingkat kehati-hatian yang menurut saya dibutuhkan."

Merespons pengakuan mantan karyawan itu, OpenAI dalam sebuah pernyataan menegaskan, "Kami memastikan model kami tidak menjadi lebih canggih daripada yang dapat kami kelola dan amankan dengan aman, dan kami menghentikan sementara pelatihan atau menahan model ketika kami perlu memperlambatnya."

Robinson memperingatkan kemampuan AI berkembang lebih cepat daripada pemahaman para peneliti tentang keselarasan, sebuah bidang yang berfokus pada memastikan sistem AI bertindak sesuai dengan tujuan dan nilai-nilai manusia.

(arj/arj) [Gambas:Video CNBC]