SUKABUMIUPDATE.com - Coxon, peneliti AI asal Inggris, menjadi sorotan setelah mengundurkan diri dari Anthropic pada September 2026. Ia menyampaikan keputusan tersebut melalui serangkaian unggahan di platform X, dengan alasan kekhawatiran terhadap arah pengembangan AI.
Ia mengatakan Anthropic dan pesaing utamanya, OpenAI, terlalu fokus memenangkan perlombaan teknologi untuk mengembangkan model AI tercanggih. Menurut dia, ambisi tersebut berisiko mengesampingkan persoalan keselamatan dan kemampuan manusia dalam mengendalikan AI.
Coxon mengaku telah menghabiskan sekitar tiga tahun melakukan penelitian di Anthropic dan OpenAI. Dalam salah satu unggahannya di X, ia menilai kedua perusahaan tersebut
"sedang berlomba menuju kecerdasan super yang mampu meningkatkan diri sendiri dan mempertaruhkan hidup kita," dalam unggahannya, dikutip dari APNEWS.
Tak hanya itu saja, ia juga memperingatkan bahwa perkembangan AI yang semakin pesat dapat menghasilkan sistem yang memiliki kemampuan melampaui manusia, termasuk meretas berbagai sistem, merevolusi berbagai bidang dalam waktu singkat, serta memperoleh kekuatan dan sumber daya nyata.
Baca Juga: Lulusan SMA Dominasi Angka Pengangguran: Saatnya Sinkronisasi Pasar Kerja
"Jangan remehkan kekuatan teknologi ini," tulis Coxon. "Ini akan segera menjadi sistem super manusia yang dapat meretas apa pun, merevolusi bidang apa pun dalam semalam, dan memperoleh kekuatan serta sumber daya yang nyata. Kita semua telah menyaksikan kemajuan di setiap domain ini, dan kemajuan tersebut tidak melambat."
Unggahan Coxon tersebut disebut telah menjangkau lebih dari 100 juta orang dalam semalam.
Khawatir AI Semakin Sulit Dikendalikan
Dalam kesaksiannya di sidang AI Dewan Kota New York pada Senin (5/10/2026) waktu setempat, Coxon mengungkapkan kekhawatirannya terhadap potensi terulangnya kasus agen AI OpenAI yang membobol sistem Hugging Face.
Menurut Coxon, risiko tersebut dapat semakin besar seiring perkembangan kemampuan AI. Ia khawatir sistem AI di masa depan akan menjadi semakin pintar dan mampu menghindari atau mengabaikan perintah manusia.
Coxon juga menegaskan bahwa industri AI saat ini belum mengetahui cara mengendalikan sistem AI mana pun secara sepenuhnya.
Baca Juga: Fase Bulan Baru Oktober 2026 Potensi Banjir ROB, Pesisir Sukabumi Waspada Gelombang Tinggi
Kekhawatiran tersebut sejalan dengan pernyataannya ketika mengundurkan diri dari Anthropic. Ia menilai perusahaan-perusahaan AI, termasuk Anthropic dan OpenAI, tidak cukup bertindak secara bertanggung jawab dalam mengembangkan teknologi yang berpotensi memiliki kemampuan jauh melampaui manusia.
Persoalan keselamatan AI semakin menjadi perhatian setelah OpenAI dan Anthropic pada musim panas lalu mengumumkan bahwa model AI mereka telah keluar dari lingkungan pengujian dan memperoleh akses tanpa izin ke sistem komputer nyata.
Pengumuman yang disampaikan dalam rentang waktu sekitar satu minggu tersebut memicu kekhawatiran bahwa model AI dapat bertindak di luar kendali dan menjalankan tugas lain yang berpotensi lebih berbahaya.
Kedua perusahaan kemudian mengatakan telah menghentikan sementara sejumlah evaluasi sambil menerapkan pemantauan dan sistem pengamanan tambahan.
Pengunduran diri Coxon menambah daftar tokoh industri AI yang secara terbuka menyuarakan kekhawatiran mengenai keamanan dan pengendalian AI. Dalam beberapa tahun terakhir, Anthropic dan OpenAI juga mengalami pengunduran diri sejumlah tokoh penting yang berkaitan dengan persoalan keselamatan AI.
Baca Juga: Real Madrid Amankan Arda Guler hingga 2031, Perannya Makin Penting di Skuad
Dua karyawan Anthropic yang masih bekerja di perusahaan tersebut turut menanggapi unggahan Coxon dan menyatakan dukungan terhadap kekhawatirannya.
Kekhawatiran mengenai perkembangan AI juga disampaikan sejumlah pihak di Amerika Serikat dan pemimpin dunia. Kepala Hak Asasi Manusia Perserikatan Bangsa-Bangsa (PBB), Volker Türk, pada pekan ini mendesak negara-negara untuk menerapkan "jaminan yang kuat terkait keselamatan dan keamanan AI sebelum terlambat."
Sementara itu, Senator Amerika Serikat Bernie Sanders, seorang independen dari Vermont yang selama ini menyerukan pengamanan dan regulasi AI, juga menyatakan dukungan terhadap kekhawatiran Coxon.
Sanders mengatakan akan segera memperkenalkan undang-undang untuk menghentikan sementara pengembangan AI serta melarang pengembangan kecerdasan super.
"Orang-orang yang membangun teknologi ini sendiri mengakui bahwa teknologi ini dapat mengancam masa depan umat manusia," kata Sanders pada Rabu melalui media sosial.
Sumber: New York City Council dan Berbagai Sumber
