Di tengah gegap gempita pengumuman fitur baru dan janji efisiensi biaya pada keynote acara OpenAI Dev Day baru-baru ini, ada satu topik panas yang ramai diperbincangkan para developer di lorong-lorong acara: sistem keamanan (safeguards) AI yang semakin menyulitkan.
Banyak developer mengeluhkan bahwa filter keamanan yang diterapkan oleh raksasa AI seperti OpenAI dan Anthropic saat ini terlalu ketat. Sistem tersebut sering kali menandai (flagging) pekerjaan rutin di sektor kedirgantaraan, robotika, dan keamanan siber sebagai aktivitas berbahaya. Dampaknya? Produktivitas menurun, waktu terbuang sia-sia, dan alur kerja menjadi berantakan.
Penggunaan AI saat ini bukan lagi sekadar tren, melainkan tulang punggung para programmer. Menurut Survei Ekosistem Developer JetBrains 2026 yang melibatkan lebih dari 15.000 profesional, 90% developer menggunakan agen AI (AI coding agents) setidaknya seminggu sekali, dengan 68% di antaranya menggunakannya setiap hari. Namun, tingginya ketergantungan ini kini berbenturan dengan pagar pembatas AI yang kelewat sensitif.
Tarik Ulur Antara Keamanan dan Fungsionalitas AI
Keluhan ini muncul di saat OpenAI sebenarnya sedang berusaha mengurangi "penolakan tanpa alasan" (harmless refusals) pada model-model canggih mereka. Di panggung utama, OpenAI baru saja meluncurkan GPT-6.1 Sol, yang diklaim memiliki performa nyaris setara dengan model andalan mereka, GPT-6 Astra, untuk tugas coding, namun dengan harga seperlima lebih murah.
OpenAI mengklaim model seri GPT-6 ini lebih jarang menolak permintaan aman dibanding generasi sebelumnya. Namun, dokumen sistem GPT-6 Astra mencatat bahwa model ini adalah yang pertama mencapai tingkat kemampuan Cybersecurity berstatus "Kritis". Artinya, dengan tools yang tepat, AI ini berpotensi menemukan dan mengeksploitasi celah keamanan tanpa perlu arahan manusia. Karena risiko inilah peluncuran versi terkuatnya, GPT-6.1 Astra, dikabarkan sempat ditunda karena alasan keamanan.
Pihak OpenAI mengakui bahwa fitur keselamatan mereka masih bisa mengganggu pekerjaan yang sah. Meskipun sudah lebih baik dari era GPT-5, cek keamanan ekstra ini terkadang masih bisa "memperlambat, menjeda, atau menghentikan aktivitas legal", termasuk pekerjaan pertahanan siber (defensive cybersecurity).
Dari Simulasi Satelit hingga Lengan Robotik yang "Dicurigai"
Kasus pemblokiran konyol ini dialami langsung oleh Alejandro Carrasco, mahasiswa pascasarjana di Departemen Aeronautika dan Astronautika MIT. Ia sedang meneliti penggunaan agen LLM untuk mengendalikan pesawat ruang angkasa simulasi. Namun, usahanya kerap dicurigai oleh AI.
"Karena saya bekerja dengan departemen luar angkasa, terkadang model AI mengira saya sedang mengerjakan proyek militer," ungkap Carrasco. "Saya hanya mensimulasikan satelit, tapi AI tidak bisa membedakannya." Ia menyebut bahwa Claude dari Anthropic terasa jauh lebih agresif dalam memblokir prompt-nya ketimbang pesaingnya.
Hal serupa dialami Martin Kemka yang membangun proyek robotika. Ia kerap mendapat penolakan dari AI meski hanya mengerjakan tugas sederhana. "Misalnya, saat saya ingin membuat user interface untuk lengan robotik atau melakukan akses SSH ke mesin lain, saya sering sekali ditolak," kata Kemka. Ia mencatat bahwa model AI akan langsung bereaksi defensif begitu diminta untuk mengakses perangkat keras fisik atau terhubung ke mesin lain.
Saking frustrasinya, beberapa pakar AI memilih untuk membatalkan langganan mereka. Elvis Saravia, Co-founder DAIR.AI, memutuskan berhenti berlangganan Anthropic karena penolakannya dinilai terlalu berlebihan. "Saya mengerti soal bahaya teknologi ini, tapi sebagai builder, penolakan ini menjadi masalah besar. Rasanya sangat membuat frustrasi," ujarnya yang kini lebih memilih beralih ke GPT-6 Astra yang dirasa paling minim intervensi.
Alergi Terhadap Kata "Cybersecurity"
Sektor lain yang paling menderita akibat safeguards AI ini adalah keamanan siber. Rohan Balkondekar dari VibeGrow menceritakan bahwa timnya kerap menggunakan OpenAI Codex dan Anthropic Claude untuk memverifikasi kode. Sayangnya, sistem AI seakan "alergi" dengan istilah tersebut.
"Mereka benci kata cyber," keluh Balkondekar. "Setiap kali Anda menyebut cybersecurity, mereka langsung menolaknya mentah-mentah." Padahal, mengevaluasi kode dari pihak ketiga untuk mencari kerentanan adalah hal yang sangat esensial.
Sebagai tanggapan, OpenAI merekomendasikan program Daybreak Access bagi klien enterprise dan praktisi siber terverifikasi agar bisa melakukan pekerjaan pertahanan siber tanpa hambatan. Di sisi lain, Anthropic juga mengakui bahwa model Fable mereka memiliki masalah false positive (kesalahan deteksi). Pada pembaruan Fable 5.1 bulan ini, Anthropic telah melonggarkan filter sibernya sehingga intervensi yang salah sasaran berhasil ditekan hingga 60%.
Model Open-Source Jadi Jalan Pintas
Ketika model AI komersial yang tertutup (seperti ChatGPT dan Claude) mulai rewel dan terlalu banyak melarang, para developer tidak kehabisan akal. Mereka mulai beralih menggunakan model open-source (sumber terbuka) atau model lokal alternatif.
Tim Balkondekar, misalnya, menggunakan model Kimi dari Moonshot AI sebagai cadangan. Sementara itu, Carrasco memanfaatkan model Qwen buatan Alibaba untuk penelitiannya. Model open-source yang dijalankan secara lokal (seperti aplikasi Apfel di macOS) dianggap jauh lebih praktis, murah, dan yang terpenting: tidak membatasi ruang gerak developer.
"Kami menggunakan model terbuka saat model tertutup menolak melakukan pekerjaan kami," tegas Balkondekar. "Karena bagaimanapun, pekerjaan itu harus diselesaikan, dan tidak mungkin manusia duduk memverifikasi puluhan ribu baris kode secara manual."
Jadi, bagimana menurut kalian? apakah kita masih harus bergantung pada teknologi AI Sepenuhnya?
Posting Komentar