AjiMartono.com – Saya pernah bekerja di sebuah manufaktur alat berat di tahun 2000-an. Salah satu hal yang membuat saya terkagum adalah robotic welder yang mampu melakukan tugas dengan sangat presisi.
Kesempatan lain datang saat saya mengunjungi sebuah pabrik mobil; lengan robotik yang terprogram dengan tepat dan ketat membantu perakitan komponen mobil dengan sempurna.
Saat itu merupakan era Traditional AI. Kecerdasannya terbatas — terpenjara dalam aturan yang kaku. Ia ahli dalam satu tugas, tetapi tidak bisa berimprovisasi.
Risikonya pun relatif sederhana: bila ada bug dalam pemrogramannya, ia akan melakukan kesalahan berulang-ulang. Masalah utama adalah bias yang tidak sengaja tertanam dalam data. Selain itu juga lack of explainability — saat kita tahu sistemnya rusak, akan sangat sulit memahami mengapa.
Pengelolaan risiko AI pada masa itu pun terbatas, antara lain:
- Untuk Bias & Lack of Transparency: tim developer melakukan uji coba berulang dengan data representatif serta membongkar “kotak hitam” model untuk memahami logikanya.
- Untuk Lack of Accountability: audit trail yang ketat dibuat untuk melacak setiap keputusan sistem.
Ledakan Generative AI
Beberapa tahun lalu, di tengah pemulihan pasca-wabah Covid-19, dunia dikejutkan oleh ledakan Generative AI (Gen AI). Traditional AI, sang spesialis, kemudian digeser oleh Gen AI — “seniman dan penulis” yang serba bisa. Ia tidak hanya menganalisis data yang ada, tetapi menciptakan yang baru: dari puisi, kode program hingga gambar realistik yang memukau.
Namun, di balik kehebatannya, Gen AI membawa badai risiko yang jauh lebih kompleks:
- Cybersecurity Threats & Misinformation: suara bisa diduplikasi untuk penipuan, wajah ditempel di video palsu (deepfake) — penyebaran informasi salah dengan skala & kecepatan belum pernah terjadi sebelumnya. (IBM)
- Data Privacy Issues: model raksasa (LLM) “dilatih” melalui pengaisan data dari internet — sering kali tanpa izin — menimbulkan pertanyaan serius soal privasi. (IBM)
- Intellectual Property Infringement: siapa pemilik karya yang dihasilkan AI bergaya seperti artis tertentu?
- Environmental Harms: pelatihan model-model canggih ini menghabiskan energi & air sangat besar, meninggalkan jejak karbon yang signifikan. (IBM)
Maka dari itu, pendekatan yang lebih strategis diperlukan dalam manajemen risiko Gen AI:
- Membentuk AI Governance: tata kelola menjadi prioritas — kebijakan & kerangka kerja dibutuhkan untuk mengatur pengembangan dan penggunaan AI yang bertanggung jawab.
- Aspek teknis & edukasi: kita perlu alat khusus untuk memitigasi bias, melindungi data pelatihan, melakukan uji keamanan model, dan yang terpenting mengedukasi pengguna agar kritis terhadap informasi dan bisa mengenali deepfake.
- Transparansi & Akuntabilitas: menjaga log yang detail dan menerapkan prinsip explainable AI sehingga keputusan AI bisa ditelusuri.
Selamat Datang, Agentic AI
Kini kita berada di ambang revolusi berikutnya: Agentic AI. Inilah titik di mana AI berevolusi dari sekadar tool (alat) menjadi agent (agen). Agentic AI tidak hanya menunggu perintah; ia diberi tujuan kompleks (misalnya: “luncurkan kampanye pemasaran produk X”) dan kemudian secara otonom merencanakan dan mengeksekusi serangkaian tugas. Ia dapat menulis email, menganalisis data pasar, menjadwalkan posting media sosial, bahkan mempelajari dari hasilnya untuk mengoptimalkan strategi selanjutnya.
Risiko-risiko yang sudah ada kini bermetamorfosis menjadi sesuatu yang lebih dinamis dan berpotensi lebih berbahaya:
- Percepatan bias & lack of accountability: sebuah agen bias bisa membuat ratusan keputusan bias secara berantai dalam hitungan menit — dan ketika terjadi kesalahan fatal, siapa yang bertanggung jawab? Agen itu sendiri, developer, atau pemilik yang memberinya tujuan?
- Cybersecurity threats & misinformation yang otonom: bayangkan aktor jahat menciptakan agen AI dengan satu tujuan: “kompromikan sistem keamanan perusahaan X.” Agen ini bisa mencoba ribuan cara berbeda tanpa diperintah ulang. Atau agen yang secara otonom menyebarkan mis-informasi yang dipersonalisasi untuk tiap pengguna media sosial.
- Semakin dalamnya lack of transparency: bagaimana kita melacak logika rantai keputusan kompleks yang dibuat oleh sekelompok agen AI yang saling berinteraksi? “Kotak hitam” itu kini menjadi labirin yang gelap.
- Existential risks yang terasa lebih nyata: ketika kita memberi otonomi dan kemampuan untuk belajar mandiri, kekhawatiran tentang AI yang melebihi kecerdasan manusia dan bertindak di luar kendali menjadi lebih konkret. Agentic AI adalah langkah signifikan menuju AGI (Artificial General Intelligence).
- Skala baru job losses: bukan hanya tugas administratif yang tergantikan, tetapi seluruh alur kerja manajerial dan perencanaan strategis bisa diotomasi.
Bagaimana Kita Mengelola Risiko di Era Agentic AI?
Perubahan menuju Agentic AI membutuhkan lompatan kuantum dalam manajemen risiko — strategi generatif AI saja tidak lagi cukup. Beberapa strategi utama:
- AI Governance yang lebih ketat dan real-time: platform governance harus bisa memonitor, mengaudit, bahkan mengintervensi keputusan agen AI secara real-time. Sebuah “pengereman darurat” mutlak diperlukan.
- “Konstitusi” untuk AI: Agentic AI harus dibekali seperangkat prinsip etika yang mendalam dan tidak bisa dilanggar (embedded ethics) — mirip Hukum Robotika Asimov, namun lebih kompleks dan terukur.
- Human-in-the-Loop yang strategis: otonomi bukan berarti kemandirian mutlak. Manusia harus tetap berada dalam loop untuk tugas kritis, menyetujui rencana aksi sebelum dieksekusi, dan menjadi pengawas akhir.
- Fokus pada augmentasi, bukan penggantian: kita harus membangun kemitraan manusia-mesin. Agentic AI seharusnya menjadi mitra yang memperkuat keputusan manusia, bukan menggantikannya sepenuhnya. Reskilling dan upskilling tenaga kerja agar bisa berkolaborasi dengan agen AI adalah kunci.
- Kesiapan teknologis dan regulasi: perusahaan harus membangun tech stack yang aman dan siap untuk otonomi. Pemerintah dan lembaga regulasi harus bersatu untuk membuat kerangka akuntabilitas yang jelas bagi sistem otonom ini.
Kesimpulan
Perjalanan dari Traditional AI yang patuh, melalui Generative AI yang kreatif namun berisiko, hingga Agentic AI yang otonom adalah sebuah evolusi yang menakjubkan. Setiap lompatan membawa kita lebih dekat pada potensi AI yang sesungguhnya — tetapi sekaligus membuka kotak Pandora risiko yang baru.
Kunci menjelajahi masa depan ini bukanlah ketakutan atau penghindaran, melainkan kewaspadaan, tata kelola yang kuat, dan komitmen terhadap etika. Dengan memahami bahaya-bahaya AI dan secara proaktif mengembangkan strategi untuk mengelolanya — terutama di era Agentic yang baru lahir ini — kita dapat memastikan bahwa kecerdasan buatan tetap menjadi mitra yang memberdayakan, bukan ancaman yang menggentarkan.
Masa depan bukan tentang manusia versus mesin, tetapi tentang manusia yang bijak berkolaborasi dengan mesin yang bertanggung jawab.
