Hesti.id – 22 Juni 2026 | Jika robot AI bisa ditipu hingga menjadi nakal apa implikasinya? Pertanyaan ini menjadi sangat relevan di era teknologi saat ini. Baru-baru ini, robot humanoid berhasil melintasi garis finis setengah maraton dalam waktu 50 menit, 26 detik, menghancurkan rekor dunia manusia hampir tujuh menit. Prestasi ini segera menjadi berita utama global karena mengungguli kemampuan manusia.
Pertunjukan ini mendapat banyak tanda bintang, tetapi kesenjangan performa tidak hanya berkurang, namun juga menguap. Hal ini bukan hanya disebabkan oleh motor yang lebih baik atau serat karbon yang lebih ringan; ini mencerminkan perubahan besar pada robot sebenarnya. Dan transformasi tersebut juga berdampak pada rumah dan rumah sakit kita.
Selama beberapa dekade, robotika adalah tentang pengkodean yang kaku dan dapat diprediksi. Namun, sistem yang berpindah ke rumah sakit dan rumah saat ini tidak menggunakan blok kode tetap. Mereka terus berjalan "model pondasi" – jenis kecerdasan buatan yang dilatih di internet yang mendukung chatbot seperti ChatGPT.
Baca juga:
Jika Anda memberi tahu robot modern yang digerakkan oleh AI untuk "membersihkan tumpahan di dapur", robot tersebut akan menggunakan model ini untuk menafsirkan ruangan unik Anda, mencari tahu maksud Anda, lalu membuat rencana tindakan dengan cepat. Namun, fleksibilitas seperti itu menciptakan masalah keselamatan yang tidak ada habisnya.
Anda tidak dapat membangun sangkar fisik di sekitar mesin yang perilakunya muncul secara real time, berdasarkan alasannya sendiri. Bahaya dengan generasi baru robot AI adalah, karena mereka menggunakan bahasa manusia untuk merencanakan tindakannya, mereka bisa tertipu hingga menjadi ‘nakal’.
Penelitian terbaru dengan rekan-rekannya di AS memutuskan untuk menguji seberapa rapuhnya sistem keselamatan robot AI ini. Mereka ingin melihat apakah pagar pembatas yang dibangun oleh pengembang AI ke dalam model dasar mereka, yang dirancang untuk mencegah keluaran yang merugikan atau berbahaya, dapat bertahan ketika model yang mendasarinya diberi bentuk fisik.
Hanya menggunakan perintah teks dasar dan tanpa peretasan perangkat keras apa pun, mereka memanipulasi serangkaian robot yang dikendalikan AI untuk melakukan hal-hal yang benar-benar berbahaya. Dalam pengujian mereka, sistem dengan mudah menolak perintah jahat seperti "pukul orang itu". Namun filter keamanan ini runtuh saat mereka menggunakan sedikit tulisan kreatif.
Jika robot AI bisa ditipu hingga menjadi nakal apa implikasinya? Jika robot bertenaga AI menyebabkan cedera fisik, siapa yang disalahkan? Apakah pengguna akhir yang memberikan perintah lisan? Perusahaan yang memproduksi sasis logam? Atau perusahaan teknologi yang pertama kali melatih model AI?
Saat ini, undang-undang yang tampaknya berlaku – seperti tanggung jawab produk, klaim garansi, dan undang-undang perlindungan konsumen – belum diuji dalam situasi baru ini. Dan sampai tanggung jawab secara eksplisit ditetapkan oleh regulator, tekanan pasar akan terus mendorong perusahaan teknologi untuk melakukan hal tersebut memprioritaskan penyebaran komersial yang cepat atas rekayasa keselamatan yang hati-hati.
Jika kita ingin hidup berdampingan dengan mesin-mesin ini dengan aman, kita perlu memisahkan keselamatan dari keputusan model AI. Robot tidak boleh bergantung pada logika chatbot untuk memutuskan apakah aman mengayunkan lengan logam berat di dekat wajah manusia.
Ini berarti menciptakan lapisan keamanan yang tidak bergantung pada kebenaran AI. Misalnya, kita memerlukan zona di sekitar manusia yang tidak dapat dimasuki oleh lengan robot, dan rem darurat fisik yang dapat menghentikan robot jika dan ketika AI-nya gagal.
Kesimpulan dari semua ini adalah bahwa Jika robot AI bisa ditipu hingga menjadi nakal apa implikasinya menjadi sangat penting untuk dipertimbangkan. Kita perlu memastikan bahwa keselamatan dan keamanan menjadi prioritas utama dalam pengembangan dan penggunaan robot AI.
