Anak berusia 4 tahun gagal diselamatkan karena rekomendasi dari AI. Anak perempuan dari Tsu, sebuah kota di prefektur Mie, Jepang, itu meninggal karena kekerasan yang dialaminya setelah pemerintah mengikuti saran sistem kecerdasan buatan (AI) untuk tidak membawanya ke tempat perlindungan sementara.

Ibu anak malang tersebut, akhirnya ditahan pada bulan Juni untuk menjalani hukuman atas kematian putrinya.

Melansir Next Shark, pemerintahan setempat menggunakan sistem AI yang diperkenalkan pada tahun 2020. Sistem AI itu memanfaatkan data yang dikumpulkan dari sekitar 13.000 kasus kekerasan anak untuk menentukan apakah seorang anak harus ditahan sementara atau sebaliknya. Dalam kasus anak berusia 4 tahun itu, sistem AI hanya ‘39%’ menyarankan untuk membawanya ke tempat perlindungan.

Sebelumnya, petugas pusat konsultasi anak dilaporkan bertemu dengan sang ibu pada Februari 2022 silam, setelah adanya laporan memar di tubuh putrinya. Saat itu, keputusan yang diambil adalah membiarkan anaknya tetap diasuh ibunya sambil sesekal dijenguk oleh petugas.

Sebab, ibunya mengatakan bahwa memar itu bukan akibat kekerasan dan juga berjanji akan mengikuti semua instruksi dari pusat konsultasi anak.

Gubernur Mie Katsuyuki Ichimi mencatat bahwa pemerintah telah menunjuk komite pihak ketiga yang tidak terkait dengan kasus tersebut untuk menyelidiki masalah itu.

Jadi gimana guys, menurut kalian apakah kita sudah siap dengan kehadiran teknologi AI? Atau masih perlu beberapa penyempurnaan lagi?