Apakah Kapan Inteligensi Buatan Sering Kesalahan: Batas Pembelajaran Mesin

Pengantar: Alasan Kesalahan AI Sebagai Fenomena Sistematis

Kesalahan sistem kecerdasan buatan (AI) yang berdasarkan pelatihan mesin (ML) bukan gangguan acak, tetapi konsekuensi yang logis dari arsitekturnya, cara pelatihannya, dan perbedaan fundamentalnya dengan pemahaman manusia. Berbeda dengan manusia, AI tidak «memahami» dunia dalam arti semantik; dia mengidentifikasi korelasi statistik dalam data. Kesalahannya muncul di tempat korelasi itu dikhianati, di tempat diperlukan pemikiran abstrak, logika alam sehat, atau pemahaman konteks. Analisis kesalahan ini penting bagi mengevaluasi keandalan AI dan menentukan batas penggunaannya.

1. Masalah Sisme Data (Data Bias) dan «Undang-undang Garbage In, Garbage Out

Sumber kesalahan yang paling sering dan berbahaya adalah sisme dalam data pelatihan. AI menyerap dan memperkuat prekondisi yang ada dalam data.

Isu demografis: Kasus yang terkenal dengan sistem pengenalan wajah yang menunjukkan tingkat akurasi yang lebih tinggi untuk pria kulit putih daripada wanita kulit hitam, karena dilatih dengan sejumlah data yang tidak seimbang. Di sini AI bukan kesalahan, tetapi mempertahankan diskalabisan dunia nyata, yang mengakibatkan kesalahan dalam aplikasi di lingkungan beragam.

Sisme semantik: Jika kata kombinasi «perawat» sering terkait dengan kata ganti «dia» dalam model teks, sementara «programmer» terkait dengan «dia», model akan menghasilkan teks yang mempertahankan stereotip gender, bahkan jika jenis kelamin tidak disebutkan dalam permintaan. Ini adalah kesalahan di tingkat konteks sosial yang model tidak mengerti.

Fakta menarik: Dalam ilmu komputer, prinsip «Garbage In, Garbage Out» (GIGO) berlaku — «muskor masuk, muskor keluar». Untuk AI, ini berubah menjadi prinsip yang lebih mendalam «Bias In, Bias Out» — «sisme masuk, sisme keluar». Sistem tidak dapat melampaui batasan data yang dia pelatih.

2. Serangan adversarial: Hackerisme untuk AI

Contoh gambar: Stiker beberapa piksel berwarna dan bentuk tertentu di tanda «STOP» dapat membuat sistem penglihatan otomatis mengklasifikasikan itu sebagai tanda «batas kecepatan». Untuk manusia, tanda tetap jelas dikenali.

Mekanisme: Contoh adversarial mengeksploitasi «daerah yang tersembunyi» di ruang karakteristik tinggi dimensi model. AI mengalami dunia bukan sebagai objek yang utuh, tetapi sebagai pola statistik. gangguan kecil tetapi strategis dapat memindahkan titik data di ruang karakteristik melintasi batas solusi model, mengubah klasifikasi.

3. Masalah generalisasi dan «dunia dalam kotak

AI, terutama jaringan saraf mendalam, cenderung teroboh (overfitting) — mereka mengingat bukan pola umum, tetapi contoh-kontoh khusus dari sampel pelatihan, termasuk gangguan.

Kesalahan data «luar distribusi»: Model yang dilatih dengan gambar anjing dan kucing yang diambil di rumah di siang hari dapat kehilangan akurasi sepenuhnya jika diberikan gambar inframerah malam atau gambar kartun. Dia tidak mengidentifikasi konsep abstrak «kucingan», tetapi belajar merespon pola piksel khusus.