Sao Paulo, Brasil – Saat kota São Paulo bersiap meluncurkan ribuan kamera pengawas dengan pengenalan wajah, para ahli menyatakan keprihatinan bahwa penggunaan teknologi ini secara sembarangan di megalopolis Brasil dapat memperburuk masalah seperti rasisme struktural dan ketidaksetaraan, sekaligus menimbulkan risiko terhadap privasi data. . dan keamanan dunia maya.
Proyek Smart Sampa adalah yang terbaru dari serangkaian inisiatif yang melibatkan teknik pengawasan modern di beberapa negara bagian Brasil. Ini penting karena besarnya populasi yang akan terpengaruh: São Paulo, kota terpadat di Belahan Bumi Selatan, adalah rumah bagi 12 juta orang.
Proyek ini bertujuan untuk menerapkan platform pengawasan video tunggal yang mengintegrasikan dan mendukung operasi layanan darurat dan lalu lintas, jaringan transportasi umum kota, dan pasukan polisi. Pada tahun 2024, hingga 20.000 kamera akan dipasang, dan kamera pihak ketiga dan pribadi dalam jumlah yang sama akan diintegrasikan ke dalam jaringan.
Kamera baru akan memungkinkan kota memantau sekolah, praktik medis, ruang publik seperti alun-alun dan taman, serta konten media sosial yang relevan dengan administrasi publik.
Kombinasi analitik real-time dan teknologi pengenalan wajah – yang mendeteksi dan membandingkan wajah di ruang tertentu menggunakan algoritme kecerdasan buatan (AI) – dimaksudkan untuk menyederhanakan proses identifikasi penjahat yang dicari, mobil curian, orang hilang, benda hilang, dan mengelola angkutan umum lintas kota.
“Kami berharap dapat menyelesaikan proses kontrak (untuk Smart Sampa) secepat mungkin, karena ini akan meningkatkan keamanan dan mobilitas di kota secara signifikan,” kata Ricardo Nunes, walikota São Paulo, saat peluncuran kembali proses tender pada bulan Mei.
Perbaikan sangat dibutuhkan di kedua wilayah tersebut dan keluhan tentang waktu tunggu yang berlebihan dari pengguna bus ke otoritas transportasi kota meningkat sebesar 42 persen pada kuartal pertama tahun 2023 dan data dari departemen keamanan perkotaan menunjukkan peningkatan perampokan sebesar 35,7 persen di kota tersebut pada tahun 2023. sehubungan dengan tahun 2021.
Dengan data real-time dari kamera dan algoritme, kota berharap dapat memprediksi peristiwa dan bertindak lebih cepat. Ia juga berharap dapat mengantisipasi pola lalu lintas dan potensi titik kemacetan serta menggunakan wawasan untuk menyesuaikan jadwal bus, misalnya.
Terlepas dari daya tarik teknologi pengawasan jarak jauh untuk memecahkan masalah kota, kritikus Smart Sampa khawatir proyek tersebut akan melanggar hak asasi warga negara, termasuk privasi, kebebasan berekspresi, berkumpul dan berserikat.
Kekhawatiran ini menyebabkan penangguhan proses tender pada dua kesempatan dan mengarah pada penyelidikan oleh jaksa negara atas kemungkinan jebakan proyek di area yang melibatkan privasi warga negara.
Proses kontrak diizinkan untuk dilanjutkan setelah pengadilan São Paulo menyimpulkan bahwa tidak ada cukup bukti untuk membuktikan bahwa sistem tersebut bias terhadap individu kulit hitam. PK9, sebuah perusahaan teknologi di São Paulo, mengajukan tawaran bulanan sebesar 9,2 juta real Brasil ($1,8 juta) untuk mengoperasikan sistem selama 60 bulan.
Risiko bagi orang kulit hitam Brasil
Menurut Institut Geografi dan Statistik Brasil (IBGE), salah satu masalah utama yang disoroti para ahli tentang Smart Sampa menyangkut efek negatif yang dapat ditimbulkan oleh sistem, terutama untuk kelompok seperti komunitas Kulit Hitam, yang merupakan 56 persen dari Populasi Brasil membuat keluar . Para ahli berpendapat bahwa proyek tersebut dapat merusak hak atas non-diskriminasi dan menantang prinsip praduga tak bersalah.
Menurut Fernanda Rodrigues, seorang pengacara hak digital dan koordinator penelitian di Internet and Society Research Institute (IRIS), teknologi pengenalan wajah berpotensi menyebabkan kesalahan positif – secara keliru mencocokkan wajah seseorang dengan gambar di database – dan mendorong massa penahanan individu kulit hitam sebagai hasilnya.
“Selain risiko informasi yang diberikan ke platform ini tidak akurat dan sistem itu sendiri mungkin gagal, ada masalah yang mendahului implikasi teknologi, yaitu rasisme,” kata Rodrigues.
“Kami tahu sistem pemasyarakatan di Brasil selektif, jadi kami dapat menyimpulkan bahwa (penggunaan pengawasan dengan pengenalan wajah) adalah tentang meningkatkan risiko dan bahaya bagi populasi ini,” tambah Rodrigues, mengacu pada representasi tinggi individu kulit hitam di Brasil. penjara, yang merupakan lebih dari 67 persen populasi penjara, menurut data tahun 2022 dari Forum Keamanan Publik Brasil.
Sebuah studi yang dilakukan oleh Pusat Studi Keamanan Publik dan Kewarganegaraan (CESeC), yang memantau dampak penggunaan pengenalan wajah oleh polisi secara nasional, mengungkapkan bahwa lebih dari 90 persen orang yang ditangkap berdasarkan keputusan berdasarkan pengenalan wajah berbasis di Brasil, adalah hitam. Di negara bagian Rio de Janeiro, persentase penangkapan yang tidak adil berdasarkan pengakuan fotografis dan melibatkan individu kulit hitam mencapai 81 persen pada 2021, menurut data dari Kamar Pembela Umum Rio de Janeiro.
Masalah lain terkait dengan kurangnya keterbukaan terkait proyek tersebut. Salah satu organisasi di balik kampanye nasional “Take My Face Out of Your Aim” dan inisiatif lain yang menyerukan larangan pengenalan wajah, CESeC dan organisasi nirlaba lainnya terlibat dalam sejumlah tindakan hukum terhadap pemerintah yang memilih untuk menerapkan teknologi tersebut. untuk keamanan perkotaan dan tujuan lainnya.
Tahun lalu, Balai Kota São Paulo mengadakan konsultasi publik virtual selama dua minggu terakhir di bulan Agustus, mengundang para ahli untuk menyumbangkan pendapat mereka, dengan menyisihkan satu hari bagi orang-orang untuk menjawab pertanyaan mereka.
“Partisipasi terbatas dan sebagian besar saran yang diberikan diabaikan,” kata Celina Bottino, direktur proyek di Institut Teknologi dan Masyarakat Rio de Janeiro.
Menanggapi reaksi publik, tender Smart Sampa diperbarui dengan studi tentang dampak teknologi, yang mengenali kekurangan seperti kemungkinan bias yang tinggi dalam fitur pengenalan wajah, serta risiko penggunaan dan paparan yang tidak sah. data pribadi, serta kemungkinan pelanggaran privasi.
Untuk mengatasi risiko ini, laporan tersebut mencatat bahwa platform hanya akan mempertimbangkan deteksi dengan paritas 90 persen, dan semua peringatan yang dikeluarkan akan dianalisis oleh staf terlatih untuk mengurangi kesalahan, serta perlindungan data tingkat lanjut dan sistem kontrol akses.
Minta penangguhan
Kantor Pembela Umum São Paulo meluncurkan gugatan perdata pada bulan Mei, bersama dengan Laboratorium Kebijakan Publik dan Internet (LAPIN) dan Uneafro Brasil, didukung oleh Rede Liberdade, jaringan pengacara yang bekerja dengan organisasi hak asasi manusia. Kasus yang sedang berlangsung menuntut penangguhan proyek dan penghentian penggunaan sistem pengenalan wajah untuk keselamatan perkotaan.
“Facial recognition adalah teknologi yang kompleks dengan aspek-aspek yang belum sepenuhnya terpetakan, sehingga tidak sesuai dengan proses tender, karena (format ini) tidak memungkinkan adanya transparansi dan partisipasi yang dibutuhkan. Ini menimbulkan berbagai risiko terhadap hak-hak dasar populasi yang rentan, seperti orang kulit hitam dan transgender, serta anak-anak,” kata organisasi itu dalam sebuah pernyataan.
Aksi sipil juga berpendapat bahwa studi dampak kekurangan pendapat dan studi rinci tentang potensi kerusakan teknologi, serta cara untuk mengatasi risikonya: “Balai Kota hanya menyajikan aspek spesifik tentang dampak program Sampa Cerdas, yang jarang didiskusikan dengan masyarakat sipil dan lembaga lainnya,” kata pelindung publik Surrailly Youssef.
Sekalipun penyedia telah dipilih, layanan dapat ditangguhkan kapan saja jika ditemukan pelanggaran hak atau prinsip administrasi publik, kata pelindung publik Cecilia Nascimento Ferreira.
“Namun, tindakan yudisial berusaha untuk mencegah dana publik dihabiskan untuk teknologi sembrono yang dikontrak melalui modalitas yang tidak memadai, mengingat kerumitan layanan,” tambahnya.
Pemerintah São Paulo tidak menanggapi permintaan wawancara dari Al Jazeera.
Di tempat lain di Amerika, tetangga Brasil Argentina tahun lalu melarang penggunaan pengenalan wajah di ibu kotanya, Buenos Aires. Di AS, beberapa negara bagian telah merevisi sikap mereka tentang pelarangan pengenalan wajah untuk mendukung layanan publik, meskipun sebagian besar teknologinya masih belum diatur. Di sisi lain, adopsi teknologi telah berkembang di negara-negara di seluruh dunia, seperti China dan India, meski bukan tanpa kritik.
“Faktor-faktor termasuk transparansi dan akuntabilitas dalam penerapan teknologi baru ini tampaknya telah dilupakan oleh para pembuat keputusan di seluruh dunia,” kata Pablo Nunes, seorang ilmuwan politik dan koordinator CESeC. “Bahkan dalam skenario di mana larangan tidak terjadi, saya berharap kita akan memiliki perlindungan dan peraturan minimal untuk penggunaan pengenalan wajah di Brasil.”
