Regulator privasi utama Facebook di Eropa sekarang meminta perusahaan untuk informasi terperinci tentang pengoperasian fitur suara-ke-teks di aplikasi Messenger Facebook dan bagaimana hal itu mematuhi hukum UE.
Kemarin Bloomberg melaporkan bahwa Facebook menggunakan kontraktor manusia untuk menyalin pesan audio pengguna aplikasi - namun kebijakan privasinya tidak menyebutkan secara jelas fakta bahwa orang yang sebenarnya mungkin mendengarkan rekaman Anda.
Halaman di pusat bantuan Facebook juga mencakup "catatan" yang mengatakan "Suara ke Teks menggunakan pembelajaran mesin" - tetapi tidak mengatakan bahwa fitur ini juga diberdayakan oleh orang-orang yang bekerja di Facebook untuk mendengarkan.
Seorang juru bicara Komisi Perlindungan Data Irlandia mengatakan kepada kami: "Lebih jauh ke keterlibatan kami yang berkelanjutan dengan Google, Apple dan Microsoft sehubungan dengan pemrosesan data pribadi dalam konteks transkripsi manual rekaman audio, kami sekarang mencari informasi rinci dari Facebook pada pemrosesan yang dipertanyakan dan bagaimana Facebook percaya bahwa pemrosesan data tersebut sesuai dengan kewajiban GDPR mereka. "
Laporan Bloomberg mengikuti wahyu serupa tentang teknologi asisten AI yang ditawarkan oleh raksasa teknologi lainnya, termasuk Apple, Amazon, Google dan Microsoft - yang juga telah menarik perhatian dari regulator privasi Eropa dalam beberapa pekan terakhir.
Apa yang dikatakan di sini adalah bahwa hype seputar asisten suara AI masih menutupi backend teknologi yang jauh lebih rendah. Bahkan ketika cambuk dari masalah pemasaran pembelajaran mesin telah digunakan untuk menyelubungi komponen 'turk mekanik' (yaitu manusia) yang diperlukan agar teknologi memenuhi tuntutan tersebut.
Ini memang kisah yang sangat lama. Intinya: Sepuluh tahun yang lalu, sebuah startup di Inggris bernama Spinvox, yang mengklaim memiliki teknologi pengenalan suara yang canggih untuk mengonversi voicemails ke pesan teks, dilaporkan sangat bergantung pada call center di Afrika Selatan dan Filipina… dikelola oleh, ya, manusia sebenarnya.
Kembali ke teknologi 'mutakhir' saat ini, setelah laporan Bloomberg Facebook mengatakan bahwa mereka menangguhkan transkripsi manusia awal bulan ini - bergabung dengan Apple dan Google dalam menghentikan ulasan manual potongan audio untuk AI suara mereka masing-masing. (Amazon sejak itu menambahkan opsi keluar ke pengaturan aplikasi Alexa.)
Kami bertanya kepada Facebook di mana di aplikasi Messenger telah memberi tahu pengguna bahwa kontraktor manusia mungkin digunakan untuk menyalin obrolan suara / pesan audio mereka; dan bagaimana ia mengumpulkan persetujuan pengguna Messenger untuk bentuk pemrosesan data ini - sebelum menangguhkan ulasan manusia.
Perusahaan tidak menanggapi pertanyaan kami. Alih-alih seorang juru bicara memberi kami pernyataan berikut: "Sama seperti Apple dan Google, kami menghentikan ulasan audio manusia lebih dari seminggu yang lalu."
Facebook juga menggambarkan cuplikan audio yang dikirim ke kontraktor sebagai topeng dan tidak diidentifikasi; mengatakan mereka hanya dikumpulkan ketika pengguna memilih transkripsi di Messenger; dan hanya digunakan untuk meningkatkan kinerja transkripsi AI.
Ini juga mengulangi bantahan lama oleh perusahaan untuk kekhawatiran pengguna tentang penyadapan umum oleh Facebook, mengatakan itu tidak pernah mendengarkan mikrofon orang tanpa izin perangkat atau tanpa aktivasi eksplisit oleh pengguna.
Namun, bagaimana Facebook mengumpulkan izin untuk memproses data adalah pertanyaan kunci.
Perusahaan baru-baru ini, misalnya, menggunakan aliran persetujuan manipulatif untuk mendorong pengguna di Eropa untuk beralih pada teknologi pengenalan wajah - memutar kembali sikap sebelumnya, diadopsi sebagai tanggapan terhadap intervensi peraturan sebelumnya, dari mematikan teknologi di seluruh blok.
Jadi banyak yang bertumpu pada bagaimana tepatnya Facebook menggambarkan pemrosesan data pada titik mana pun yang meminta pengguna untuk menyetujui pesan suara mereka ditinjau oleh manusia (dengan asumsi itu mengandalkan persetujuan sebagai dasar hukum untuk memproses data ini).
Bundling persetujuan ke dalam T & C umum untuk menggunakan produk ini juga tidak mungkin sesuai dengan hukum privasi Uni Eropa, mengingat bahwa Peraturan Perlindungan Data Umum blok tersebut mensyaratkan persetujuan untuk tujuan terbatas, serta sepenuhnya informasi dan diberikan secara bebas.
Jika Facebook mengandalkan kepentingan yang sah untuk memproses cuplikan audio pengguna Messenger untuk meningkatkan kinerja AI-nya, ia perlu menyeimbangkan kepentingannya sendiri dengan risiko apa pun terhadap privasi orang.
Suara AI sangat bermasalah dalam hal ini karena rekaman audio juga dapat menangkap data pribadi non-pengguna - mengingat bahwa orang-orang di sekitar perangkat (atau bahkan orang di ujung saluran telepon yang meninggalkan Anda pesan) dapat mengambil data pribadi mereka tanpa pernah memiliki kesempatan untuk menyetujui agar kontraktor Facebook mendengarnya.
Kebocoran cuplikan Asisten Google untuk pers Belgia baru-baru ini menyoroti sifat sensitif dari rekaman dan risiko identifikasi ulang yang ditimbulkan oleh rekaman tersebut - dengan wartawan dapat mengidentifikasi beberapa orang dalam rekaman tersebut.
Beberapa laporan pers juga menyarankan kontraktor yang dipekerjakan oleh raksasa teknologi secara rutin mendengar detail intim yang ditangkap melalui berbagai produk yang mencakup kemampuan untuk merekam audio dan mengalirkan data pribadi ini ke cloud untuk diproses.
0 komentar:
Posting Komentar