Regulator data utama Amazon di Eropa, Komisi Nasional Perlindungan Data Luksemburg, telah mengangkat masalah privasi tentang penggunaan ulasan manual manusia tentang rekaman asisten suara Alexa AI.
Seorang juru bicara regulator mengkonfirmasi dalam email ke TechCrunch bahwa mereka sedang mendiskusikan masalah ini dengan Amazon, menambahkan: "Pada tahap ini, kami tidak dapat berkomentar lebih lanjut tentang kasus ini karena kami terikat oleh kewajiban kerahasiaan profesional." Perkembangan ini dilaporkan sebelumnya oleh Reuters.
Kami telah menghubungi Amazon untuk memberikan komentar.
Amazon's Alexa voice AI, yang tertanam dalam beragam perangkat keras - mulai dari merek Echo smart speaker line perusahaan hingga bermacam-macam perangkat pihak ketiga (seperti kulkas latah atau lampu meja aneh ini) - mendengarkan secara luas untuk pemicu kata yang mengaktifkan fungsi perekaman, memungkinkannya untuk mengalirkan data audio ke cloud untuk diproses dan disimpan.
Namun, AI suara yang diaktifkan dengan kata-pemicu telah terbukti rentan terhadap aktivasi yang tidak disengaja. Perangkat dapat digunakan di rumah tangga multi-orang, jadi selalu ada risiko perangkat ini merekam audio apa pun di sekitarnya, tidak hanya permintaan suara yang disengaja ...
Singkatnya, ketidakmampuan AI untuk membedakan antara interaksi yang disengaja dan hal-hal yang mereka dengarkan berarti secara alami mereka cenderung menguping - karenanya merupakan masalah privasi utama.
Kekhawatiran ini telah dikemukakan oleh wahyu baru-baru ini bahwa raksasa teknologi - termasuk Amazon, Apple dan Google - menggunakan pekerja manusia untuk secara manual meninjau proporsi potongan audio yang ditangkap oleh AI suara mereka, biasanya untuk tujuan kualitas - seperti mencoba untuk meningkatkan kinerja pengenalan suara di berbagai aksen atau lingkungan yang berbeda. Tetapi itu berarti manusia yang sebenarnya mendengarkan apa yang mungkin merupakan data pribadi yang sangat sensitif.
Awal minggu ini Amazon diam-diam menambahkan opsi ke pengaturan aplikasi smartphone Alexa untuk memungkinkan pengguna memilih keluar dari cuplikan audio mereka ditambahkan ke kumpulan yang dapat ditinjau secara manual oleh orang-orang yang melakukan pekerjaan kontrol kualitas untuk Amazon - setelah sebelumnya tidak memberi tahu Alexa pengguna program ulasan manusianya.
Pergeseran kebijakan mengikuti meningkatnya perhatian pada privasi pengguna suara AI - terutama di Eropa.
Bulan lalu ribuan rekaman pengguna asisten AI Google bocor ke media Belgia, yang mampu mengidentifikasi beberapa orang dalam klip tersebut.
Pengawas perlindungan data di Jerman kemudian memerintahkan Google untuk menghentikan ulasan manual potongan audio.
Google merespons dengan menangguhkan ulasan manusia di seluruh Eropa, sementara pengawas data utamanya di Eropa, DPC Irlandia, memberi tahu kami bahwa ia sedang "memeriksa" masalah tersebut.
Secara terpisah, dalam beberapa hari terakhir, Apple juga telah menangguhkan ulasan manusia tentang cuplikan Siri - melakukan hal tersebut secara global, dalam kasusnya - setelah kontraktor mengangkat masalah privasi di pers Inggris tentang apa yang menjadi rahasia para kontraktor Apple ketika meninjau audio Siri.
Badan perlindungan data Hamburg yang turun tangan untuk menghentikan tinjauan manusia terhadap cuplikan Asisten Google mendesak sesama pengawas privasi Uni Eropa untuk memprioritaskan pemeriksaan pada penyedia lain dari sistem bantuan bahasa - dan "menerapkan langkah-langkah yang tepat" - menamai Apple dan Amazon.
Dalam kasus Amazon, pengawasan dari pengawas Eropa terlihat cepat.
Pada saat penulisan, ini adalah satu-satunya dari tiga raksasa teknologi yang tidak menunda ulasan manusia tentang potongan-potongan suara AI, baik secara regional maupun global.
Dalam sebuah pernyataan yang diberikan kepada pers pada saat itu mengubah pengaturan Alexa untuk menawarkan kepada para pengguna pilihan keluar dari kemungkinan audio mereka ditinjau secara manual, Amazon mengatakan:
Kami memperlakukan privasi pelanggan dengan serius dan terus menerus meninjau praktik dan prosedur kami. Untuk Alexa, kami sudah menawarkan pelanggan kemampuan untuk memilih tidak menggunakan rekaman suara mereka untuk membantu mengembangkan fitur Alexa baru. Rekaman suara dari pelanggan yang menggunakan penyisih ini juga dikecualikan dari alur kerja pembelajaran kami yang diawasi yang melibatkan tinjauan manual terhadap sampel permintaan Alexa yang sangat kecil. Kami juga akan memperbarui informasi yang kami berikan kepada pelanggan untuk membuat praktik kami lebih jelas.
0 komentar:
Posting Komentar