隱私被聽光!亞馬遜雇用數千人 聽你對AI助理說了什麼
伴隨AI(人工智慧)科技大行其道,諸如智慧喇叭等內建AI助理的裝置已進入成千上萬人的日常生活,但許多人仍因擔心這類連網裝置有害隱私而寧願選擇不跟隨潮流-----他們的擔心可能是真的。你大概不知道,你對著亞馬遜(amazon.com)語音助理Alexa說話,可能有真人在背後聆聽。
財經媒體彭博披露,亞馬遜在全球雇用了數千人,協助提升自家智慧喇叭Echo內建語音助理Alexa的效能。這些人的任務是聆聽人們家中或辦公室內的Echo捕捉到的錄音,並藉著解析這些錄音檔來提高Alexa對人類談話內容的認知,以便對人們的各種命令做出更人性化的回應。
曾參與Alexa語音識別系統改善項目的7名人士向彭博表示,外界經常忽視了人類在鍛鍊軟體演算法的過程中所扮演的角色。在亞馬遜的行銷文宣中,形容Alexa「生活在雲端並持續變得更聰明」,但如同其他許多靠著經驗學習發展而成的軟體工具,人類擔負了某些教導職責。
問題在於,在亞馬遜Echo的相關行銷材料與隱私政策中,未明確提及會有人聆聽Alexa的錄音。在亞馬遜官網「常見問題」答覆中,該公司表示:「我們會利用你向Alexa下達的要求,來訓練我們的語音辨識和自然語言理解系統。」
據彭博報導,負責相關工作的團隊,是由承包商和亞馬遜正職員工組成,分布於從波士頓、哥斯大黎加、印度、羅馬尼亞等多個地區,且所有成員都簽了保密協議,禁止公開談論相關計劃。
2名曾任職於亞馬遜布加勒斯特(羅馬尼亞首都)辦公室的人透露,這個團隊的成員每天工作9小時,每人每天解析多達1000個錄音檔。這份工作大部分時候都平凡無奇,工作內容可能包括計算如「泰勒斯」(Taylor Swift)等特定詞語的累積語音數據,對其進行「這是一位音樂家」的搜尋註解等等。
但這個團隊的成員不可避免偶爾會聽到屬於Echo所有者的隱私----例如,有位女士邊洗澡邊唱歌,或者孩童哭叫著要幫忙。在需要幫助解析某個詞語時,成員間會在內部聊天室分享錄音檔案,當然遇到有趣的音檔時也會。有時他們也可能聽到令人不安的錄音,2名成員透露他們認為自己曾聽到一場性侵事件的聲音。
亞馬遜發言人對此表示:「我們嚴肅對待客戶個人資訊的安全與隱私。我們僅對極少量Alexa錄音樣本進行解析,目的是增進顧客體驗。例如,這類資訊有助於訓練語音辨識和自然語言理解系統,讓Alexa更好地理解人們的要求,確保每個人都獲得良好服務。」
「亞馬遜有嚴格的技術面和操作面保障措施,對濫用我們的系統採取零容忍政策。在工作流程中,員工無法直接取得可辨識個人身分或帳戶的資訊。所有資訊都屬高度保密,且使用多重因素認證來限制訪問,並對控制環境進行服務加密與審計來保障安全。」
================分隔線================
「AD SEX US」
留言列表