如今，人臉識別技術被廣泛應用於智能手機領域，但人臉識別技術還未真正成熟。近期，亞馬遜想要在執法領域推行AI人臉識別技術，但卻遭到了多方質疑與反對。《華盛頓郵報》對“俄勒岡州成爲亞馬遜人臉識別政策的試驗場”發表了相關文章，雷鋒網全文編譯如下。
【 圖片來源：pixabay 所有者：pixabay 】
人臉識別技術的應用
希爾斯博羅，俄勒岡州——當地一家Ace五金公司的員工報告說，一名年輕女子帶着一箱11.99美元的焊接氣體走出了商店，而她的手提包裏卻沒有支付這筆錢， 一項精心設計的高科技打擊犯罪行動迅速展開。
華盛頓縣治安官的一名偵探與該機構的特別調查組合作，通過亞馬遜(Amazon)開發的一套內部人臉識別程序Rekognition，監控了這家商店的監控錄像，發現了可能的匹配。
三個月後，一名緝毒人員在一輛沒有標識的SUV上發現了這名女子的車牌，並通過無線電通知其他巡邏人員阻止她。一份逮捕報告顯示，一名警員用手銬銬住了她的手腕。她說她需要這些焊接氣體來修車。
在俄勒岡州西部波特蘭郊外的這個角落裏，警員們通常用老式的方法來追查罪犯，他們會把嫌疑犯在辦公室裏被拍下的照片傳真過去，希望有人能認出這張臉。
2017年末，華盛頓縣治安官辦公室成爲已知的美國第一家使用亞馬遜人工智能工具(Rekognition)的執法機構，將這片叢林和郊區變成了一個公共試驗場，用於新一波實驗性的警察監控技術。
Rekognition的準確性飽受爭議
幾乎在一夜之間，議員們發現他們的調查權力被賦予了更大的權力，這使得他們能夠掃描自2001年以來在該縣監獄拍攝的30多萬張嫌疑犯臉部照片的匹配項。安全攝像頭、社交媒體賬號或副手的智能手機捕捉到的人臉模糊圖片，可以很快成爲他們身份的鏈接，包括他們的姓名、家庭和地址。警員們說，去年記錄在案的人臉識別搜索超過1,000次，他們有時會利用搜索結果查找嫌疑人的Facebook頁面、訪問他們的家或實施逮捕。
但華盛頓縣也成爲了一場高風險戰鬥的起點，這場戰鬥圍繞的是算法不受監管的警務增長。辯護律師、人工智能研究人員和民權專家認爲，這項技術可能會錯誤逮捕那些與視頻圖像相似的無辜人士。Rekognition的準確性也備受爭議，一些專家擔心，武裝代表的錯誤身份可能會產生危險的影響，威脅到隱私和人們的生命。
近年來，一些警察機構使用Cognitec、IDEMIA和NEC等承包商開發的系統，對州或聯邦調查局的數據庫進行人臉識別搜索。但亞馬遜的推出，或許標誌着這項備受爭議的面部掃描技術將成爲主流。Rekognition很容易激活，不需要什麼主要的技術基礎設施，而且幾乎任何人都可以以低價獲得。首次上傳大量圖片，華盛頓縣花了大約700美元，現在，對於所有的搜索，每月大約只支付7美元。
不過，在頭18個月的實際測試中，我們無法判斷這項技術究竟有多準確或有效。當警方使用面部識別搜索時，執法人員無需在逮捕報告中註明，導致逮捕的確切次數也不清楚。警長的官員說，該軟件已經導致數十人因盜竊、暴力或其他罪行被捕，但在公開記錄的要求中只找到了9份涉及面部識別的案件報告。
“就像任何調查技術一樣，我們不會告訴人們我們是如何抓到他們的，我們希望他們繼續猜測。”重案組的偵探Robert Rookhuyzen說。他已經進行了“幾十次”搜索，並且發現在75%的情況下是有用的。
警長的官員說，面部掃描並不總是標誌着調查的結束：在指控犯罪嫌疑人之前，警員們還必須確定可能的原因或找到證據。但警長辦公室爲面部識別的使用制定了自己的規則，允許警員使用該工具來識別屍體、昏迷的嫌疑人和拒絕透露姓名的人。
搜索工具的不完美的結果增加了一個無辜的人被標記和逮捕的風險，特別是在掃描圖像模糊、質量低下或部分隱藏的情況下。警員們還可以在搜索過程中掃描藝術家的素描，人工智能專家表示，這種不尋常的使用可能更容易導致錯誤匹配。
亞馬遜的執法指南稱，只有當系統對匹配有99%的把握時，官員才應該採納Rekognition的結果。但是這裏的警員們在使用這個工具時的搜索信心測試中並沒有顯示出來。相反，即使系統在匹配中的確定性很低，在每次搜索中也都會給他們五種可能的匹配。
在回答了《華盛頓郵報》的問題後，亞馬遜在這些指導方針中增加了措辭，規定警官在拘留嫌疑人之前應該人爲審查所有匹配，搜索不應被用作採取行動的唯一決定因素。
亞馬遜人臉識別技術處於輿論漩渦
亞馬遜和俄勒岡州第三大執法機構之間的關係是互惠互利的，治安官辦公室正在幫助完善這個系統，亞馬遜希望在全國銷售這個系統。但亞馬遜進軍執法銷售領域的舉動，令一些法律維權人士感到擔憂，他們表示，該系統對公民自由構成了太多風險。
“政府是非常強大的，在一個案件中，它會帶來很多去應對給公民個體。” 爲無法負擔起律師費用的被告辯護的華盛頓縣公設辯護律師辦公室主任Mary Bruington說，“你把它和亞馬遜配對了?這是一個強有力的夥伴關係。”
亞馬遜網絡服務公司雲計算部門的人工智能總經理Matt Wood在一份聲明中說，Rekognition只是“對一項100%由人類驅動的調查的許多其他線索中的另一個投入。”
儘管如此,該公司仍面臨着許多批評：高級人工智能研究人員,國會成員和民權組織,以及亞馬遜的自己的一些投資者和僱員曾敦促該公司停止向執法部門提供的技術, 有研究指出，該系統對皮膚黝黑的臉部識別不太準確。亞馬遜對這一研究提出了質疑。
亞馬遜的一些競爭對手也拒絕了類似的合同。微軟總裁Brad Smith說，該公司最近在4月份的時候拒絕提供其面部識別軟件給加州執法機構，該機構想要其軍官讓人靠邊停車時可以隨時進行臉部掃描。但它已經同意了一項將該技術應用在美國監獄中的協議。微軟拒絕提供細節。
亞馬遜的投資者將在5月就一項由一羣維權股東支持的提案進行投票，該提案將阻止該公司向政府機構出售Rekognition，除非該公司董事會認定它不會對人權構成風險。
今年3月，警長辦公室允許《華盛頓郵報》的記者在警車、偵探辦公室和縣監獄裏呆上兩天，觀察警員們是如何將這項技術融入日常案件的。大多數接受採訪的人表示，該軟件爲他們節省了時間，增加了逮捕人數，並幫助他們處理日益增多的視覺證據。警員和公衆辯護人說，到目前爲止，還沒有出現因爲照片匹配錯誤而對逮捕提出的任何法律挑戰。
但是俄勒岡州的律師說，在很多人看來，技術不應該成爲治安未來即將邁出的一步，他們建造的系統不是作爲技術里程碑，而是道德：如果爲了抓住更多的壞人，但有更多的好人可能會被逮捕，這是好的嗎?
“人們總是喜歡說，‘嘿，如果是能夠抓壞人就很好啊，誰在乎呢’”俄勒岡州的首席副辯護律師Joshua Crowther說，“直到他們有一天也被抓了。”
【 圖片來源：pixabay 所有者：pixabay 】
“與魔術無法區分”
2016年，當亞馬遜(Amazon)公開Rekognition時，該公司稱其爲一種強大的深度學習人工智能方式的突破，其結果顯示“與魔術無法區分”。在一篇配有一位高管寵物狗照片的博客文章中，該公司爲人們如何開始使用它提供了一些一般性的想法，包括用於安全檢查點或連接在一起收集觀衆面部數據的廣告牌。
這次揭幕式引起了eBay前程序員Chris Adzima的注意，他受僱於華盛頓縣治安官辦公室，負責開發一款能被警員應用於追蹤×××行爲的iPhone應用程序。他的機構在網上已經有成千上萬的面部照片，但沒有真正的方法來分析它們。通過使用亞馬遜的人工智能，他在不到三週的時間裏就建立了一個系統並運行起來。
“他們對現實世界中的任何類型的應用案例都沒有明確的概念，但他們知道自己創造了一個強大的工具，所以我開始使用它了。”在治安官總部的一個小隔間裏工作的高級信息系統分析師Adzima說。
警員們立即開始將面部搜索納入日常巡邏任務中，Adzima還建立了一個簡單的內部網站，讓他們可以在巡邏車中進行搜索。他放棄了搜索信心的百分比，並設計系統每次返回5個結果。他說，當系統返回0個結果時，議員們會懷疑他們是否把事情搞砸了。爲了增加趣味性，每當一名警員上傳一張照片，他還會添加了一個不必要的紫色“掃描”動畫——他說這是受到了像《犯罪現場調查》這樣的警匪片的啓發。
當他開始在亞馬遜的服務器上大量輸入圖像數據時，那裏的賬戶管理人員注意到了這一點，一些人對他將其用於警察工作表示驚訝和興奮。2017年，美國公民自由聯盟的一份公開記錄請求首次披露了一封電子郵件。郵件中，一名亞馬遜的客戶高管將Adzima介紹給一家警用相機公司的高管，該公司希望瞭解他是如何“克服利益相關者的阻力”的。“你現在是AWS的名人了。”這位高管寫道，並附上了一個笑臉的表情符號。
這裏的警員們說，這個系統是一個巨大的打擊。曾在5起盜竊和盜竊案件中使用過該搜索引擎的Chris Lee表示，他的許多同事成爲了多產的用戶，渴望找到一種解決艱難狩獵的簡單方法。“你總是在想:這會給我們帶來什麼嗎?”他說。
在培訓方面，警員們只會收到一份打印出來的辦公室人臉識別政策，以及一份簡短的PPT演示文稿，提醒他們要小心處理結果。其中一張幻燈片展示了該系統對上傳的O.J. Simpson面部照片的反應:退回一張蓄鬍須的白人男子的照片。“正如你所看到的，”幻燈片上寫道，“這個系統仍然需要人工解釋。”
該機構長達四頁的政策要求工作人員僅在“犯罪聯繫”的情況下使用該系統，並禁止在“大規模監控”中使用，或根據宗教、政治活動或種族對人進行監控。但它也提供了一些例外，包括允許在“生命受到重大威脅”的情況下進行面部搜查，或者當警方認爲重罪嫌疑人將在特定時間出現在特定地點時進行面部搜查。
這種搜查幫助警員想出了一些非常規的方法。在一個案例中，一名囚犯在監獄裏打電話給他的女朋友，她說有逮捕令要逮捕她。警員們進入了這名囚犯的Facebook頁面，找到了一段她唱歌的舊視頻，並通過人臉識別搜索得到了她的名字，幾天後她就被捕了。
警員還可以通過系統查找黑白警用速寫尋找結果，他們說，在一個測試案例中，它指向了一名他們已經標記爲嫌疑人的男子。亞馬遜表示，通過Rekognition進行速寫並不違反規定，但它希望人工審覈人“密切關注以這種方式生成的任何匹配結果的可信度”。
來自縣公設辯護律師辦公室的Bruington說，Rekognition的低廉價格和易用性可能會誘使警察機構嘗試一種他們可能並不完全瞭解的系統。她還擔心，該系統對臉部照片的依賴意味着任何以前被警察帶進來的人，都更有可能在刑事搜查中重新露面。
她說:“無辜的人每天都要接受刑事司法系統的審判。”
“看那隻鳥”
幾十年來，人臉識別技術一直是警察局的夢想：一種簡單的、隱祕的、可以在不知情或未經他人同意的情況下識別遠方的任何人的方法。但直到最近幾年，由於成像技術和計算機能力的提高，以及數據存儲成本的大幅下降，這項技術才變得廉價和廣泛，被用於給Facebook照片加標籤，以及解鎖iphone。
如今的系統將人們的面部照片分解成長串的代碼，稱爲“特徵向量”或“臉紋”，可以與龐大數據庫中的其他肖像快速比較。但是，儘管“計算機視覺”算法擅長模式識別，但它們匹配的是像素，而不是線索，而且可能會忽略在人眼看來明顯得驚人的不一致性。
儘管如此，事實證明，廉價和容易識別的承諾對許多公司來說太有吸引力了以至於不能忽視。美國國家標準與技術研究所是評估人臉識別算法的聯邦機構。該機構最近表示，它已經測試了44家公司的127套系統，測試它們在“大規模人羣中的可擴展性”，以及在野外識別“非合作對象”時的準確性。來自微軟和中國初創企業依圖科技的頂級算法，可以在包含數百萬張圖像的數據庫中，以99%的準確率匹配人臉照片。
亞馬遜此前曾拒絕提交Rekognition的評估報告，稱這項研究孤立版本的核心搜索算法的測試無法在複雜的基於雲端的搜索中運行。但NIST的一名官員表示，這一事實並未妨礙其他公司進行類似的搜索。一位亞馬遜官員表示，該公司已啓動一項“實質性”努力，去“重新設計”系統的“關鍵組件”，以便參與其中。
美國聯邦調查局(FBI)表示，在過去的一個財政年度，該機構進行了5.2萬多次面部識別搜索。2016年，喬治敦大學的法律研究人員發現，至少有52個州或地方機構在某種程度上依賴於由聯邦承包商或監控公司建立的面部識別系統。但亞馬遜根據“儲存的人臉”數量收取部分費用，讓任何一支新警察隊伍的起步都變得簡單起來。
沒有聯邦法律管制面部識別的使用。不過，今年3月美國參議院提出的一項兩黨議案，以及亞馬遜總部所在地華盛頓州提出的一項議案，這些議案可能會實施新的規定，比如要求公司通知過路人他們的臉正在被掃描。預計舊金山領導人下週將就一項遭到警方反對的提案進行投票，該提案將使舊金山成爲美國第一個禁止當地機構使用面部識別軟件的城市。大連人流醫院 http://www.84239650.cn/
亞馬遜高管表示，他們支持國家進行人臉識別立法，但他們也辯稱，“不應該因爲它可能被濫用就禁止或譴責新技術。”聯邦調查局(FBI)特工和奧蘭多警方表示，他們已經對該系統進行了測試，亞馬遜已經向包括移民和海關執法在內的政府機構推銷了這套系統。
華盛頓縣的律師們說，他們纔剛剛開始在逮捕報告中看到這種技術，一些人正在爲可能要在法庭上就係統的可接受性提起訴訟的那一天做準備。在俄勒岡州公共辯護服務辦公室工作的副首席辯護人Marc Brown說，他擔心繫統的隱藏的決策可能使權力的天平傾斜：人類目擊者可以在法庭上提出質疑，但對這個“神奇的黑盒”不可以，“我們作爲辯護律師不能詢問這個過程是如何工作的。”
Brown補充說，該體系的結果可能會通過引導議員們的反應，帶來一個巨大的確認偏差問題。他說:“你已經被告知這就是你要找的人，所以當你調查的時候，你的腦海裏就會浮現出這個想法。問題不再是誰犯了罪，而是支持計算機分析的證據在哪裏?”
亞馬遜的軟件正迅速變得更加先進。上個月，該公司宣佈了一項Rekognition更新，該更新將提高系統的“情緒檢測”功能的準確性，可以根據一個人在鏡頭前的樣子自動推測出他的感受。它包括7種受支持的情緒：開心、悲傷、憤怒、驚訝、厭惡、平靜和困惑。
亞馬遜還擁有廣受歡迎的門鈴攝像頭製造商Ring，該公司去年申請了一項面部識別專利，該專利能夠在買家門口發現“可疑”人士。Ring的一位發言人表示，公司的專利申請旨在“探索新技術的全部可能性”。
與此同時，華盛頓縣治安官辦公室的人臉數據庫一直在增長，每年約有1.9萬次監獄預約。當人們被逮捕時，他們會被帶到一個熙熙攘攘的接待室，在那裏他們會被一個網絡攝像頭拍攝下來，攝像頭的頂部是一個紅色的豆豆娃紅衣主教。“看那隻鳥。”拍照的時候警官會對他們說。
這些照片成爲了該縣整個刑罰系統中囚犯的身份，監獄內部的一個網站和iPhone應用程序將這些照片顯示在一個大網格中，這樣警員們就可以快速跟蹤他們的食物攝入量、行爲和自殺風險。
Rekognition在囚犯被關進監獄後不會被使用，但它仍然在監獄裏產生了微妙的影響。Brian van Kleef副警長站在3號艙的警衛室神經中樞，這裏是囚犯們稱爲“洞”的最高安全級別的側翼，他說:“這是我們收集數據庫的地方。”