在近期剛剛落幕的梵蒂岡城“數字時代公共利益技術大會”上，天主教教皇方濟各提醒Facebook高管、風險投資家和政府監管機構警惕人工智能等先進技術對人類社會造成的影響。他稱：“如果所謂的技術進步成爲公共利益的敵人，那麼整個社會就將退化到被最強法則支配的野蠻時代。”
今年夏天，同一話題在不同談話背景下展開。Joy Buolamwini與民主黨衆議員Alexandria Ocasio-Cortez（紐約民主黨）一同在國會面前作證——在經過多次審覈後發現，人臉識別技術針對白人男性識別效果最佳，針對黑人女性效果最差。
這兩個事件的共同點是它們都涉及人工智能倫理與權力之間關係的爭論。
關於人工智能倫理的爭論可以在不提及“權力”一詞的情況下展開，但我們卻始終無法真正繞開權力。實際上，權力並不是焦點，卻是讓人無法忽視的因素。權利在人工智能領域就像地心吸引力，它是一種能影響人們對人工智能倫理思考的無形力量。
權利能左右人工智能在哪個領域使用、優先解決哪些問題；以及爲誰提供什麼樣的工具、產品和服務。
一般來說，初創公司可能會把道德標準視爲錦上添花，沒有也未嘗不可。想搶佔市場第一順位並在最後期限前完成產品發佈的工程師們可能會認爲把寶貴時間浪費在道德標準上有些滑稽。CEO和政客們對於人工智能道德也僅是紙上談兵，但是最後都會發出共鳴信號或忙着爲自己“道德洗白”。
但是，人工智能倫理道德不應是錦上添花的存在，它應該成爲一種主觀願望而非強制認同。人工智能被稱爲21世紀對人權最大的挑戰之一。這已經不是做正確的事或做最好的人工智能系統的問題，這關係到誰將掌握權力以及人工智能如何影響世界。
這些權力能夠定義商業、社會、政府、世界各地人們的生活、隱私甚至是我們未來所擁有的權利。正如所有人工智能產品經理所說的那樣，事情纔剛剛開始，如果權利不平衡的問題無法得到解決，那結果將非常危險。
勞動力市場和新鍍金時代
在充滿變革的當下，一系列趨勢導致了人工智能“異軍突起”。深度學習、雲計算、GPU處理器等以及更快地訓練神經網絡所需的計算能力，技術已經成爲大型科技公司的基石——推動了人工智能今天的復興。
與第四次工業革命隨之而來的是巨大的收入差距和新鍍金時代。就像19世紀鐵路巨頭們利用農民迫切想將作物推向市場的心態一樣，擁有獨家數據集的科技公司渴望利用人工智能進一步鞏固市場地位並企圖擁有壟斷優勢。
當數據比石油更有價值時，那些斬獲大量有價值數據的企業最有可能鞏固其行業領導地位並源源不斷地積累財富。這一金科玉律適用於像蘋果、Facebook、谷歌、IBM和微軟這樣的“大牌”公司，同樣也適用於傳統企業。
與此同時，收購和併購進一步鞏固了企業的實力。一種趨勢黏合着其他趨勢，研究和開發幾乎全部涌向了大型企業。據2018年SSTI一項分析顯示，擁有250名或更多員每年88.5%的支出用於研發，而擁有5000名或更多員工的公司每年將近三分之二的支出用於研發。
據“以人爲本”的斯坦福人工智能研究院最近報告稱，人工智能技術的不斷蔓延造成了巨大的社會失衡。
“人工智能潛在的金融紅利是巨大的，人工智能領域的貧富差距也相當驚人。據我們所知，全球經濟平衡可能會被一些列災難性技術變革打破，”一個名爲Hai的作者在其提案中呼籲美國政府在未來十年裏應對教育、研究和創業領域投資1200億美元。
該提案的共同作者是谷歌雲前首席人工智能科學家李飛飛博士。她指出：“如果指導得當，人工智能可能將人類帶入高生產力和經濟繁榮時代。”“普華永道預測，到2030年，人工智能將爲全球經濟貢獻15.7萬億美元。但是，如果我們不能負責地利用它、公平地共享收益，那將會導致財富和權力更加集中在所謂的精英人羣手上，而全球大多數人將陷入貧困和碌碌無爲的窘境中。”
麻省理工學院數字經濟項目主任Erik Brynjolfsson研究了人工智能對未來工作的影響並在近期斯坦福大學的人工智能倫理研討會上發表了講話。在談到未來幾年內可能被機器學習所取代的崗位數量時，Brynjolfsson表示：“如果你從整體經濟的角度看，就會發現一個潮流即將到來，但顯然目前時機還未成熟。”
Brynjolfsson稱，“機器智能可以重新設計工作和提高工作效率，但是大多數情況下會被用來代替人工。”
布魯金斯學會的分析以及卡耐基梅隆大學的Brynjolfsson和Tom Mitchell的研究顯示，自動化對不同城市和不同州的失業率影響也不盡相同。例如，加州弗雷斯諾市預計會比明尼阿波利斯市受到的衝擊更大，但不穩定就業或失業對低收入家庭和有色人種也會造成不同程度的影響。麥肯錫最近一份報告稱，自動化將導致非洲裔美國人大量失業。
自2000年起，這種趨勢導致了美國中產階級的日子也不好過。中產階級不再繼續蓬勃發展的根源在於生產率的提高。這種現象被稱作Brynjolfsson“偉大的分歧（脫鉤decoupling）”。
Brynjolfsson稱：“在20世紀大部分時間裏，生產、財富和生產率都是相互關聯的，生產量越多、獲得的財富越多、生產率就越高——人們過上了更富裕的生活，但最近這些角色間產生了分歧。”“蛋糕越來越大，我們創造了更多的財富，但是共享豐收果實的人卻越來越少。”
Brynjolfsson認爲，來自人工智能社區的挑戰已經使美國國防部高級研究計劃局的自動駕駛汽車挑戰賽和計算機視覺的ImageNet等最先進的人工智能領域實現了飛躍，但企業和人工智能社區應將注意力轉向共享繁榮上。
“事實上，可能很多人已經被這股人工智能大潮拍在了沙灘上。所以我認爲當前最重要的不是研發更先進的技術，儘管我也完全支持企業去這麼做，但是我更願意看到整個行業共創繁榮。”
科技巨頭公司和權利
人工智能普及後的另一大主流趨勢是，美國歷史上第一次出現勞動力大多數是有色人種的情況。根據美國人口普查局的預測，到2030年，美國大多數城市，乃至整個國家，將不再擁有占人口大多數的種族。
人口結構的變化使得人工智能公司員工性別、膚色多樣性失衡的問題更加突出。更關鍵的是，在制定決策時員工膚色和性別也過於失衡，人工智能 Now研究所所長Kate Crawford稱其爲“白人問題”。
據Wired 和Element AI在2018年的一項分析顯示，大型人工智能會議上發表的研究中女性只佔18%，而Facebook和谷歌的研究人員中，女性分別佔15%和10%。兩家公司的發言人均表示，無法提供從事人工智能研究人員性別及膚色多樣性的數據。
儘管人們都在談論如何解決科技行業的從業者多元化問題，但科技行業的很多領域在這一問題上進展緩慢，對拉丁裔或黑人創業者的投資仍然落後於白人創業者。爲了解決科技行業在人員構成多遠性方面進展緩慢的問題，兩位數據與社會研究員建議科技公司和人工智能公司採用“種族修養”。
Mutale Nkonde是提出該建議的其中一位，她也是《算法問責法》的合著者，該法案於今年早些時候在國會兩院提出，要求聯邦貿易委員會對算法偏見進行評估，並允許該機構根據公司規模開出罰單。
Mutale Nkonde也是人工智能的執行董事，還在哈佛大學Berkman Klein互聯網和社會中心擔任研究員。她現在正在評估哪些人工智能和錯誤信息在2020年大選時將被用來針對非洲裔美國人。據參議院情報委員會去年10月發佈的一項調查顯示，2016年干預總統大選的行爲只針對Facebook、Twitter和Instagram上的非裔美國人。
在此之前，她和她的小組一直致力於提升種族修養意識。
種族修養
一篇解釋種族修養基本概念的文章中寫道：“在科技領域建立種族平等的真正目的是爲了讓人們看到一個不同的世界，一個我們可以打破舊模式的世界。”“如果不去有針對性地解決技術領域的種族問題，新技術將不可避免地陷入老問題”。
文章合著者希望種族修養成爲計算機課程和科技公司員工培訓的一部分。他們的方法借鑑了Howard Stevenson爲學校提供的種族修養培訓中的內容，方法中還包括了關聯測試來確認人們是否對種族問題持有刻板印象。
種族修養旨在幫助人們樹立正確種族意識避免員工在工作中遭遇種族壓力。這包括允許計算機科學家和設計師、機器學習工程師們公開談論一個產品或服務爲什麼始終存在着結構性種族歧視問題，或爲不同的用戶帶來了哪些不利的影響。
這樣做的目的是讓人們以一種開放和非對抗性的方式討論產品或服務可能出現的問題。在對大中型科技公司員工的採訪中，研究人員發現，在許多科技公司，與種族相關的問題是禁忌。
“採訪時受到很多阻礙，甚至生活中發生的無關緊要的事人們也不願承認其中帶有種族歧視的成分。他們裝作若無其事的樣子，認爲大家都有同樣的想法，而這實際上助長了種族主義的不正之風，”Nkonde說。“由此可見，企業必須明確自己的價值觀，而不能用含糊不清的價值觀來討好所有人。”
Nkonde認爲，很多像Alphabet這樣的公司開發出了與人類生活息息相關的產品，如醫療服務或出售給政府的面部識別軟件等，種族修養將變得越來越重要。
種族修養培訓將帶來的另一種結果是，公司內將形成一種企業文化，讓員工認識到這種多元性的企業文化能創造更多價值。波士頓諮詢集團去年發佈的一份研究報告表明，多元化程度越高的組織擁有更好的收入和更強的創新能力。其實公司招聘和員工留任的一些數據已經能夠說明這一問題了，只是硅谷的那些科技巨頭公司門似乎還沒有意識到這一點。
LinkedIn的高級軟件工程師Guillaume Saint-Jacques認爲AI倫理不僅僅是正確的事情，在商業上也同樣不容忽視。Saint-Jacques是今年夏天啓動的公平項目的發起人之一，他稱，偏見會妨礙利潤。
Saint-Jacques稱：“如果你有很大的偏見，你可能只會迎合一個羣體，最終這會限制用戶羣的增長，所以從商業角度來看，你實際上希望所有人都參與進來，因爲從長遠來看只有大衆能都參與的項目纔是一個不錯的商業決策。”
人權終究不容忽視
有實力的公司有多種渠道提升整體實力，但是他們的商業計劃裏都離不開“人”。
企業和政府收集越來越多的數據來做出影響人類生活的決策，從使用移動設備跟蹤用戶活動到中國的“社會信用評分”體系。Snowden最近在接受美國NBC採訪時被問及爲何不犯罪的人也要去關注監控技術時，他說，總體來講這些數據的目的是剝奪人們的自主性。
他還稱：“這些活動記錄被公司和政府不斷地創建、共享、收集和攔截。最終，這意味着當他們出售、交易這些記錄數據時，他們出售的不是信息，而是我們。他們出售賣的不只是我們的未來，還有過去發生的故事，甚至是我們的歷史、身份。最終，他們偷走了屬於我們的權利，用銷售我們隱私賺來的利潤堆滿他們的錢包。”
普林斯頓大學副教授、《科技之後的賽跑》一書的作者Ruha Benjamin也關注人的自主性問題，因爲無論人們認爲人工智能將帶來世界末日還是帶來美好的烏托邦，他們談論的問題的焦點都集中在權力讓位於機器。
不少大公司內部出現了截然不同的捍衛個人權利的方式。例如，大約一年前，全球2萬多名谷歌員工因多種道德問題舉行了罷工。據活動組織者介紹，此次罷工員工所抗議的問題包括“安卓之父”Andy Rubin在被指控性騷擾女員工後拿出9000萬美元“善後”，強制仲裁終結，以及谷歌參與五角大樓的Maven項目。
幾個月前，數千名谷歌的員工聯合簽署了一封公開信，抗議該公司參與無人機目標檢測人工智能項目。經過了幾個月的掙扎，谷歌最終承諾在2019年終止其Maven合同，並公佈了一套人工智能項目準則，其中包括不製造自動武器的承諾。
同樣，Facebook的員工呼籲CEO 扎克伯格去核實一些被紕漏的事實或禁止發佈政治廣告，而微軟和GitHub的員工則呼籲終止與ICE的合同。ICE——美國國土安全局，負則執行特朗普的驅逐和拘留政策。
挑戰大型科技公司需要有一定的膽識和組織性——尤其是對那些正受僱於這些公司的員工來說更是如此。但這些抗議表明，在面對這些巨頭公司時，即使雙方實力相差懸殊，只要勇於“亮劍”去捍衛個人的權利，最終也可以收穫成功。
政府和社會
隨着人工智能在當今的復興，Elon Musk已經成爲了當代的Paul Revere，他提醒人們警惕機器人殺手和強人工智能。當俄羅斯總統普京提及掌控人工智能的國家將控制世界時，特斯拉汽車和PayPal的聯合創始人Musk迴應稱，他認爲人工智能軍備競賽將成爲引爆第三次世界大戰的導火索。
Musk加入了4500多名人工智能和機器人研究人員的行列，並簽署了一份“爲未來而戰”的公開信，他表明自己反對無人干預的自動化武器。如果未來某一天某個國家引入了自動化機器人殺手，他們有權決定人的生死，那麼到那時，人工智能就真正地淪爲了權利的“劊子手”。
像電影《終結者：天網》這樣的強人工智能場景可能還沒有出現，但軍方已經在考慮人工智能的倫理應用。
美國國會一年前成立了國家人工智能安全委員會，委員會近期剛發佈了一份關於人工智能對戰爭影響的報告草稿。報告中的主要提及，“人工智能的發展將如影響造權力的未來”以及美國如何保持經濟和軍事優勢。
一週前，一個由技術高管和人工智能專家組成的小組向美國國防部提交了一份人工智能倫理準則。
美國國防部目前正在研究這套由谷歌前CEO Schmidt、MIT CSAIL總監Daniela Rus和LinkedIn聯合創始人Reid Hoffman等美國國內首席技術專家共同起草的準則。
據研究人員和議員們稱，到2020年，也就是美國總統選舉年，Deepfakes技術尤其令人擔憂。
此外，Twitter上還在使用僵屍網絡來詳細爆出國家議程，比如在前《華盛頓郵報》記者Jamal Khashoggi被殺後擁護沙特阿拉伯政府的機器人，以及2016年協助特朗普當選總統的俄羅斯機器人。機器人也被發現在俄羅斯影響南非競選問題上也扮演了重要角色。
人工智能、權利和社會
雖然圍繞使用人工智能來控制線上政治言論的爭論仍在繼續，但新問題依舊不斷涌現。由蘋果、Facebook和谷歌等公司的人工智能研究人員創建的人工智能夥伴關係網，將Amnesty國際和人權觀察等組織與全球巨頭人工智能公司聯繫在一起。在今年夏天接受VentureBeat採訪時，執行董事Terah Lyons表示，非政府組織和科技巨頭公司進行了人工智能倫理討論，主要辯論議題爲人工智能將如何影響社會，而最終得到的結論是——權力是核心。
“我們爲在人工智能倫理中權利是核心和關鍵因素，因爲人們的日常工作總是無法繞開權利，”她說。“權力就算不是核心問題，也是核心問題之一。”她認爲，權利在人工智能領域缺乏多樣性的問題上起了一定作用，在系統和工具構建和部署方式缺乏影響力問題上也起了一定作用，甚至在科技公司和機構內部個人權利方面也起了一定作用。
資源有限的民間組織和非盈利機構與資源豐富的科技巨頭公司合作時，權利鴻溝也是這其中不容忽視的角色。以人爲本的斯坦福機構和一些人工智能機構支持設立機構代表，但是來自非盈利組織的員工往往不能像科技巨頭公司的員工那樣支付得起飛往人工智能股代表大會的機票。
類似買不起機票的尷尬還發生在想要參加國際會議的人工智能研究員身上。去年，在加拿大蒙特利爾NeurIPS舉辦的人工智能研討會上，約有半數與會者被移民局官員拒籤，今年，申請者面臨着同樣的問題。此類事件促使人工智能領域的合作伙伴敦促各國爲人工智能研究會議的與會者發放特殊簽證，就像在世界某些地區爲醫療專家、運動員和企業家提供的簽證一樣。
國家和巨頭公司之間的權利關係
Casper Klynge是丹麥駐硅谷大使。一些國家在海灣地區設有商業和創新中心，但Klynge是第一位被特別指派到硅谷專門代表國家外交利益的大使。
丹麥政府已經派他與蘋果、亞馬遜、谷歌和Facebook等全球科技巨頭公司保持聯繫，這些公司聚集了世界上大量的人工智能人才。Klynge認爲，更多的國家也應該這樣做，這樣它們才能爲共同的目標而共同努力。Klynge稱，在他任職的兩年間，與其他小國建立多邊聯盟也是他工作的一部分。
雖然政府對壟斷企業已經見怪不怪了，但Klynge表示，像自動駕駛和搜索這樣的人工智能已經改變了遊戲規則，與這些科技巨頭公司合作所帶來的利益甚至高於與其他國家合作帶來的利益，因此也就引發了丹麥所稱的對技術外交的需求。
在上個月接受VentureBeat採訪時，Klynge指出，科技巨頭公司正在篡改國際關係的本質，並在創造一個新的現實，即各國必須像對待全球超級大國那樣對待科技巨頭。
“我們不能再把這些科技巨頭公司看成中立的平臺，我們必須以更加成熟和負責任的方式看待他們，我們也要對它們提出要求並讓其負起責任。”“我的工作只是一種具有代表性的個例，昭示着我們正努力做一些更系統化的事情，以對科技公司和科技本身有一個更平衡、更現實的看法。”
接下來會怎樣？
在關於人工智能倫理的爭辯中權利無時無刻不被提及。但是這並不意味着我們一定要讓人工智能絕對脫離權利。就像上文種族修養的示例那樣，我們可以找到另一種解決辦法。
Ruha Benjamin稱，“大數據記錄着我們的過去，但是並不會創造我們的未來。編纂未來需要倫理想象，這些只有人類才能做到。”
當然，也有很多人工智能被用來改善人類生活的例子。比如，麻省理工學院的研究人員發明了一種讓學生更快到達學校的算法，每年爲波士頓學區節省500萬美元的交通費用。紐約消防局和紐約大學利用人工智能知曉到達事故現場最有效路徑從而縮短急救時間——這是Google.org上幾十個項目之一，他們利用數據驅動方式來創建造福人類社會的人工智能。
人類利用人工智能建造更高效的溫室，提高農作物產量，這些利用人工智能所做出的改進可能讓人類在未來十幾年中避免饑荒，並在全球人口膨脹至100億之際養活世界。這樣的例子不勝枚舉。
但是那些能預知未來、顛覆經濟和社會秩序、把人送進監獄、或者決定我們健康的技術彷彿隱約傳遞着這樣一種信號——在這些影響能社會變革的技術力量之下，涌動着權利的暗潮。
當有色人種在面臨保釋評估、就醫保健、無家可歸救助服務、人臉識別等情況時，這時權利不再“沉默”。
當歐盟的人工智能專家敦促各國避免大規模監控，而使用人工智能來增強和捍衛人的能力時，權利不再“沉默”。
當三星和聯合國都提出了利用人工智能實現可持續發展目標的倡議時，權利便不再“沉默”。
當提及新興的能夠探測何時發生團伙槍擊來以確保軍人的孩子不受傷害的人工智能問題上，權利不再“沉默”。
當人工智能解答巴基斯坦少女性健康的問題時，權利不再“沉默”。
像Masakhane這樣的開源項目正在爲2000多種非洲語言創建機器翻譯。該項目目前有來自非洲大陸各地區的60名貢獻者參與，他們致力於開發出能夠保存和翻譯這些語言的人工智能技術。據聯合國估計，非洲擁有地球上最年輕的人口，從現在到2050年，非洲將佔全球人口增長的一半以上。非洲的機器翻譯對於推動人工智能對話、交流和電子商務至關重要，但涉及這麼多人口的人工智能技術卻始終沒有引起全世界的高度重視，由此可見，在這件事情上，權利也在這其中“插了一腳”。
編者按：
人工智能是讓世界變得更好的一種方式，但當權利阻擋我們窺探未來時就會變得非常可怕。在繪製通往未來的美好藍圖時，必須認識到我們無法完全擺脫權利，關鍵在於如何使用它。就像人工智能本身就是一種工具或武器，它可以拯救人類也可以摧毀人類。
人工智能正在改變社會，它不能僅僅服務於少數掌握特權的人讓他們去決定世界是什麼樣子。
原文鏈接：
https://venturebeat.com/2019/11/11/ai-ethics-is-all-about-power/