在AlphaGo戰勝李世石之後，人工智能是否會取代人類的話題引起衆人關注。人工智能迅速發展，隨之而來的擔憂也層出不窮。的確在很多方面，人工智能是強於人類的。在衆多電影或小說中，機器人與人類之間難免爆發一場戰爭。
今天就談一下人工智能與倫理道德。
人工智能失控
能否保持對有朝一日遠比人類更“聰明”的人工智能系統的控制，是人工智能倫理研究中最古老但又是終極性的問題。目前，科技界將人工智能的發展進程劃分爲弱人工智能階段、強人工智能階段、超人工智能階段。國外諸多專家認爲，超人工智能時代很快將會來臨，這種人工智能形態能夠提高自身的各種能力，包括替自身設計一種改進版本，隨後那種更聰明的人工智能版本將會做同樣的事情，這種遞歸式的自我改善可能導致最終的“智能爆炸”。到那時，人類能否控制住我們創造的人工智能確實很難下定論。
人工智能一旦擺脫人類的控制，後果就不堪設想了。當奧創紀元真的降臨，沒有超級英雄幫助的人類能夠取得勝利嗎？
算法偏差和機器歧視
基於海量數據和強大算法的人工智能系統正在影響甚至替代個體行爲決策，在人工智能取代個體決策的趨勢下，算法偏差和機器歧視並不鮮見且影響重大。例如，谷歌的圖片軟件就曾錯將黑人標記爲“大猩猩”，Flickr的自動標記系統也曾錯將黑人的照片標記爲“猿猴”或者“動物”。谷歌的算法歧視問題早已引起人們注意，相關研究表明，在谷歌搜索中，相比搜索白人的名字，搜索黑人的名字更容易出現暗示具有犯罪歷史的廣告；在谷歌的廣告服務中，男性比女性看到更多高薪招聘廣告。
技術性失業
技術性失業是人工智能面臨的經濟倫理的重大挑戰。2017年1月，麥肯錫全球研究院發佈《未來產業：自動化、就業與生產力》報告指出，在800多種職業2000多項工作活動中，將近60%的職業或行業中有至少30%的工作內容在技術上可以自動化，但能夠全面自動化的職業或行業不超過5%，在人類與機器共事的情況下，自動化每年可以將全球生產力提升0.8%至1.4%。該報告同時指出，自動化技術帶動的大規模勞動力轉型將持續幾十年，類似的勞動力轉型歷史上早有先例，例如發達國家整個20世紀的農業勞動力大幅減少，但並未出現長期的、大規模的失業，這是因爲技術發展同時衍生出之前不曾預見的新工作形態。
關於人工智能到底是會讓人們失業，還是會在爲人類做枯燥、危險工作的同時，衍生新的工作的爭論也是人們關心的一大焦點。
人工智能是一項偉大的技術。它正在讓科幻小說中的虛構變成現實。但它帶來的問題也值得人類重視。