国产成人超清在线视频,国产高清永久免费,国产最新超碰97上传无码,超碰国产人人草人人爽

Google與五角大樓在軍事上進(jìn)行人工智能合作是怎么變成一場危機的?

智能
  • 好奇心日報
  • 2018-06-01 14:41

64ad7bd9a41eca7.jpg

李飛飛是新興人工智能領(lǐng)域最耀眼的明星之一:既是斯坦福大學(xué)人工智能實驗室的負(fù)責(zé)人,也是Google Cloud——搜索巨頭Google公司最有前景的項目之一——的人工智能首席科學(xué)家。沒人知道她是如何同時勝任兩項高難度工作的。然而,就在去年9月,當(dāng)緊張不安的Google管理層討論該如何向公眾披露公司與五角大樓簽署的第一份重要人工智能合同時,李飛飛強烈建議避免使用A.I. 這兩個強有力的字母。

《紐約時報》獲得了李飛飛寫給同事們的一封電子郵件,她在其中寫道:“無論如何都要避免提及或暗示人工智能”,“AI 武器就算不是最敏感的AI話題,也很可能是其中之一。對想盡一切辦法攻擊Google 的媒體來說,這會給它們一次大好的機會。”

李飛飛擔(dān)心這份軍事合同可能會給Google 帶來不良影響,事實證明,這是她的先見之明。根據(jù)《紐約時報》查看過的文件、電子郵件以及與十幾位現(xiàn)任和前任Google 員工的訪談表明,Google 與國防部的關(guān)系引發(fā)了一場事關(guān)生死存亡的危機,而這一切源于前者贏得了Maven 計劃合約中的一部分份額——該計劃使用人工智能來解讀視頻圖像,旨在提高無人機打擊的精準(zhǔn)度。

它分裂了Google 的員工,引發(fā)了激烈的員工會議和內(nèi)部交流,并導(dǎo)致一些員工辭職。這場爭端讓包括李飛飛在內(nèi)的一些Google 高管深感痛惜,因為從道德上堅決反對這份合同的科學(xué)家與垂涎合同的銷售人員之間往往存在著鴻溝,而高管們在試圖彌合這一鴻溝。

支撐著Google 驚人增長的廣告模式激起了人們的批評,稱它侵犯了網(wǎng)絡(luò)用戶的隱私,還支持可疑的網(wǎng)站,其中就包括兜售虛假新聞的那些。目前,Google 通過云計算服務(wù)實現(xiàn)未來增長的路徑,已使得該公司因為對待武器的不同立場而分化成了不同的陣營。繼續(xù)承接大額國防合同可能會趕走頭腦杰出的人工智能專家,而拒絕這樣的工作則會讓它失去潛在的大額業(yè)務(wù)。

支持者和反對者都認(rèn)為,針對Maven 計劃的內(nèi)部爭論實際上打開了更大規(guī)模的國防合同的大門。這場爭論也促使約4000 名員工簽署了一份聯(lián)名請愿書,要求公司“發(fā)布明確的政策,聲明Google 及其承包商都永遠(yuǎn)不會開發(fā)戰(zhàn)爭技術(shù)”。

DeepMind 是一家位于倫敦的人工智能先驅(qū)公司,于2014 年被Google 收購。DeepMind 的高管們表示,他們完全反對軍事和監(jiān)控業(yè)務(wù),實驗室的員工已經(jīng)對合同提出了抗議。兩家公司之間的收購協(xié)議表明,DeepMind 技術(shù)永遠(yuǎn)不會用于軍事或監(jiān)控目的。

已有約12 名Google 員工因為這份合同(Gizmodo 最先報道了此事)辭職。一位離任的工程師曾請求以克拉拉·伊默瓦爾(Clara Immerwahr)的名字重新命名一間會議室,克拉拉是一位德國化學(xué)家,她于1915 年在抗議將科學(xué)用于戰(zhàn)爭后自殺身亡?!都~約時報》拿到的公司電子郵件稱,Google 的紐約辦公室出現(xiàn)了“做正確的事情”(Do the Right Thing)的貼紙。

反對五角大樓合同的員工們分享了那些電子郵件和其他內(nèi)部文件,它們顯示,至少有一些Google 高管預(yù)料到了這些異議和負(fù)面報道。但其他員工也指出,微軟和亞馬遜等Google 的競爭對手正熱衷于追逐獲利豐厚的五角大樓業(yè)務(wù)。他們得出結(jié)論說,這些項目對公司的發(fā)展至關(guān)重要,沒有什么可恥的。

還有許多科技公司也在尋求軍事業(yè)務(wù),而且沒有讓所有員工都卷入其中。不過,Google 的根本理念和自我形象與別家不同。

“我們有‘不作惡’(don’t be evil)的信條,要為我們的用戶、客戶和每一個人,做我們所知的最好的事情,”2004 年,拉里·佩奇(Larry Page)對彼得·詹寧斯(Peter Jennings,美國廣播公司[ABC]著名主播——編注)說了這么一番話。當(dāng)年,佩奇及Google 聯(lián)合創(chuàng)始人謝爾蓋·布林(Sergey Brin)被ABC 新聞評為“年度人物”。

Google 內(nèi)部這場沖突的導(dǎo)火索在于,Maven 的工作可能用于致命的無人機瞄準(zhǔn)系統(tǒng)。之所以眼下這場討論變得尤為緊迫,是因為專家們預(yù)計人工智能將在戰(zhàn)爭中發(fā)揮越來越核心的作用, 而人工智能是Google 的強項之一。

去年8 月,美國國防部長吉姆·馬蒂斯(Jim Mattis)先是順道拜訪亞馬遜,隨后不久訪問了Google,呼吁與科技公司進(jìn)行更密切的合作。他對Google 的訪問得到了媒體的廣泛報道。

“我看到西海岸這兒的私人公司取得了許多最重大的進(jìn)展,”他說。

李飛飛的意見是公司內(nèi)部郵件交流的一部分,這次郵件交流是由Google 國防和智能銷售主管(head of defense and intelligence sales)斯科特·弗羅曼(Scott Frohman)發(fā)起的。在“通訊/公關(guān)請求—緊急”(Communications/PR Request — URGENT)的標(biāo)題下,弗羅曼提到Maven 合同的報酬即將到位,并請大家就如何向公眾介紹——這一“亟待解決的問題”——出謀劃策。

許多同事加入了討論,但通常他們都會聽從李飛飛的意見。李飛飛生于中國,跟父母移民到新澤西州時,她只有16 歲,不會講英語。如今的她已攀登到了科技世界的頂峰。

李飛飛在電子郵件中表示,最終決定將由她的上司、Google Cloud 首席執(zhí)行官黛安·格林(Diane Greene)作出。不過李飛飛認(rèn)為,公司應(yīng)該將Maven 合同份額作為“GCP(Google 云平臺)的重大勝利”來宣傳。

她還建議,在介紹該項目時要“極其謹(jǐn)慎”,并提及她一直公開談?wù)摰摹叭吮局髁x的人工智能”,她準(zhǔn)備在3 月份的《紐約時報》專欄中討論這個話題。

她在那封電子郵件中寫道:“如果媒體開始得知Google 正在秘密制造人工智能武器,或研發(fā)幫助國防工業(yè)制造武器的人工智能技術(shù),我不知道將會發(fā)生什么。”

被問到去年九月份的郵件時,李飛飛發(fā)表聲明稱:“我相信,人本主義的人工智能會以積極、善意的方式給人們帶來好處。參與任何我認(rèn)為是在把人工智能變成武器的項目,都是非常違背我個人原則的。”

事實證明,Google 并沒有向公眾公布Maven。當(dāng)持有反對意見的員工開始在Google 強大的內(nèi)部通信平臺上抗議時,公眾才注意到Google 的“承包商”工作。

Google 向員工承諾,公司會制定一套原則,用以指導(dǎo)其在承包國防和情報領(lǐng)域工作時,在道德雷區(qū)中做出抉擇。Google 周二告訴《紐約時報》,正在制定的全新人工智能原則排除了將人工智能用作武器的可能性。但是,目前尚不明確這點要如何實現(xiàn)。

公司員工稱,在上周四一場全公司大會上,首席執(zhí)行官桑達(dá)爾·皮查伊(Sundar Pichai)說,Google 希望提出“能夠經(jīng)受時間考驗”的指導(dǎo)方針。員工表示,他們希望接下來幾個星期,這些原則能在Google 內(nèi)部予以公布。

在Google 和軍方引起的兩極化爭議中,人們可能忽略了一些細(xì)微的差別。如果能夠?qū)o人機影響進(jìn)行更好的分析,操作人員發(fā)現(xiàn)、辨別恐怖分子的能力就能得到提高,進(jìn)而可以達(dá)到減少平民傷亡的目的。就算Google 退出,美國國防部也幾乎不可能放棄對人工智能的開發(fā)研究。而且軍事專家表示,中國和其他發(fā)達(dá)國家已經(jīng)在軍用人工智能方面進(jìn)行了大量投資。

然而,有些技術(shù)高超的技術(shù)人員之所以選擇Google,就是因為Google 樂于接受仁慈、無私的目標(biāo)。因此,他們對雇主最終可能和更有效的殺人方式有所牽連感到十分震驚。

Google 的公司留言板和內(nèi)部社交平臺反映了這家公司與眾不同的文化。這些平臺鼓勵員工大膽評價所有事情,從Google 的餐廳食物到公司的多樣性措施,所有一切都可以暢所欲言。但是老員工說,即使在這個言論自由的工作場所,Marven 計劃給Google 帶來的混亂也比近期他們印象里其他事件更嚴(yán)重。

交易的消息在內(nèi)部走漏風(fēng)聲后,格林在每周全公司的周五大會上發(fā)表了講話。據(jù)兩位會議知情人士表示,格林解釋稱,這個系統(tǒng)不是為剝奪人性命設(shè)計的,而且它只是場比較小的交易,“只”值900 萬美元。

這并沒有平息人們的怒火。據(jù)邀請函顯示,Google 決定在4 月11 日舉行一次討論,呈現(xiàn)“多方觀點”,參與者有格林、Google 人工智能研究員梅雷迪斯·惠特克(Meredith Whittaker)和Google 副總裁溫特·瑟夫(Vint Cerf)。其中,惠特克是此次反Maven 運動的牽頭人,瑟夫則因其在國防部的開拓性技術(shù)工作而被認(rèn)為是互聯(lián)網(wǎng)之父之一。

由于值得探討的點太多,他們在一天里針對這一話題展開了三次辯論,全球各地不同地區(qū)的Google 員工通過視頻觀看了這些辯論。

據(jù)看了辯論的員工表示,格林堅持認(rèn)為,Maven 計劃并未將人工智能用于攻擊性目的?;萏乜藙t認(rèn)為,很難對這項技術(shù)的使用方式作出明確的規(guī)定。

上周四,Google 聯(lián)合創(chuàng)始人布林在全公司大會上回答了一個有關(guān)Google 在Maven 計劃中所做工作的問題。據(jù)兩位Google 員工表示,布林說他理解這一爭議,并且和佩奇、皮查伊都進(jìn)行過大量的探討。然而他說,他認(rèn)為如果全球各地的軍方組織都能和Google 這樣的國際化組織親密合作,而不是只和民族主義的國防承包商打交道,那會更有利于世界和平。

Google 及其母公司Alphabet 雇傭了全球許多頂尖人工智能研究人員。一些研究人員在加州山景城一處名叫Google Brain 的人工智能實驗室工作,其他研究人員則分布在不同的小組,包括Alphabet 董事會成員格林監(jiān)管的云計算業(yè)務(wù)。

這些研究人員中的許多人都是最近剛從學(xué)界出來,有些人還保留著教授職位。英國人杰夫·辛頓(Geoff Hinton)就是其中之一,他幫助管理多倫多的Google Brain 實驗室,并且曾公開表示不愿為美國政府工作。1980 年代末,辛頓之所以離開美國前往加拿大,部分原因就在于他不愿接受國防部的撥款。

杰夫·迪恩(Jeff Dean)是在Google 工作時間最長、最受敬重的員工,目前負(fù)責(zé)監(jiān)管公司所有人工智能工作。他在五月份舉行的一次開發(fā)者大會上表示,他簽署了一封信,反對用所謂的機器學(xué)習(xí)來研發(fā)自動武器——它們無需人類扣動扳機,即可辨別目標(biāo)并開火。

位于倫敦的人工智能實驗室DeepMind 被普遍認(rèn)為是全球最重要的人工智能人才聚集地。如今,雖然它是一家獨立的Alphabet 子公司,但它和Google 之間的界限很模糊。

DeepMind 的創(chuàng)始人一直在警告人們?nèi)斯ぶ悄芟到y(tǒng)的危險。據(jù)一位知情人士透露,該實驗室至少有一位創(chuàng)始人——穆斯塔法·蘇萊曼(Mustafa Suleyman)和包括皮查依在內(nèi)的Google 領(lǐng)導(dǎo)層一起進(jìn)行了有關(guān)Maven 計劃的政策討論。

顯然,Google 靜悄悄介入國防工作、不引起公眾關(guān)注的可能性已經(jīng)破滅了。李飛飛希望將人工智能排除在辯論之外的想法也是不現(xiàn)實的。

Google 華盛頓辦公室的高管艾琳·布萊克(Aileen Black)在去年9 月的交流中提醒李飛飛:“我們可以引導(dǎo)關(guān)于Google 云的討論,但拿到國防部項目是人工智能領(lǐng)域的一項榮譽,我認(rèn)為在我們想明白(怎么做)之前,需要先做起來?!?/p>

翻譯:熊貓譯社劉溜錢功毅


來源:好奇心日報

作者:

編輯:cys

圖片來源:

本文鏈接: http://givenhand.cn/article/20180601/182.html

  • 人工智能
免責(zé)聲明:本網(wǎng)站出于傳播商業(yè)信息之目的進(jìn)行轉(zhuǎn)載發(fā)布,不代表 AIUST.Com 立場。本文所涉文、圖、音視頻等資料之一切權(quán)利和法律責(zé)任歸提供方所有和承擔(dān)。本網(wǎng)站對文中的圖文等所有信息的真實性不作任何保證或承諾,請讀者僅作參考,并自行核實相關(guān)內(nèi)容。本網(wǎng)站的任何內(nèi)容僅供參考,不能做為投資、采購或行為決策依據(jù),據(jù)此操作者風(fēng)險自擔(dān)。

相關(guān)文章

資訊

原創(chuàng)

薦讀

  • 5G+AR加持 晨星機器人掀起“智能化+人機交互”制造新趨勢 5G+AR加持 晨星機器人掀起“智能化+人機交互”制造新趨勢

    2021世界制造業(yè)大會于11月22日在合肥落下帷幕。為期四天的大會中,作為向世界展示智能制造全面能力的窗口,聯(lián)想展示了一系列讓人驚喜的創(chuàng)新產(chǎn)品。現(xiàn)場展示的ThinkPad X1 Fold整體重量僅有1公斤,折疊起來之后的厚度大約為24毫米。當(dāng)保持半開狀態(tài)時,可以像拿本書一樣握住,并且能同時運行兩個應(yīng)用程序。使用固定在中間的鍵盤之后,瞬間變...

  • 智能手機競爭中失敗,日本在聯(lián)網(wǎng)汽車領(lǐng)域舉步維艱 智能手機競爭中失敗,日本在聯(lián)網(wǎng)汽車領(lǐng)域舉步維艱

    據(jù)外媒報道,在制造帶有數(shù)字聯(lián)網(wǎng)服務(wù)的汽車的競爭中,豐田汽車和日產(chǎn)汽車面臨著被本土市場拖累的風(fēng)險。與美國和歐洲的汽車消費者不同的是,日本消費者不愿意為這些聯(lián)網(wǎng)功能和服務(wù)買單。結(jié)果就是:日本只有10%的汽車...

  • 2020年河南省將推廣應(yīng)用3萬臺工業(yè)機器人 2020年河南省將推廣應(yīng)用3萬臺工業(yè)機器人

    到2020年,推廣應(yīng)用3萬臺工業(yè)機器人,建設(shè)1000條智能生產(chǎn)線、300個智能車間、150個智能工廠……4月16日,在2018兩岸智能裝備制造鄭州論壇上,河南省工信委發(fā)布了《2017年河南省智能制造白皮書》,河南智能制造的2020...

熱門標(biāo)簽