五角大樓認(rèn)為，人工智能是一種戰(zhàn)勝和支配未來對手的方式。人工智能的脆弱本質(zhì)意味著，如果沒有足夠的重視，這項(xiàng)技術(shù)可能會為敵人提供一種新的攻擊方式。

 

由五角大樓創(chuàng)建的聯(lián)合人工智能中心(Joint Artificial Intelligence Center)，旨在幫助美國軍方利用人工智能。該中心最近成立了一個(gè)部門，負(fù)責(zé)收集、審查和向國防部各部門分發(fā)開源和工業(yè)機(jī)器學(xué)習(xí)模型。這種努力一部分指向了將人工智能用于軍事目的的一個(gè)關(guān)鍵挑戰(zhàn)。

一個(gè)被稱為“測試和評估小組”(Test and Evaluation Group)的機(jī)器學(xué)習(xí)“紅隊(duì)”將調(diào)查預(yù)先訓(xùn)練過的模型的弱點(diǎn)，另一個(gè)網(wǎng)絡(luò)安全團(tuán)隊(duì)則檢查人工智能代碼和數(shù)據(jù)中隱藏的漏洞。

機(jī)器學(xué)習(xí)是現(xiàn)代人工智能背后的技術(shù)，它代表了一種根本不同的、通常更強(qiáng)大的編寫計(jì)算機(jī)代碼的方式。機(jī)器學(xué)習(xí)通過從數(shù)據(jù)中學(xué)習(xí)生成自己的規(guī)則，而不是編寫讓機(jī)器遵循的規(guī)則。問題是，這種學(xué)習(xí)過程，以及訓(xùn)練數(shù)據(jù)中的人工制品或錯(cuò)誤，可能會導(dǎo)致AI模型以奇怪或不可預(yù)測的方式行為。 

JAIC戰(zhàn)略和政策主管格雷戈里?艾倫(Gregory Allen)表示:“對于某些應(yīng)用來說，機(jī)器學(xué)習(xí)軟件比傳統(tǒng)軟件要好上萬億倍。”但是，他補(bǔ)充說，機(jī)器學(xué)習(xí)“也以不同于傳統(tǒng)軟件的方式進(jìn)行突破?！?nbsp;

例如，訓(xùn)練用來識別衛(wèi)星圖像中特定車輛的機(jī)器學(xué)習(xí)算法，也可能學(xué)會將車輛與周圍某一顏色的風(fēng)景聯(lián)系起來。對手可以通過改變車輛周圍的場景來欺騙AI。在獲取訓(xùn)練數(shù)據(jù)時(shí)，對手也可以植入圖像，比如特定的符號，這會使算法混亂。

艾倫說，五角大樓對其使用的軟件的可靠性和安全性有嚴(yán)格的規(guī)定，這種方法可以擴(kuò)展到人工智能和機(jī)器學(xué)習(xí)，并指出JAIC正在更新國防部的軟件標(biāo)準(zhǔn)，包括機(jī)器學(xué)習(xí)方面的問題。 

人工智能正在改變一些企業(yè)的運(yùn)營方式，因?yàn)樗赡苁且环N高效而強(qiáng)大的方式來實(shí)現(xiàn)任務(wù)和流程的自動化。

例如，一家公司可以使用一個(gè)人工智能算法，查看數(shù)千或數(shù)百萬以前的銷售情況，并設(shè)計(jì)自己的模型，預(yù)測誰將購買什么產(chǎn)品。 

美國和其他國家的軍隊(duì)也看到了類似的優(yōu)勢，正急于利用人工智能來改善后勤、情報(bào)收集、任務(wù)規(guī)劃和武器技術(shù)。

中國不斷增長的技術(shù)能力在五角大樓內(nèi)激起了采用人工智能的緊迫感。艾倫表示，國防部正在“以負(fù)責(zé)任的方式，優(yōu)先考慮安全性和可靠性”。 

研究人員正在開發(fā)更有創(chuàng)造性的方法來破解、顛覆或破壞人工智能系統(tǒng)。

2020年10月，以色列的研究人員展示了經(jīng)過精心調(diào)整的圖像會如何混淆讓特斯拉解讀前方道路的人工智能算法。這類“對抗性攻擊”涉及對機(jī)器學(xué)習(xí)算法的輸入進(jìn)行調(diào)整，以找到導(dǎo)致重大錯(cuò)誤的小變化。 

加州大學(xué)伯克利分校教授Dawn Song在特斯拉的傳感器和其他人工智能系統(tǒng)上進(jìn)行了類似的實(shí)驗(yàn)。他表示，在欺詐檢測等領(lǐng)域，對機(jī)器學(xué)習(xí)算法的攻擊已經(jīng)成為一個(gè)問題。一些公司提供工具來測試用于金融領(lǐng)域的人工智能系統(tǒng)?！白匀粫泄粽呦胍颖芟到y(tǒng)，”她說?！拔艺J(rèn)為我們將看到更多這類問題。”

一個(gè)簡單的機(jī)器學(xué)習(xí)攻擊的例子，涉及到2016年首次亮相的微軟聊天機(jī)器人Tay，其使用了一種算法，通過檢查之前的對話來學(xué)習(xí)如何回應(yīng)新的詢問，reddit用戶很快意識到他們可以利用這一點(diǎn)，讓Tay發(fā)布仇恨信息。 

馬里蘭大學(xué)研究機(jī)器學(xué)習(xí)算法脆弱性的副教授Tom Goldstein表示，攻擊人工智能系統(tǒng)的方法有很多種，包括修改輸入算法的數(shù)據(jù)，使其以特定方式行動。機(jī)器學(xué)習(xí)模型與傳統(tǒng)軟件的不同之處在于，獲得一個(gè)模型可以讓對手設(shè)計(jì)一種無法抵御的攻擊，比如誤導(dǎo)性輸入。

戈?duì)柎奶拐f:“我們真的不知道如何解決人工智能的所有弱點(diǎn)，我們不知道如何讓系統(tǒng)完全抵御對抗性攻擊?！?/p>

在軍事方面，如果有一個(gè)資源豐富、技術(shù)先進(jìn)的對手，防范各種新的進(jìn)攻路線非常重要。

喬治敦大學(xué)安全與新興技術(shù)中心的最近一份報(bào)告警告稱，人工智能中的“數(shù)據(jù)中毒”可能對國家安全構(gòu)成嚴(yán)重威脅。這將涉及滲透用于訓(xùn)練人工智能模型的過程，可能是通過讓一個(gè)代理志愿者給輸入算法的圖像貼上標(biāo)簽，或者在網(wǎng)絡(luò)上植入圖像，然后提取圖像并輸入人工智能模型。（雷鋒網(wǎng) 雷鋒網(wǎng)）雷鋒網(wǎng)

編譯來源：https://www.wired.com/story/pentagon-bolstering-ai-systems-hacking-itself/

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。