專家預測一年内AI"黑客"將(jiāng)至 你準備好(hǎo)了嗎
2017-09-04
據外媒報道(dào),下一個重大網絡攻擊可能(néng)涉及人工智能(néng)系統,而且這(zhè)種(zhǒng)情況很可能(néng)會(huì)很快發(fā)生。近日一次網絡安全會(huì)議上,在100名受訪者中,有62名專業人士表示,他們認為第一個人工智能(néng)增強的網絡攻擊可能(néng)會(huì)在未來1年内出現。
這(zhè)并不意味著(zhe)機器人會(huì)大行其道(dào)。相反,人工智能(néng)將(jiāng)使現有的網絡攻擊——比如用戶身份盜竊、拒絕服務和密碼破解——變得更加強大和高效。這(zhè)很危險,因為這(zhè)種(zhǒng)類型的黑客行為會(huì)竊取用戶錢财,造成(chéng)人類情感傷害,甚至會(huì)給人類帶來人員傷亡。更大規模的襲擊則會(huì)切斷成(chéng)千上萬人的電力供應,導緻醫院等公共設施的關閉,甚至會(huì)影響國(guó)家安全。
一名研究人工智能(néng)決策的學(xué)者表示,解釋人類行為對(duì)人工智能(néng)而言仍然十分困難,而且人類并不會(huì)真正相信人工智能(néng)系統做出的重大決策。因此,與電影不同的是,人工智能(néng)給網絡攻擊(以及網絡防禦)帶來的可能(néng)不是立即讓計算機選擇攻擊目标,并自行攻擊它們。人們仍然需要創建攻擊AI系統,并針對(duì)特定目标啟動攻擊AI系統。但無論如何,在今天的網絡犯罪和網絡安全世界中加入人工智能(néng)將(jiāng)會(huì)使攻擊者和防禦者之間已經(jīng)變化飛速的軍備競賽升級。
更快的攻擊
電腦對(duì)食物和睡眠沒(méi)有需求,而這(zhè)正是人類黑客的活動限制之處,除此之外,即使他們在團隊中工作——自動化可以讓複雜的攻擊變得更快、更有效。
到(dào)目前為止,自動化的影響有限。幾十年來,由于病毒程序具有自我複制的能(néng)力,在沒(méi)有人類指令的情況下,它們可以自我複制。此外,程序員們還(hái)利用他們的技能(néng)將(jiāng)黑客活動的不同元素自動化。例如,分布式攻擊涉及在多台計算機或設備上觸發(fā)一個遠程程序,使服務器不堪重負。2016年10月,互聯網大面(miàn)積癱瘓,攻擊者使用的就(jiù)是此種(zhǒng)技術。在某些情況下,常見的攻擊可以作為腳本,讓不成(chéng)熟的用戶可以選擇目标并對(duì)其發(fā)起(qǐ)攻擊。
然而,人工智能(néng)可以幫助人類網絡罪犯自定義攻擊。例如,釣魚攻擊要求攻擊者擁有關于潛在目标的個人信息,比如他們所在的銀行或他們使用的醫療保險公司的詳細信息。人工智能(néng)系統可以幫助收集、組織和處理大型數據庫,以連接識别信息,使這(zhè)種(zhǒng)類型的攻擊更容易、更快速地執行。這(zhè)種(zhǒng)工作量的減少可能(néng)會(huì)促使竊賊們發(fā)動大量小型襲擊,而這(zhè)些襲擊往往長(cháng)期被(bèi)忽視——由于它們的影響有限,很少有人發(fā)現。
人工智能(néng)系統還(hái)可以被(bèi)用來從多個來源收集信息,以識别那些特别容易受到(dào)攻擊的人。例如,在住院或是住在養老院的人可能(néng)不會(huì)注意到(dào)錢從他們的賬戶中消失了,直到(dào)小偷離開(kāi)很久他們才會(huì)發(fā)現。
提升适應能(néng)力
利用人工智能(néng)的攻擊者在遇到(dào)阻力時(shí)也會(huì)更快地做出反應,或者在網絡安全專家修正之前,允許未授權用戶進(jìn)入漏洞,并能(néng)迅速作出反應。人工智能(néng)可能(néng)會(huì)利用另一個漏洞,或者開(kāi)始尋找進(jìn)入系統的新方法——而無需等待人類的指令。
這(zhè)可能(néng)意味著(zhe),人類應答者和防禦者將(jiāng)會(huì)發(fā)現自己根本無法跟上人工智能(néng)攻擊的速度。它可能(néng)會(huì)導緻編程和技術軍備競賽,防禦者開(kāi)發(fā)人工智能(néng)助手來識别和保護攻擊——甚至是開(kāi)發(fā)報複性攻擊能(néng)力的人工智能(néng)。
避免危險
自主操作可能(néng)導緻人工智能(néng)系統攻擊一個它不應該攻擊的系統,或者帶來意想不到(dào)的損失。例如,攻擊者的軟件最初隻是為了偷錢,而最後(hòu)卻決定以一種(zhǒng)會(huì)造成(chéng)人員傷亡的方式來攻擊醫院的計算機。無人駕駛飛行器自主飛行的可能(néng)性也引發(fā)了類似的問題,人類需要對(duì)目标做出正确的判斷。
其後(hòu)果和影響意義重大,但當第一次人工智能(néng)攻擊來襲時(shí),大多數人都(dōu)不會(huì)注意到(dào)這(zhè)個巨變。對(duì)于大多數受影響的人來說(shuō),結果將(jiāng)與人為引發(fā)的攻擊相同。但是,随著(zhe)我們的家裡(lǐ)、工廠、辦公室和道(dào)路上聯網的機器人系統越來越多,人工智能(néng)攻擊的潛在影響隻會(huì)越來越大。(選自:theconversation 翻譯:網易見外智能(néng)編譯機器人 審校:吳曼)