7月份,特斯拉CEO馬斯克聯(lián)名兩千多位AI專家,簽署了一份承諾書,內(nèi)容是永遠(yuǎn)不開發(fā)AI殺人武器。這么做有兩個理由,一是不該把生殺大權(quán)交給機(jī)器;二是致命AI武器的存在,會讓個人和國家承受危險的動蕩。雖然這么做的意圖是好的,但是牛津大學(xué)的學(xué)者莫瑞奧薩瑞•塔迪歐(Mariarosaria Taddeo)認(rèn)為他們忽視了靜止的AI可能帶來的風(fēng)險。
美軍曾經(jīng)把AI分成兩種:一是移動的AI,也就是依托于實體機(jī)器人的AI,比如無人機(jī)、自動駕駛的軍艦;二是靜止的AI,就是僅僅存在于軟件系統(tǒng)的AI。而對戰(zhàn)爭來說,不僅只有硬碰硬,還包括網(wǎng)絡(luò)世界的暗潮洶涌。塔迪歐覺得,后者才更需重視,“靜止”不代表不危險。比如,如果有人能利用AI造成全國范圍內(nèi)的停電,或者供暖系統(tǒng)癱瘓,就可能導(dǎo)致非常嚴(yán)重的后果。雖然目前還沒有發(fā)現(xiàn)AI直接造成物理傷害的事件,但不代表以后不會有。畢竟AI正在飛速普及。塔迪歐認(rèn)為,社會的運(yùn)轉(zhuǎn)越依賴AI,系統(tǒng)之間的沖突越可能帶來物理傷害。當(dāng)AI與AI之間有了自主打擊、自主防御的行為,就算沒有實體機(jī)器人,局面還是有失控的可能。
如今已經(jīng)有很多國家在建立自己的AI防線了,但國際上仍然沒有法規(guī)能夠規(guī)范網(wǎng)絡(luò)防御 (Cyberdefence)行為。塔迪歐在《自然》雜志寫文章建議,網(wǎng)絡(luò)防御要分三步走:第一步,劃定法律界限;第二步,在友好邦國之間,測試防御策略;第三步,建立監(jiān)管機(jī)制,強(qiáng)化法規(guī)執(zhí)行。
大數(shù)據(jù)處理信息服務(wù)商金盛網(wǎng)聚WJFabric認(rèn)為,當(dāng)我們驚嘆于一款款人工智能產(chǎn)品能夠代替人類進(jìn)行越來越多的工作的時候,我們正在忽略人工智能的底層邏輯,即,這些都是由人工智能系統(tǒng)進(jìn)行操控并實現(xiàn)的。如果說機(jī)器人具有顯性的人工智能特點(diǎn),那么相關(guān)的技術(shù)或者系統(tǒng)則是隱形的驅(qū)動力。而這樣的驅(qū)動力是可以脫離實際載體獨(dú)立發(fā)揮作用的。如上文所述,人工智能技術(shù)如果介入城市治理系統(tǒng),可以通過云端進(jìn)行遠(yuǎn)程操作,正面的結(jié)果既可以提升管理效率,而反面的結(jié)果也可以是擾亂正常的管理程序。因此對于人工智能技術(shù)的管控需要國家級別的通力合作,尤其在科技研發(fā)領(lǐng)域。單邊化的發(fā)展人工智能將不利于規(guī)避負(fù)面結(jié)果發(fā)生的風(fēng)險。
金盛網(wǎng)聚(北京)科技有限公司成立于2012年,是一家數(shù)據(jù)處理與信息咨詢服務(wù)商,公司擁有自主核心技術(shù)與服務(wù)咨詢的團(tuán)隊, 公司“WJFbaric-互聯(lián)網(wǎng)大數(shù)據(jù)信息監(jiān)測SaaS平臺”目前注冊使用客戶將近上萬個,為企業(yè)、政府、學(xué)術(shù)機(jī)構(gòu)、成功人士等提供在線信息收集、展示、閱讀、存儲的免費(fèi)平臺,公司遠(yuǎn)景致力于通過數(shù)據(jù)+計算形成可視化的人工智能決策平臺。