摘 要:數字技術的廣泛應用,帶來了數字安全問題,從安全的態勢來看,數字安全問題越來越復雜,既存在網絡安全、數據安全、輿論操縱等問題,也存在供應鏈風險、系統性風險等物理世界的問題,而各國在數字安全治理上的觀念分歧與政策錯位,還導致了各國數字安全政策的沖突與協調問題。因此,需要將數字安全放在國家安全的整體框架下,建立起統一的應對策略。
關鍵詞:數字安全 安全態勢 網絡空間 數字技術
【中圖分類號】TP309 【文獻標識碼】A
數字技術已全面滲透到社會經濟生活的各個方面,形成了一個新的網絡空間。根據中國互聯網絡信息中心發布的《第52次中國互聯網絡發展狀況統計報告》,截至2023年6月,我國網民規模達10.79億人,互聯網普及率達76.4%。
數字技術的廣泛應用,帶來了大量安全問題。首先是網絡空間及相關的安全問題成為了各界關注的重點。早在2014年,在中央網絡安全和信息化領導小組第一次會議上習近平總書記提出了“沒有網絡安全就沒有國家安全,沒有信息化就沒有現代化”的重要論斷。世界經濟論壇發布的《2023年全球網絡安全展望》顯示,91%的企業和網絡領導者認為,未來兩年可能會發生影響深遠的災難性網絡事件。而對關鍵基礎設施的網絡攻擊在“當前顯現的風險”中排名第五。同時,與網絡相關的數字經濟領域的安全問題越來越重要。數字技術全面滲透到社會生產生活與治理領域,其安全問題對經濟運行將產生重大影響。根據工信部發布的數據,我國已建成跨行業跨領域工業互聯網平臺50家,平均連接工業設備超218萬臺,服務企業數量超過23.4萬家。特色專業型工業互聯網平臺達221個,其中,面向行業平臺有150個,面向區域平臺有27個,面向特色領域平臺有44個。大量的工業企業、設備全面上網,安全問題應得到更多的重視。三是數據安全問題越來越重要。數據已成為一種重要的生產要素,在經濟生活中發揮著越來越大的作用。根據《國家數據資源調查報告(2021)》,2021年我國數據產量達到6.6ZB,占全球數據總產量的10%,位列全球第二。四是數字領域的安全風險全面向物理世界擴散,有可能導致科技研發、供應鏈產業鏈等多方面的風險。
數字技術作為一種通用目的技術(General Purpose Technology)具有廣泛滲透性,使網絡安全問題的范疇持續擴大,從而演化為數字安全,因為隨著各行各業數字化水平持續提升,數據、網絡、智能技術等在生產生活中越來越重要,因此,網絡安全問題向千行百業延伸拓展,成為社會的底座。習近平總書記明確指出:“在信息時代,網絡安全對國家安全牽一發而動全身,同許多其他方面的安全都有著密切關系”。為了進一步明確網絡安全的這種廣泛性,本文將數字安全定義為:與數字技術直接相關的網絡空間安全、數據安全以及由于應用數字技術而帶來的物理世界安全、社會治理安全等復合性綜合性安全。數字安全是一個大的概念,既包括了虛擬世界的數據安全、網絡安全、輿論操縱等問題,也包括物理世界的關鍵基礎設施風險、供應鏈風險、系統性風險。在應對數字安全風險方面,各國的政策理念以及具體措施仍有不少沖突。從總體上看,數字安全越來越重要,給社會、經濟、生活帶來了深刻的影響,也給工業生產、科技研發等帶來了巨大的影響。本文在分析數字安全新態勢的基礎上,對不同國家數字安全政策進行了深入討論,并提出了我國的應對策略。
傳統數字安全:網絡空間安全常態化
數字技術的廣泛應用,形成了一個新的空間——網絡空間,由于其具有虛擬性、技術性、智能化等特征,帶來了大量的網絡安全問題,使網絡空間的安全問題成為一種常態。
網絡運行安全問題影響越來越大
一是基于網絡漏洞、網絡攻擊等網絡運行的安全問題越來越顯著。根據國家互聯網應急中心(CNCERT)發布的《2021年上半年我國互聯網網絡安全監測數據分析報告》,我國網絡普遍存在著惡意程序傳播、漏洞風險、DDoS攻擊、網站安全等方面的安全問題。以網絡漏洞為例,國家信息安全漏洞共享平臺(CNVD)收錄通用型安全漏洞13083個,同比增長18.2%。其中,高危漏洞收錄數量為3719個(占28.4%),同比減少13.1%;“零日”漏洞收錄數量為7107個(占54.3%),同比大幅增長55.1%。2021年上半年,CNVD驗證和處置涉及政府機構、重要信息系統等網絡安全漏洞事件近1.8萬起。捕獲惡意程序樣本數量約2307萬個,日均傳播次數達582萬余次,涉及惡意程序家族約20.8萬個。馬來西亞通信和數字部網站數據顯示,在馬來西亞,2020 年共發生了 6512 起網絡安全事件,而到2021年1—5月,共發生了4615 起網絡安全事件,幾乎增長了一倍。因此,世界經濟論壇發布的《2023年全球風險報告》將網絡犯罪和網絡不安全位列未來兩到十年全球第八大風險。
二是網絡安全問題的影響越來越大。網絡安全嚴重影響了社會經濟發展情況,網絡安全問題正在給全球經濟帶來巨大的損失。從宏觀上看,網絡犯罪雜志(Cybercrime Magazine)測算,2015年全球網絡安全犯罪帶來的成本達到3萬億美元,而且每年以15%的速率增長,到2025年將達到10.5萬億美元,將超過全球自然災害帶來的損失,也大于全球非法毒品貿易之和,相當于全球的能源市場總價值。而且,網絡安全犯罪極難預防,根據世界經濟論壇發布的《2020年全球風險報告》,網絡犯罪在美國被發現和起訴的可能性估計只有0.05%。從微觀上看,企業數字化水平不斷提高,大量的業務以及生產經營活動都依賴于網絡,企業受到網絡安全攻擊后,將帶來極為不利的后果。國際商業機器公司(IBM)發現,超過一半的網絡攻擊是針對中小型企業的,其中60%的企業在遭遇數據泄露或黑客攻擊后六個月內倒閉。美國司法部的數據表明,所有勒索軟件攻擊中有75%是針對小型企業的。根據萬事達卡(MasterCard)的數據,66%的中小企業在過去兩年中至少發生過一次網絡事件。即使對大企業而言,網絡安全事件也將對其市值帶來不利影響。IBM發布的《數據泄露成本報告》發現,在發生一次重大網絡安全事件后,超過70%的企業的市值將損失5%以上;2022年勒索軟件的頻率增加了41%,平均成本為454萬美元。
數據安全問題日益凸顯
數字技術的廣泛應用,使社會生產、生活、治理等過程全部數據化,帶來了數據量的爆炸式增長。有數據表明[1],未來三年生產的數據量將與過去三十年生產的數據量相當,這些數據有40%來源于對機器運行過程數據的收集。這使數據安全問題日益嚴重。
個人數據安全問題受到了嚴重挑戰。由于個人生活已全面數字化、網絡化,個人數據的收集維度快速增長,人工智能疊加大數據,可能導致部分傳統數據匿名化處理失效,匿名數據可能被重新識別。隨著人工智能技術的應用,這些數據可以用于精準地預測、誘導乃至干預個人行為,將對個人生活乃至國家安全帶來不利影響。例如,當前的很多電信詐騙具有利用個人數據進行精準詐騙的特征,這使被騙者非常難以預防。國家互聯網應急中心發布的《2020年中國互聯網網絡安全報告》顯示,我國公民個人信息未脫敏展示與非法售賣情況較為嚴重。監測發現,全年共發生政務公開、招考公示等平臺未脫敏展示公民個人信息事件107起,涉及未脫敏個人信息近10萬條。而美國聯邦調查局(FBI)負責個人數據安全的特工在2018年公開表示,每個美國公民都應該預料到他們的所有數據(個人身份信息)都已被盜,并且在暗網中被售賣。2023年3月25日,美國開放人工智能研究中心(OpenAI)發布公告,證實部分網絡安全Plus服務訂閱用戶的個人隱私和支付信息存在泄露。這導致了81%的用戶擔心ChatGPT帶來的數據安全問題。
商業數據安全問題也越來越嚴重。企業數據云化、開放化、開源化、大連接均增加了數據防護難度;工業互聯網將研發、生產、營銷、管理等相關數據聚合起來,使數據在生產經營過程中的重要性日益增加。而隨著供應鏈的數字化、智慧化,供應鏈帶來的數據安全問題不容忽視。例如,美國連鎖超市塔吉特(Target)和家居公司家得寶(HomeDepot)的數據泄露案件,都是從供應鏈方開始進行數據攻擊的。從企業數據泄露來看,很多企業均收集了大量個人數據、供應鏈數據、經濟分析數據等,這些數據泄露不但帶來了巨額的經濟成本,也帶來國家安全方面的風險。
公共數據安全問題影響越來越大。公共部門是最大的數據擁有者,其數據涉及到大量個人隱私、國家安全等問題,數據安全問題影響非常大。根據英國信息專員辦公室(ICO)報告,衛生和教育部門出現數據泄露的情況最多。英國警方在過去3年間共發生12起數據泄露事件。這些數據泄露事件帶來了非常嚴重的安全隱患。
虛擬空間秩序安全問題復雜化
數字技術帶來了一個全新的空間——虛擬空間。這個空間存在著無國界、容易擴散與滲透、管控難度大等特征,因此,更容易出現秩序失范,從而帶來復雜的安全問題。2013年11月,習近平總書記在向十八屆三中全會作關于《中共中央關于全面深化改革若干重大問題的決定》的說明中指出:“如何加強網絡法制建設和輿論引導,確保網絡信息傳播秩序和國家安全、社會穩定,已經成為擺在我們面前的現實突出問題”。
虛擬空間秩序安全正在成為國家安全的重要組成部分。2022年11月,在羅馬舉行的北約網絡防御承諾會議上,北約秘書長延斯·斯托爾滕貝格表示:“網絡現在是一個與陸地、海洋、空中和太空同等的作戰領域”。歐盟網絡安全局 (ENISA)認為,網絡間諜活動是一種日益嚴重的威脅,它不僅影響各個國家政府,而且影響經濟部門,甚至影響對特定國家重要的戰略參與者。
虛擬空間的數據信息流動容易失序。在網絡空間中,每個參與者都可以成為信息內容的生產者,這導致了虛擬空間中信息泛濫,壟斷了消費者注意力的大型平臺或其他機構,在信息分發方面具有優勢,幾乎可以決定哪些內容能夠在虛擬空間中快速傳播,從而實現信息操縱。OpenAI的研究人員Lilian Weng和OSoMe通過模擬發現,信息分享的次數服從冪律分布,例如,信息被分享3次的可能性比被分享一次的可能性低大約9倍。這意味著在虛擬空間中,信息容易被操縱,內容分發主體可以控制內容的分發,這會影響社會輿論,放大偏見。在社會治理體系中,虛擬空間成為了一柄雙刃劍,一方面可以實現更高效更廣泛的輿論監督,另一方面,這種虛擬空間的內容及其傳播非常容易被滲透,從而對社會公眾進行思想攻擊或錯誤引導,這將給國家安全帶來不利影響。
牛津大學牛津互聯網研究所 (OII) 發現,通過社交媒體平臺操縱輿論已成為對公共生活的嚴重威脅,各種機構利用社交媒體平臺傳播垃圾新聞和虛假信息,破壞人們對媒體、公共機構和科學的信任。而元宇宙的興起,更可以通過劇本化、場景化、沉浸式的方式,進行思想、文化、意識形態等多方面的滲透,使社會經濟政治更容易受到外來力量的干預,帶來了新的安全問題。
數字安全的新趨勢:數字安全向物理世界傳導
數字安全通過供應鏈傳導到整個經濟體系
數字技術已全面滲透生產、交換、分配和消費的每一個環節,對一二三產的生產和經營產生了巨大的影響。數字技術的強滲透性,使數字安全能夠通過供應鏈傳導到整個經濟體系。工業互聯網的廣泛應用,使整個生產經營流程數字化,企業通過數字技術來全面控制企業的研發、設計、生產、管理、營銷、售后服務等全部流程,當受到網絡攻擊時,會對企業的物理生產經營過程產生重大風險。當前,對工業互聯網領域的安全問題仍重視不足,風險評估、安全防護、安全管控等方面的技術和意識仍較薄弱[2]。CNCERT監測發現,我國境內仍有大量暴露在互聯網的工業控制設備和系統,存在高危漏洞的系統涉及煤炭、石油、電力、城市軌道交通等重點行業,覆蓋企業生產管理、企業經營管理、政府監管、工業云平臺等。實體生產領域往往具有連續性,一旦某個環節受到網絡攻擊而產生事故,將對整個生產流程帶來影響,從而使損失進一步擴大。
數字技術推動了供應鏈的數字化與智慧化。供應鏈的數字化使不同的企業主體之間能夠實現數據的互聯互通,這要求供應鏈中的不同企業向其他企業提供接口,推動供應鏈的緊密集成,實現自動訂購和自動發票開具,甚至自動結算支付等功能。這極大地提高了供應鏈的效率。但是,由于供應鏈中各個主體之間的安全防護能力之間有著巨大的差異,這使供應鏈成為了針對生產領域進行攻擊的重點。例如,在Target導致1.1 億條數據記錄丟失的惡性事件中,攻擊者就是通過空調服務供應商 Fazio Mechanical Services的接口,侵入Target的網絡,并最終非法訪問并獲取其數據,導致了數據泄露。
現有的研究表明,供應鏈攻擊正在快速增長。歐盟網絡安全局 (ENISA) 的一項研究表明[3],2021年,利用供應鏈中的第三方實施侵入的網絡事件占比達17%,而2020年這一比例不到1%?!?022年數據泄露成本報告》顯示,2022年,供應鏈攻擊的數量已超過基于惡意軟件攻擊數量的40%,供應鏈攻擊導致的數據泄露數量超過了與惡意軟件相關的危害。根據Argon Security的一項研究,2021年,供應鏈攻擊比2020年增長了300%以上。一項針對全球1000名首席信息官(CIO)的調查表明,82%表示他們的組織容易受到針對供應鏈軟件的網絡攻擊。開源軟件中所存在的開源漏洞正在成為一個攻擊的重點。2021年針對開源軟件的供應鏈攻擊增加了650%。針對供應鏈中第三方所使用的開源軟件攻擊的防護難度更大,根據靈跡軟件服務有限公司(Dynatrace)的研究,61%的調查受訪者表示,使用第三方或開源代碼會使識別和解決應用程序漏洞變得困難,這是因為大部分使用開源軟件的企業缺乏具有高安全度的策略。
因此,網絡攻擊是供應鏈安全風險中的重大挑戰,維護供應鏈各個節點的安全將成為企業供應鏈風險管控的核心目標之一。畢馬威(KPMG)的調查表明,近一半的全球組織將網絡安全視為未來3年供應鏈的重要運營挑戰。
系統性風險:數字安全的新沖擊
數字安全對社會經濟生活越來越重要,其一旦產生風險,將具有系統重要性。蘭德公司的研究人員提出,可以借鑒金融領域的“系統性風險”的概念,將其應用到數字經濟領域(RAND Corporation, 2020),從而研究數字安全問題帶來的系統性風險[4]。數字安全的確已成為系統性風險的重要來源,主要體現在以下幾個方面:
一是級聯風險。這是蘭德公司研究人員的核心觀點。他們認為,全球經濟的許多部門都依賴同一套網絡關鍵技術產品和服務,將風險集中在未知數量的可能故障點上。這種系統性風險并不能通過個人或者單一組織在安全等方面的措施強化而得到緩解,而是經由某一網絡安全事件觸發,通過網絡通路級聯放大,進而產生風險的網絡效應,形成系統性風險事件。觸發器—網絡通路—網絡效應,三個因素獨立或一起,從而產生系統性風險。
二是系統重要性平臺及其風險。隨著數字經濟發展,數字平臺的地位越來越重要,平臺不但匯聚了大量的個人用戶及企業用戶,還積累了海量的數據,提供著大量與經濟社會運行相關的基礎服務。與系統重要性金融機構相似,一些在行業內具備重要地位的數字平臺也對社會經濟發展具有“大而不能倒”的重要作用,此類數字平臺往往提供難以替代的關鍵服務,很難要求用戶停止使用其服務或轉換其他平臺。一旦這類平臺出現安全問題,就會導致系統性風險。世界經濟論壇(WEF)將系統性網絡風險定義為:“關鍵基礎設施生態系統單個組成部分的網絡事件(攻擊或其他不良事件)將導致重大延遲、拒絕、故障、中斷或損失的風險,從而使服務不僅在原始組成部分受到影響,而且后果還級聯到相關的(邏輯和/或地理上)生態系統組成部分,對公共衛生或安全、經濟保障或國家安全造成重大不利影響”。Dean Curran (2020) 進而提出[5],數字經濟如同金融一樣,成為社會聯結的重要中介,在運行過程中有可能威脅到整個經濟的運作。
三是關鍵基礎設施的數字安全具有系統重要性。關鍵基礎設施包括各種網絡基礎設施、電力設施等對社會經濟安全具有重要意義與價值的基礎設施,在數字化的浪潮下,這些基礎設施容易受到數字攻擊。通過遠程網絡方式攻擊基礎設施,已成為數字時代的一個新的網絡安全問題。IBM根據美國網絡安全和基礎設施安全局(CISA)對關鍵基礎設施的定義,發現22%的針對關鍵基礎設施的攻擊是由人為錯誤引起的,12%是由勒索軟件攻擊引起的,17%是由供應鏈攻擊引起的。在現實中,針對電網、鐵路等基礎設施的數字攻擊已時有發生。
應對數字安全新態勢的政策建議
一是要加大數字核心技術的研發力度,推動數字安全產業化發展。技術是數字安全的“命門”。無論是快速應對數字安全的威脅,還是提高對數字安全的預防能力,歸根到底,都需要核心關鍵技術進行支撐。習近平總書記2016年4月19日在網絡安全和信息化工作座談會上的講話明確提出“要以技術對技術,以技術管技術,做到魔高一尺、道高一丈”。因此,在國家層面要進一步支持數字安全技術的研發,包括底層的密碼技術、操作系統安全技術、芯片安全技術,到應用層的網絡運行安全技術、工業軟件安全技術等,并推動人工智能、區塊鏈等技術在數字安全領域的廣泛應用,從而建立起保障數字安全的技術體系。在技術創新的基礎上,鼓勵數字安全產業化發展。我國數字安全產業規模偏小,原始創新不足,高端供給不夠,領軍人才缺乏,是制約我國數字安全的重要因素。要通過稅收、人才、技術、市場準入等多方面的綜合支持政策,推動數字安全產業做大做強。
二是大力推動數據安全制度建設。數據安全既與技術有關,也與制度有關。要建立起數據安全的相關制度。在數據作為生產要素的前提下,進一步完善數據保護的制度架構。要建立起平臺企業、應用程序等相關主體收集個人數據的規則體系,盡快明確數據分級分類保護的具體內容、標準,做好隱私、信息等數據區分和保護。建立工業互聯網、物聯網等非個人數據的收集、使用、共享、交易等方面的規則,明確非個人數據的安全防護標準。進一步明確國家數據局在數據保護方面的職能,與第三方機構協同,分行業、分地區開展企業數據保護評估,倒逼企業強化應對數據風險的組織管理建設和技術實力,鼓勵企業自主探索數據保護路徑,實施多元化監管措施。探索區塊鏈、隱私計算等新技術在數據保護中的應用,可率先將此類技術運用到高度機密、對數據傳輸效率要求相對較低,可承受成本更高的部分政府、企業核心數據保護上。
三是建立起高效有序的數字虛擬空間秩序維護機制和安全機制。虛擬空間的秩序安全問題是一個涉及多維度、多主體、多目標、多手段、多視角,且涉及到國際國內的復雜問題,需要在“安全、發展、權利”等多重目標之間進行平衡。一方面,應該看到虛擬空間的失序,本身會給其帶來安全隱患,而且這種虛擬空間的失序將帶來各種失范行為,如侵犯個人隱私、各種類型的網絡暴力、網絡排斥、網絡謠言、虛擬新聞,乃至于形形色色的網絡犯罪,都將威脅虛擬空間的運行,對國家安全造成損害。另一方面,對虛擬空間失序行為的治理,并非政府單方面的行為,不能采取純粹剛性的方法,而是要采取富有彈性的手段和方式。因此,需要協同政府、網民、平臺、各種虛擬組織等各個主體的治理行為,推動網絡“技治、法治、自治”三者的融合互動,使“工具、法律、自律”三者之間達到統一,從而更好地維護虛擬空間的秩序安全。要推動各個治理主體,包括政府、平臺乃至于社會公眾,積極運用人工智能等前沿數字技術,共同對虛擬空間的秩序安全進行維護。例如,各個主體要積極利用人工智能自然語言技術,對虛擬空間的各種謠言、虛假新聞、極端言論等進行深度治理,從而避免這些內容泛濫,影響虛擬空間的安全,并進一步影響物理空間的安全。其次,建立互聯網平臺、用戶、第三方機構、政府等多方面參與的虛擬空間秩序安全機制。尤其要重視平臺等新主體維護虛擬空間秩序安全方面的作用。平臺在關于虛擬空間的規則制訂、內容框架、實施機制等方面,都要考慮到安全因素。
四是關注供應鏈數字安全,提升中小企業數字安全水平和防護能力。工業互聯網快速發展,數字技術全面滲透到供應鏈產業鏈,帶來了供應鏈產業鏈的數字安全問題。首先要提高對供應鏈數字安全的認識。當前,對網絡運行安全、數據安全、虛擬空間秩序安全等問題已形成共識,且有大量的制度與技術措施已在運行中。但在討論供應鏈安全時,重點關注的是供應鏈的物理安全問題,對供應鏈數字安全問題仍缺乏系統性的認識。因此,無論是政府部門,還是供應鏈的主導企業,都要將供應鏈數字安全問題放到更高的地位。其次,要通過各方協同,推動建立起供應鏈軟件、數據等安全標準體系。供應鏈軟件的接口不一,數據標準不統一,已成為供應鏈數字攻擊的重要入口。因此,從安全的角度出發,建立起接口、數據、軟件等各方面的標準,有利于提高供應鏈數字安全水平。最后,要重視中小企業數字安全水平。經濟合作與發展組織(OECD)2021年的研究指出,中小企業的數字安全能力與大中型企業之間仍存在著巨大的差距,2015年歐洲只有30%的中小企業制定了正式的安全政策,而大型企業中這一比例接近70%,在整個OECD國家,大型和小型企業之間的數據安全能力與政策執行方面的平均差距為45%,最終導致中小企業成為供應鏈安全的薄弱環節。在提高中小企業數字安全水平方面,推動中小企業上云是一個重要的環節,基于云原生的業務體系,將安全架構于云上,比中小企業自身有著更高的安全防護能力。
五是建立起數字安全系統性風險預防機制。數字安全所帶來的系統性風險是一個全新的問題。首先要對數字安全所帶來的系統性風險進行深入研究,明確系統性風險的要素和條件,建立可能觸發系統性風險的網絡安全事件預警機制。其次明確數字經濟風險傳導渠道,識別具有系統重要性的數字實體并建立起相應的監管制度。再次,加強關鍵基礎設施協同防護。尤其是要重視關鍵基礎設施的網絡安全、數據安全,將其與物理安全放到同等重要的地位。最后,要建立起數字安全系統性風險預防的政府部門聯動機制。數字安全引發的系統性風險,不但涉及到數字主管部門,也涉及到其他相關政府主管部門,只有通過這些部門間的協同,才能使系統性風險預防機制更為高效。
六是積極參與數字安全全球協同機制。由于虛擬空間的無界性,以及數字技術的快速傳播性與滲透性等特點,數字安全已成為全球共同的問題。但是,應該看到,在數字安全協同方面,各國并沒有完全達成一致,個別國家在數字安全方面追求絕對安全,并將數字安全問題泛化、武器化,實行“長臂管轄”的防御機制,給數字安全全球協同機制的建設帶來了阻力。我國已向國際社會發起《全球數據安全倡議》,積極申請加入《全面與進步跨太平洋伙伴關系協定》(CPTPP)、《數字經濟伙伴關系協定》(DEPA),通過這些國際合作,積極參與數字安全全球協同機制,從而更好地應對數字安全所面臨的新態勢、新問題。
【本文作者為中國社會科學院財經戰略研究院研究員,中國社會科學院大學教授;本文系中國社會科學院創新工程項目“防止資本無序擴張——基于數字平臺的理論與實證研究”(項目編號:2022CJYB03)階段性成果】
注釋
[1]Pepe Zhang,Data 4.0–Rethinking rules for a data-driven economy,https://www.weforum.org/agenda/2022/01/data-4-0-rethinking-rules-for-a-data-driven-economy/,Jan 31, 2022
[2][3]James Gordon,How to reduce cyber attacks in the global supply chain, https://www.raconteur.net/risk-regulation/how-to-reduce-cyber-attacks-in-the-global-supply-chain/
[4]RAND Corporation,Systemic Risk in the Broad Economy--Interfirm Networks and Shocks in the U.S. Economy,https://www.rand.org/pubs/research_reports/RR4185.html
[5]Dean Curran (2020) Connecting risk: Systemic risk from finance to the digital, Economy and Society, 49:2, 239-264.
責編:程靜靜/美編:石 玉