庚子鼠年之初，突如其來的新冠肺炎疫情讓各地紛紛啟動重大突發(fā)公共衛(wèi)生事件一級響應(yīng)，舉國上下竭盡所能加入到疫情防控保衛(wèi)戰(zhàn)之中，城市綜合治理面臨前所未有的挑戰(zhàn)。正如我們在前面三篇文章中的探討，在疫情防控背景之下，健康醫(yī)療數(shù)據(jù)的共享（請見前文：《疫情防控丨同舟共濟(jì)——不同場景下健康醫(yī)療數(shù)據(jù)流轉(zhuǎn)的合規(guī)路徑》）、與疫情相關(guān)的政務(wù)數(shù)據(jù)資源共享與合理公開（請見前文：《疫情防控 | 數(shù)據(jù)資源流轉(zhuǎn)與公開》）以及聯(lián)防聯(lián)控工作中對個人信息的保護(hù)（請見前文：疫情防控 | 解讀網(wǎng)信辦《關(guān)于做好個人信息保護(hù)利用大數(shù)據(jù)支撐聯(lián)防聯(lián)控工作的通知》），都成為了這個特殊時期數(shù)據(jù)合法合規(guī)利用應(yīng)當(dāng)關(guān)注的重點內(nèi)容。而在此之上，從城市整體規(guī)劃的角度出發(fā)，充分發(fā)揮高新技術(shù)的賦能助力效用，加快建設(shè)全面統(tǒng)籌、服務(wù)全局的智慧城市則為未來數(shù)據(jù)的有效綜合治理提供了進(jìn)階方案，響應(yīng)了城市治理的現(xiàn)代化要求，成為了當(dāng)下及未來城市規(guī)劃的題中之義。
如今，在城市治理亟需升級增智的情勢之下，2月10日，上海市發(fā)布《關(guān)于進(jìn)一步加快智慧城市建設(shè)的若干意見》，提出了“到2020年，將上海建設(shè)成為全球新型智慧城市的排頭兵，國際數(shù)字經(jīng)濟(jì)網(wǎng)絡(luò)的重要樞紐”的建設(shè)目標(biāo)，要求統(tǒng)籌完善“城市大腦”架構(gòu)，全面推進(jìn)政務(wù)服務(wù)“一網(wǎng)通辦”，全面賦能數(shù)字經(jīng)濟(jì)蓬勃發(fā)展，切實保障網(wǎng)絡(luò)空間安全，全面增強(qiáng)智慧城市工作合力。[1]
建設(shè)智慧城市不僅是應(yīng)對公共事件的良藥，也是適應(yīng)新時代社會經(jīng)濟(jì)發(fā)展和技術(shù)革新的必然要求。21世紀(jì)以來，新型工業(yè)化國家城市化進(jìn)程加速，據(jù)預(yù)測，到2050年，近68%的世界人口將生活在城市。[2]大量涌入城市的人口將給城市管理者帶來包括資源分配、交通堵塞、環(huán)境衛(wèi)生等方面的巨大挑戰(zhàn)，促使城市順應(yīng)信息化建設(shè)的潮流，借助先進(jìn)信息技術(shù)發(fā)展力量，尋求城市規(guī)劃和城市治理的新方法，提供交互式和包容性的創(chuàng)新城市系統(tǒng)，破解城市發(fā)展困局，保障居民需求，不斷優(yōu)化和提升，最終實現(xiàn)城市的可持續(xù)發(fā)展。[3]當(dāng)下，我國的智慧城市建設(shè)以雄安新區(qū)為代表，其規(guī)劃以集中承接疏散北京非首都功能為出發(fā)點，[4]以人工智能、大數(shù)據(jù)、物聯(lián)網(wǎng)等前沿技術(shù)為依托，旨在實現(xiàn)城市的智慧化管理，拓展地下空間利用率，建設(shè)智能高效宜居新型城市，打造全球領(lǐng)先的數(shù)字城市，為我國城市化的變革提供一個以創(chuàng)新技術(shù)驅(qū)動的未來城市樣本。[5]
1
智慧城市發(fā)展現(xiàn)狀
(一) 智慧城市的概念和內(nèi)涵
“智慧城市”一詞誕生于20世紀(jì)90年代，其定義和內(nèi)涵持續(xù)演變，各界由于出發(fā)點和側(cè)重點不同，目前暫無統(tǒng)一和明確的權(quán)威性定義。[6]但總的來說，智慧城市是充分利用新科技和新思想，讓城市系統(tǒng)、運作和服務(wù)得以改造和升級，更具智慧的城市。[7]具體而言，智慧城市的建設(shè)以數(shù)字化、智能化的城市基礎(chǔ)設(shè)施為基礎(chǔ)，運用物聯(lián)網(wǎng)、云計算、大數(shù)據(jù)、移動互聯(lián)網(wǎng)等新一代信息通信技術(shù)手段，整合城市運行核心系統(tǒng)關(guān)鍵信息，[8]強(qiáng)調(diào)城市信息的全面感知，城市生活的智能決策與處理，實現(xiàn)城市經(jīng)濟(jì)和社會組織的高效化和協(xié)作化，城市社會服務(wù)的普惠化與人性化。[9]
(二) 域外發(fā)展
智慧城市作為未來城市的發(fā)展方向，許多國家都將智慧城市建設(shè)納入國家戰(zhàn)略，成為各國提升全球信息化競爭力的重點關(guān)注內(nèi)容。德勤研究報告顯示，目前全球在建智慧城市數(shù)量超過1000，無論是發(fā)達(dá)國家還是發(fā)展中國家，都積極參與到智慧城市的建設(shè)之中，推動新一輪的城市變革，現(xiàn)已形成了多個智慧城市群。[10]下表請見選取的三個智慧城市建設(shè)先驅(qū)國家的發(fā)展概況及典型案例列舉。
(三) 國內(nèi)現(xiàn)狀
我國國家層面的智慧城市建設(shè)始于2012年，住建部發(fā)布《關(guān)于開展國家智慧城市試點工作的通知》，啟動了中國智慧城市的試點申報和實施管理。2014年，國務(wù)院發(fā)布《國家新型城鎮(zhèn)化規(guī)劃（2014-2020）》，將智慧城市建設(shè)與綠色、人文城市并列作為推進(jìn)新型城市建設(shè)的范式，[19]首次將智慧城市建設(shè)引入國家戰(zhàn)略，并提出到2020年，建設(shè)一批特色鮮明的智慧城市。[20]2016年，國家發(fā)布的“第十三個五年計劃”中，智慧城市被列為新型城鎮(zhèn)化重大工程。此后，國家出臺了一系列關(guān)注智慧城市基礎(chǔ)設(shè)施建設(shè)和細(xì)分場景的指導(dǎo)意見，并由全國信息技術(shù)標(biāo)準(zhǔn)化委員會、全國通信標(biāo)準(zhǔn)化委員會領(lǐng)頭，制定了多項有關(guān)智慧城市建設(shè)的國家標(biāo)準(zhǔn)體系，內(nèi)容涵蓋智慧城市的頂層設(shè)計、總體框架、評價模型及基礎(chǔ)評價指標(biāo)體系等多個方面，為智慧城市建設(shè)提供技術(shù)指引。[21]2019年年末，住建部決定成立智慧城市專業(yè)委員會，旨在進(jìn)一步組織展開智慧城市領(lǐng)域的基礎(chǔ)性研究，加強(qiáng)對地方智慧城市建設(shè)工作的指導(dǎo)。
與國家層面的智慧城市建設(shè)并行，各地智慧城市也積極加入到智慧城市建設(shè)的浪潮之中，結(jié)合各區(qū)域的發(fā)展需求，紛紛提出智慧城市發(fā)展規(guī)劃。截至目前，全國智慧城市試點已基本覆蓋全國各個省、市和自治區(qū)。[22]
2
智慧城市的技術(shù)框架與數(shù)據(jù)
作為“互聯(lián)網(wǎng)與城市建設(shè)結(jié)合的樣本”，智慧城市的搭建遵循了互聯(lián)網(wǎng)大腦架構(gòu)的基本原理，通過城市中樞神經(jīng)系統(tǒng)（即“城市大腦”）[23]作為溝通智慧城市物聯(lián)網(wǎng)系統(tǒng)、基礎(chǔ)設(shè)施建設(shè)和人工智能建設(shè)的紐帶，完成大數(shù)據(jù)在智慧城市技術(shù)框架下的匯聚、流轉(zhuǎn)與應(yīng)用，并由此產(chǎn)生城市智慧。
（一）城市大腦的概念及運作模式
城市大腦是智慧城市建設(shè)運行的核心，其內(nèi)涵是利用人工智能、大數(shù)據(jù)、物聯(lián)網(wǎng)等先進(jìn)技術(shù)，構(gòu)建一個后臺系統(tǒng)，打通不同平臺，作為智慧城市的中樞，對整個城市的數(shù)據(jù)進(jìn)行實時分析，調(diào)配資源，彌補漏洞，最終形成治理城市的超級人工智能。[24]城市大腦作為“城市級的智慧中樞”，[25]以城市全量數(shù)據(jù)源、智慧賦能中臺、運行指揮中心、綜合智能門戶為基本要素，通過建立城市統(tǒng)一數(shù)字化運營支撐和服務(wù)體系，打破信息壁壘，實現(xiàn)城市信息化基礎(chǔ)設(shè)施建設(shè)資源、信息資源和應(yīng)用服務(wù)的統(tǒng)一運營管理，[26]并以類腦的方式進(jìn)行數(shù)據(jù)挖掘，進(jìn)行城市治理決策。
（二）智慧城市技術(shù)框架介紹
智慧城市技術(shù)框架的研究既有助于明確相關(guān)技術(shù)的研究和發(fā)展方向，同時也對智慧城市標(biāo)準(zhǔn)化工作和智慧城市運行中的合規(guī)監(jiān)管提供了重要的借鑒。關(guān)于智慧城市的技術(shù)體系研究眾多，包括但不限于微軟亞洲研究院提出的“城市感知與數(shù)據(jù)捕獲”、“城市數(shù)管理”、“城市數(shù)據(jù)分析”、“服務(wù)提供”的四層反饋結(jié)構(gòu)，[27]科技部863計劃在2012年《智慧城市技術(shù)白皮書》中總結(jié)的“城市感知層”、“數(shù)據(jù)傳輸層”、“數(shù)據(jù)活化層”、“支撐服務(wù)層”、“應(yīng)用服務(wù)層”及“行業(yè)服務(wù)層”和“標(biāo)準(zhǔn)與評估體系”、“安全保障體系”的“六橫兩縱框架”[28]等。而在2013年發(fā)布的《中國智慧城市標(biāo)準(zhǔn)化白皮書》中，智慧城市的技術(shù)體系被界定為“四個層次要素和三個支撐體系”，即物聯(lián)感知層、網(wǎng)絡(luò)通信層、數(shù)據(jù)及服務(wù)支撐層、智慧應(yīng)用層和標(biāo)準(zhǔn)規(guī)范體系、安全保障體系和建設(shè)管理體系。[29]
圖1 《智慧城市標(biāo)準(zhǔn)化白皮書》智慧城市技術(shù)體系框架
其中，數(shù)據(jù)與服務(wù)支撐層可以被進(jìn)一步劃分為數(shù)據(jù)支撐層和服務(wù)支撐層；同時在整個技術(shù)框架中，在物聯(lián)網(wǎng)感知層之外還有更底層的“社會基礎(chǔ)設(shè)施”，即與智慧城市建設(shè)相關(guān)的配套硬件設(shè)施，[30]因此，我們理解智慧城市的技術(shù)框架可以分為六個層次，即：
基礎(chǔ)設(shè)施層：基礎(chǔ)設(shè)施層是指與智慧城市建設(shè)相關(guān)的配套硬件設(shè)施，除了傳統(tǒng)的信息中心機(jī)房、信息亭[31]外，智慧城市中的基礎(chǔ)設(shè)施還包括5G商用網(wǎng)絡(luò)的基礎(chǔ)設(shè)施、云計算數(shù)據(jù)中心等。[32]
信息感知層：信息感知層是指通過物聯(lián)網(wǎng)絡(luò)射頻識別、傳感和智能嵌入等技術(shù)及設(shè)備，捕捉、識別和采集城市系統(tǒng)信息數(shù)據(jù)的技術(shù)環(huán)節(jié)，其所涉及的場景極為豐富，舉例而言，上海市在2018年發(fā)布的《新型城域物聯(lián)專網(wǎng)建設(shè)導(dǎo)則》中，例舉了公共安全、公共管理、公共服務(wù)中共計33類場景的物聯(lián)感知要求。[33]
網(wǎng)絡(luò)通信層：網(wǎng)絡(luò)通信層通過“普適、共享、便捷、高效的網(wǎng)絡(luò)通信基礎(chǔ)設(shè)施，為城市級信息的流動、共享和公用提供基礎(chǔ)”，[34]其中5G商用網(wǎng)絡(luò)的建設(shè)提速為新型智慧城市建設(shè)發(fā)展賦能，“低時延、高帶寬”的5G網(wǎng)絡(luò)為對實時性要求較高的高清直播、無人駕駛、車聯(lián)網(wǎng)和遠(yuǎn)程手術(shù)等智慧應(yīng)用的發(fā)展提供了動力和支持，[35]更增強(qiáng)了智慧城市通過全面實時數(shù)據(jù)進(jìn)行事件預(yù)測和解決、需求分析和相應(yīng)的能力。[36]
數(shù)據(jù)支撐層：數(shù)據(jù)支撐層是指通過數(shù)據(jù)的資源交互共享和融合為智慧城市提供數(shù)據(jù)支撐，包括但不限于多源數(shù)據(jù)的標(biāo)準(zhǔn)化與匯聚融合、數(shù)據(jù)的安全存儲與開放、數(shù)據(jù)融合與處理等，其中SOA（Service Oriented Architecture，面向服務(wù)的體系結(jié)構(gòu)）、云計算和大數(shù)據(jù)等技術(shù)在這一層次中起到了“關(guān)鍵的技術(shù)支撐作用”。[37]
服務(wù)支撐層：服務(wù)支撐層是指將前述層次的“數(shù)據(jù)資源和應(yīng)用系統(tǒng)資源進(jìn)行統(tǒng)一的服務(wù)化封裝、處理及管理”以提供統(tǒng)一的“城市級的公共、共性信息類服務(wù)”，這些服務(wù)可能包括“位置服務(wù)、飾品店寶服務(wù)、社交網(wǎng)絡(luò)服務(wù)、虛擬現(xiàn)實服務(wù)等”。[38]
智慧應(yīng)用層：智慧應(yīng)用層則是將智慧城市的資源與能力與行業(yè)產(chǎn)業(yè)結(jié)合，為政府、企業(yè)、公眾提供實際的智能化應(yīng)用和服務(wù)。隨著硬件設(shè)施的完善、底層數(shù)據(jù)資源的擴(kuò)充和智慧城市技術(shù)的發(fā)展，智慧應(yīng)用層的外延也在不斷拓展，從智慧治理、智慧政務(wù)、智慧交通到智慧醫(yī)療、智慧養(yǎng)老、智慧生態(tài)……，智慧城市不僅僅在社會治理方面發(fā)揮著重要作用，也提升了社會服務(wù)的質(zhì)量和效率；不僅僅涉及城市內(nèi)部的生產(chǎn)生活關(guān)系，也有助于正確認(rèn)知和處理城市與自然之間的關(guān)系。
（三）智慧城市中的數(shù)據(jù)
智慧城市同時還是大數(shù)據(jù)和數(shù)字技術(shù)的產(chǎn)物。中國信息通信研究院（“信通院”）在《新型智慧城市發(fā)展研究報告》中指出，“在數(shù)據(jù)驅(qū)動理念下，城市大數(shù)據(jù)平臺日益成為新型智慧城市的核心組成平臺”。[39]麥肯錫全球研究院在回答“城市的‘智慧’源自何處”時，也指出“機(jī)構(gòu)獲得的數(shù)據(jù)越全面、越實時，它們就越有能力觀測事件發(fā)生的詳情、分析需求模式的變化，從而采用響應(yīng)更及時、成本更低的解決方案”。[40]
智慧城市中的數(shù)據(jù)類型體量龐大，具有“時空多維性、多尺度與多粒度、多元異構(gòu)”等特征。[41]以智慧交通為例，其中所涉及的信息感知終端包括但不限于攝像頭、車載終端、微波監(jiān)測、超聲波監(jiān)測等，所采集的車輛及交通信息包括但不限于車輛屬性、車輛速度、車輛行駛路徑、行駛方向、排隊時間等4，除采集的數(shù)據(jù)體量龐大外，不同的信息感知終端采集的數(shù)據(jù)結(jié)構(gòu)也可能有所差異。此外，智慧城市在進(jìn)行數(shù)據(jù)采集和分析應(yīng)用時，還需要充分考慮數(shù)據(jù)在時間和空間維度的演化（即時空多維特性），和在不同的時間尺度和空間顆粒度時所采集數(shù)據(jù)的差異性和關(guān)聯(lián)性（即多尺度與多粒度）。這些特性都對數(shù)據(jù)的安全存儲及后續(xù)的融合利用帶來了挑戰(zhàn)。
3
智慧城市建設(shè)中的合規(guī)要點初探
人工智能、大數(shù)據(jù)等技術(shù)的飛速發(fā)展和應(yīng)用于智慧城市的實踐有助于構(gòu)建一個更加宜居的城市家園。但另一方面，為智慧城市建立規(guī)范標(biāo)準(zhǔn)體系、安全保障體系和建設(shè)管理體系，平衡公共利益與個體權(quán)利的保護(hù)，與智慧城市的技術(shù)發(fā)展和實踐同等重要，這也是各國智慧城市實踐中正在關(guān)注的內(nèi)容。以人工智能技術(shù)運用及數(shù)據(jù)融合為例，如何在運用技術(shù)過程中識別并防范風(fēng)險、平衡不同主體的利益，是發(fā)展智慧城市的必答題。
（一）人工智能技術(shù)在新型智慧城市建設(shè)中的倫理風(fēng)險與使用邊界
從城市大腦、自動駕駛到人臉識別，人工智能技術(shù)已經(jīng)融入到智慧城市的“數(shù)據(jù)管理、智慧交通、惠民服務(wù)、智慧安防、智能制造等各類領(lǐng)域”。[42]人工智能的運用在為新型智慧城市賦能，引領(lǐng)并開拓智慧城市的新型應(yīng)用場景的同時，也相應(yīng)地在一定程度上為智慧城市下的社會治理和社會服務(wù)嵌入了倫理風(fēng)險。在智慧城市的語境下，平衡人工智能技術(shù)所帶來的生產(chǎn)效率提升和可能的歧視風(fēng)險，需要城市管理者在關(guān)注人工智能技術(shù)自身倫理道德體系的構(gòu)建，評估人工智能在智慧城市中的利用帶來的倫理風(fēng)險的基礎(chǔ)之上，合理界定人工智能技術(shù)在智慧城市中的使用邊界。
>> 智慧城市建設(shè)中的人工智能倫理之算法相關(guān)風(fēng)險點
智慧大腦作為智慧城市系統(tǒng)的關(guān)鍵，其決策將現(xiàn)實影響整個城市的資源調(diào)配。置身智慧大腦操控運作的城市之中，大家需要對人工智能決策的可靠性進(jìn)行嚴(yán)密的論證。鑒于算法倫理在人工智能倫理的基礎(chǔ)地位，[43]問題的癥結(jié)則在于與機(jī)器算法相關(guān)的倫理風(fēng)險，具體包括：算法公正性（算法歧視）、算法透明度及結(jié)果可解釋性等。
首先，算法歧視，通常是指由于算法的設(shè)計者或開發(fā)人員對事物的認(rèn)知存在主觀上的某種偏見，或不經(jīng)意使用了帶有偏差的訓(xùn)練數(shù)據(jù)集等原因，造成模型準(zhǔn)確性的偏差甚至產(chǎn)生歧視性的結(jié)果。[44]具體而言，其原因有三：
一是數(shù)據(jù)中預(yù)先存在的偏見所導(dǎo)致的算法歧視；
二是使用算法本身可能是一種歧視；
三是算法決策中數(shù)據(jù)的抽樣偏差及其所設(shè)置權(quán)重的不同也有可能導(dǎo)致算法歧視。[45]
在現(xiàn)實生活中，算法歧視并不罕見，無論是亞馬遜人工智能招聘系統(tǒng)涉嫌性別歧視[46]、還是美司法部門利用COMPAS系統(tǒng)預(yù)測再犯罪率導(dǎo)致種族歧視的爭議，[47]人工智能算法在決策時可能產(chǎn)生偏見和歧視已經(jīng)在某種程度上成為共識，在公共領(lǐng)域?qū)徤魇褂萌斯ぶ悄芗夹g(shù)的呼聲也時常出現(xiàn)。因此，在智慧城市建設(shè)過程中，城市管理者理應(yīng)對人工智能技術(shù)，特別是算法模型的初始設(shè)計和后續(xù)運用的全流程進(jìn)行全面審慎評估，以確保算法的公正性。
其次，人類對算法的安全感、信賴感、認(rèn)同度可能取決于算法的透明度和結(jié)果的可解釋性。[48]算法的透明度旨在通過向用戶公開算法細(xì)節(jié)，保障用戶對算法的知情權(quán)，而結(jié)果的可解釋性則需要確保算法、輸入數(shù)據(jù)與輸出結(jié)果之間的緊密聯(lián)系。[49]就人工智能技術(shù)的運用而言，人們質(zhì)疑智慧大腦的自主決策，主要是因為系統(tǒng)輸出決策之時，往往并不提供做出具體決策所依據(jù)的材料、理由并證明結(jié)果與輸入數(shù)據(jù)的緊密關(guān)系。[50]因此，在技術(shù)層面，智慧城市的人工智能開發(fā)，應(yīng)當(dāng)以強(qiáng)調(diào)用戶與自動化決策系統(tǒng)的交互為核心，在已評估解釋具體應(yīng)用模式的難易程度的基礎(chǔ)之上，考慮設(shè)置機(jī)制向用戶解釋系統(tǒng)產(chǎn)生的結(jié)果與參考標(biāo)準(zhǔn)，[51]增強(qiáng)人工智能決策的可信度。
>> 智慧城市建設(shè)中的人工智能倫理之?dāng)?shù)據(jù)相關(guān)風(fēng)險點
界定人工智能技術(shù)在智慧城市中的使用邊界另一個動力，可能源于人工智能技術(shù)對海量數(shù)據(jù)的需求所帶來的數(shù)據(jù)質(zhì)量、隱私保護(hù)等多方面的風(fēng)險。
首先，以數(shù)據(jù)安全與隱私保護(hù)為例，人臉識別技術(shù)作為人工智能技術(shù)的典型拓展，人臉識別在現(xiàn)代社會中的運用越來越廣泛，就智慧城市而言，截至2019年，“全國已有40余個城市啟動了‘刷臉政務(wù)’，覆蓋范圍囊括商事登記、交通罰單繳納、公積金查詢、個稅申報、社會保障等”，[52]人臉識別技術(shù)的運用能夠通過對面部識別特征的采集和比對實現(xiàn)更精準(zhǔn)高效的個人身份認(rèn)證，為民眾在辦理政務(wù)服務(wù)過程中的身份認(rèn)證提供更多的選擇。但另一方面，面部識別特征屬于個人敏感信息，具有高度的人身屬性。而隨著在銀行、非金融支付機(jī)構(gòu)等對人臉識別技術(shù)的運用，面部識別特征還與個人財產(chǎn)安全產(chǎn)生了密切的聯(lián)系。在該情況下，如果對人臉數(shù)據(jù)的安全保障措施不能與采集人臉數(shù)據(jù)的實踐范圍相匹配，隱私泄露的風(fēng)險可能大大增加，因此綜合考慮人臉識別技術(shù)在智慧城市中的應(yīng)用邊界，適度在公共領(lǐng)域應(yīng)用人臉識別技術(shù)，可能是平衡社會利益（社會治理及服務(wù)的效率）與個人利益（個人數(shù)據(jù)安全、隱私保護(hù)和財產(chǎn)安全）的手段之一。
其次，數(shù)據(jù)作為人工智能的基礎(chǔ)資源，人工智能模型的精度受限于訓(xùn)練數(shù)據(jù)和影像數(shù)據(jù)的質(zhì)量。[53]與前述算法的公正性緊密相關(guān)，若在算法模型中引入偏見數(shù)據(jù)或虛假數(shù)據(jù)，鑒于人工智能算法的“涌現(xiàn)性”和“自主性”，[54]系統(tǒng)將在學(xué)習(xí)過程中不斷吸收偏見和錯誤知識，最終導(dǎo)致錯誤的預(yù)測結(jié)果。因此，將人工智能技術(shù)運用到智慧城市之中，結(jié)合系統(tǒng)機(jī)器學(xué)習(xí)對數(shù)據(jù)的依賴度，則需要追溯數(shù)據(jù)來源、分析考察數(shù)據(jù)的完整性和關(guān)聯(lián)性，以驗證數(shù)據(jù)的準(zhǔn)確性，保證數(shù)據(jù)質(zhì)量，進(jìn)而避免人工智能系統(tǒng)決策的誤導(dǎo)和誤差性。[55]實踐中，也不妨采用“沙盒”等監(jiān)管方式，利用封閉試點的試驗方法，從實證角度來核查決策的準(zhǔn)確性，從而反向驗證基礎(chǔ)數(shù)據(jù)樣本的完整性和關(guān)聯(lián)性。
隨著人工智能技術(shù)的飛速發(fā)展和廣泛利用，其在智慧城市中的運用所帶來的倫理風(fēng)險可能不止于此。當(dāng)人工智能所帶來的新風(fēng)險被許多人感知到的時候，人們自然希望法律能夠因應(yīng)這種風(fēng)險提供新的保障。[56]因此，對于人工智能技術(shù)開發(fā)者和智慧城市建設(shè)者、管理者而言，積極識別人工智能技術(shù)運用可能產(chǎn)生的倫理風(fēng)險，遵循法律要求，維護(hù)道德底線，并界定使用邊界，是智慧城市建設(shè)中應(yīng)當(dāng)承擔(dān)的社會責(zé)任。
（二）智慧城市中的數(shù)據(jù)融合與開放利用
海量數(shù)據(jù)的融合與開放利用是新型智慧城市的又一鮮明特征。不同于傳統(tǒng)智慧城市中強(qiáng)調(diào)政務(wù)數(shù)據(jù)的共享交換，新型智慧城市模式下數(shù)據(jù)范圍進(jìn)一步擴(kuò)大為城市大數(shù)據(jù)，[57]所涉及的不再僅僅是政務(wù)數(shù)據(jù)，還可能包括企業(yè)數(shù)據(jù)和個人信息。如何在現(xiàn)有法律法規(guī)的規(guī)制下，實現(xiàn)數(shù)據(jù)的匯聚與融合？如何從法律層面明確智慧城市系統(tǒng)中的數(shù)據(jù)安全責(zé)任？如何界定智慧城市中數(shù)據(jù)的開放共享范圍等等，都是智慧城市發(fā)展亟需回答的問題。
>> 在尊重數(shù)據(jù)資產(chǎn)價值、保障個人信息的基礎(chǔ)上開展數(shù)據(jù)匯聚融合，打破數(shù)據(jù)孤島
新型智慧城市模式中的數(shù)據(jù)不僅僅包括傳統(tǒng)政務(wù)數(shù)據(jù)，還可能包括大量的企業(yè)數(shù)據(jù)和個人信息。
而無論是前者還是后者，都可能面臨著數(shù)據(jù)控制者不愿、不敢、不能對外共享數(shù)據(jù)，進(jìn)而形成數(shù)據(jù)孤島，阻礙數(shù)據(jù)匯聚融合的情形。其一，對企業(yè)而言，隨著數(shù)字經(jīng)濟(jì)時代數(shù)據(jù)作為資產(chǎn)的價值得到日益廣泛的認(rèn)可，并成為企業(yè)核心競爭力的一部分，對某些數(shù)據(jù)的獨占可能會鞏固和強(qiáng)化企業(yè)的競爭優(yōu)勢，企業(yè)對外共享數(shù)據(jù)的動力也因此受到抑制。其二，目前國內(nèi)的法律法規(guī)對于政務(wù)數(shù)據(jù)的公開共享、不同行業(yè)數(shù)據(jù)的公開共享和個人信息的公開共享都有所規(guī)定和限制，如國務(wù)院在《政務(wù)信息資源共享管理暫行辦法》中規(guī)定“不宜提供給其他政務(wù)部門共享使用的政務(wù)信息資源屬于不予共享類”；[58]《中華人民共和國人類遺傳資源管理條例》中要求組織、個人在采集、保藏、利用、對外提供我國人類遺傳資源（利用含有人體基因組、基因等遺傳物質(zhì)的器官、組織、細(xì)胞等遺傳材料產(chǎn)生的數(shù)據(jù)等信息資料）時，不得危害我國公眾健康、國家安全和社會公共利益；[59]而中國人民銀行在新近制定的《個人金融信息（數(shù)據(jù)）保護(hù)試行辦法（草案）》中，對金融機(jī)構(gòu)對外共享個人金融信息進(jìn)行了嚴(yán)格的限制，這些規(guī)定和限制可能導(dǎo)致政府部門、企業(yè)等因為存在法律風(fēng)險而不敢對外共享數(shù)據(jù)。其三，數(shù)據(jù)在采集標(biāo)準(zhǔn)、統(tǒng)計口徑和傳輸接口方面可能存在的較大差異，也使得數(shù)據(jù)擁有者不能對外共享數(shù)據(jù)。
面對數(shù)據(jù)孤島，智慧城市的發(fā)展需要遵守現(xiàn)行法律法規(guī)對數(shù)據(jù)融合的禁止性、限制規(guī)定，在合法合規(guī)的基礎(chǔ)上完成數(shù)據(jù)匯聚融合，同時也應(yīng)當(dāng)通過智慧城市運作模式優(yōu)化，為不同主體和不同來源的數(shù)據(jù)參與數(shù)據(jù)匯聚融合提供激勵；通過法律法規(guī)確定智慧城市中數(shù)據(jù)融合的范圍，并適度協(xié)調(diào)智慧城市建設(shè)中數(shù)據(jù)融合需求與其他數(shù)據(jù)保護(hù)規(guī)則之間的張力；通過統(tǒng)一的數(shù)據(jù)采集、傳輸標(biāo)準(zhǔn)確保數(shù)據(jù)融合的技術(shù)可行性。
>> 明確數(shù)據(jù)安全責(zé)任、建立數(shù)據(jù)安全事件應(yīng)急聯(lián)動機(jī)制是保障智慧城市數(shù)據(jù)安全的重要途徑
新型智慧城市模型中海量數(shù)據(jù)的融合還會對系統(tǒng)的數(shù)據(jù)存儲處理和安全保障能力產(chǎn)生考驗。智慧城市下的海量數(shù)據(jù)及其背后的數(shù)據(jù)價值可能引發(fā)針對性的數(shù)據(jù)攻擊，造成個人信息、重要數(shù)據(jù)的泄露和智慧城市運營系統(tǒng)的崩潰。具體而言，從數(shù)據(jù)屬性角度來看，智慧城市中可能包含大量的政務(wù)數(shù)據(jù)、企業(yè)數(shù)據(jù)和個人信息，其中不乏涉及國家安全、商業(yè)秘密和個人隱私，因而數(shù)據(jù)安全是智慧城市建設(shè)中的重中之重。同時，從網(wǎng)絡(luò)系統(tǒng)安全角度來看，智慧城市的大數(shù)據(jù)平臺可能與多個網(wǎng)絡(luò)安全保護(hù)等級較高的系統(tǒng)，如金融行業(yè)、醫(yī)療行業(yè)系統(tǒng)等進(jìn)行對接，因此從網(wǎng)絡(luò)安全等級保護(hù)的相關(guān)要求出發(fā)，同樣需要對智慧城市的系統(tǒng)安全性加以重視。
就數(shù)據(jù)安全和系統(tǒng)安全而言，考慮到智慧城市技術(shù)框架下涉及數(shù)據(jù)的產(chǎn)生、收集、存儲與處理、融合、應(yīng)用和對外提供等多個環(huán)節(jié)，包括數(shù)據(jù)原始所有者、數(shù)據(jù)傳輸系統(tǒng)運營者、數(shù)據(jù)能力提供者、數(shù)據(jù)服務(wù)使用者等多個主體，智慧城市的運行有必要在建立數(shù)據(jù)存儲和安全保障技術(shù)標(biāo)準(zhǔn)的同時，明確數(shù)據(jù)流轉(zhuǎn)的不同環(huán)節(jié)中相關(guān)主體的數(shù)據(jù)安全責(zé)任，鼓勵各主體積極采取適當(dāng)?shù)臄?shù)據(jù)安全措施，建立合適的數(shù)據(jù)安全管理制度，并在發(fā)生數(shù)據(jù)安全事件，對社會、企業(yè)或個人造成損害時承擔(dān)相應(yīng)的責(zé)任；同時還可以考慮制定適用于智慧城市框架的數(shù)據(jù)安全事件應(yīng)急聯(lián)動機(jī)制，以便在發(fā)生數(shù)據(jù)安全事件時及時發(fā)現(xiàn)并采取響應(yīng)措施，降低數(shù)據(jù)安全事件的損害后果，保障數(shù)據(jù)安全。
>> 分級分類界定智慧城市中數(shù)據(jù)的開放利用范圍，在保障信息安全和數(shù)據(jù)主體利益的同時實現(xiàn)數(shù)據(jù)價值的最大化
數(shù)據(jù)的開放與共享是智慧城市發(fā)揮作用、展現(xiàn)能力的重要前提。智慧城市頂層設(shè)計下的數(shù)據(jù)支撐層、服務(wù)支撐層和智慧應(yīng)用層均不同程度涉及數(shù)據(jù)的開放和共享。以上海為例，2019年11月，上海市公共數(shù)據(jù)平臺正式開通運行，開放的2100項公共數(shù)據(jù)“基本覆蓋各市級部門的主要業(yè)務(wù)領(lǐng)域”并重點聚焦“金融、醫(yī)療、旅游、交通、能源、城市管理和開放數(shù)據(jù)等7個領(lǐng)域”。[60]但無論是政務(wù)數(shù)據(jù)、企業(yè)數(shù)據(jù)還是個人信息，從信息自身價值、信息開放的制度成本和基礎(chǔ)設(shè)施成本、信息開放產(chǎn)生的社會價值、不當(dāng)或非法利用信息可能造成的后果等角度來考量，智慧城市中的數(shù)據(jù)不能也不應(yīng)無限制地向社會公眾開放。
在這種情況下，數(shù)據(jù)的分級分類開放將成為數(shù)據(jù)共享與利用的必然選擇，即依據(jù)相關(guān)法律法規(guī)的要求，參考數(shù)據(jù)開放對象的安全保護(hù)能力、獲取數(shù)據(jù)的主體對開放數(shù)據(jù)的使用目的和方式等情況對數(shù)據(jù)進(jìn)行分級分類開放。例如，電子病歷、醫(yī)療影像圖片等數(shù)據(jù)的開放將有助于智慧醫(yī)療下AI診療算法的訓(xùn)練與優(yōu)化；但另一方面電子病歷、醫(yī)療影像圖片等數(shù)據(jù)的開放又會受到行業(yè)監(jiān)管及個人信息保護(hù)等方面法律法規(guī)的制約，在這種情形下，數(shù)據(jù)的開放一方面需要保障承接主體具有適當(dāng)?shù)臄?shù)據(jù)安全保護(hù)能力，針對特定群體開放；另一方面，鑒于AI診療算法的優(yōu)化這一用途并不以識別電子病歷、醫(yī)療影像圖片中的個人信息為前提，政府或有關(guān)機(jī)構(gòu)在開放該部分?jǐn)?shù)據(jù)時，可以考慮在技術(shù)可行的范圍內(nèi)對數(shù)據(jù)進(jìn)行脫敏、去標(biāo)識化等處理，以盡可能降低數(shù)據(jù)開放利用的風(fēng)險，同時最大限度促進(jìn)對數(shù)據(jù)的利用。
4
小結(jié)
智慧城市是現(xiàn)代化治理的重要體現(xiàn)，也是社會經(jīng)濟(jì)和技術(shù)發(fā)展到一定高度后的必然選擇。但如何在提高治理能力，維護(hù)公共利益的同時，平衡社會與個體的權(quán)利關(guān)系，是從技術(shù)、法律、道德倫理多個角度的重大考驗。結(jié)合上文的初步分析，我們建議智慧城市的建設(shè)過程中應(yīng)當(dāng)注重以下方面：
注重人工智能道德倫理的論證，成立人工智能道德倫理委員會，建立人工智能道德倫理風(fēng)險評估機(jī)制。
對于核心算法的透明性、公正性和準(zhǔn)確性等建立事前、事中和事后的監(jiān)管機(jī)制，建議通過“沙盒”等方式驗證算法的公正性等。
確認(rèn)人工智能技術(shù)在不同場景下，尤其是公共領(lǐng)域的使用邊界，加強(qiáng)算法透明性。
論證數(shù)據(jù)融合的合理性和合法性，針對不同行業(yè)、不同主體數(shù)據(jù)的數(shù)據(jù)融合建立合規(guī)制度和標(biāo)準(zhǔn)。在不違反現(xiàn)行法律法規(guī)的前提下，有限度的實施數(shù)據(jù)融合。
加強(qiáng)數(shù)據(jù)基于安全、價值等不同維度的分級分類，平衡數(shù)據(jù)融合后關(guān)于網(wǎng)絡(luò)及數(shù)據(jù)安全的責(zé)任以及數(shù)據(jù)開放共享的價值分配，建立合法合規(guī)的責(zé)任體系和數(shù)據(jù)共享使用標(biāo)準(zhǔn)。
當(dāng)然，給智慧城市的答卷遠(yuǎn)不止于此，我們也會在今后的文章里和大家一起分析和探討我們新的思考。隨著人們不斷加深的對智慧城市的認(rèn)識和對智慧城市邊界的探索，智慧城市所面臨的更多具體的風(fēng)險也可能會相應(yīng)地顯現(xiàn)。如何正確處理這些問題，可能需要技術(shù)、法律、道德倫理等多個方面協(xié)作分析。從六千年前烏魯克城誕生、到近代工業(yè)化城市的興起，城市與人類之間的關(guān)系始終在社會文明進(jìn)程中占據(jù)一席之地，城市模式的發(fā)展與創(chuàng)新，體現(xiàn)了人類對更美好生活的追求，而對城市模式中技術(shù)及倫理風(fēng)險的認(rèn)知和探討也最終將幫助人們尋得更宜居的家園并推動社會文明的進(jìn)步。我們堅信智慧城市的發(fā)展，最終將再次印證這一事實，并期待包括法律在內(nèi)的人文科學(xué)在技術(shù)和社會變革中發(fā)揮應(yīng)有的作用。
[1] 上海市關(guān)于進(jìn)一步加快智慧城市建設(shè)的若干意見.
[2] United Nations, Department of Economics and Social Affairs, 2018 Revision of World Urbanization Prospects, see at https://www.un.org/development/desa/publications/2018-revision-of-world-urbanization-prospects.html
[3] 許晶華. 我國智慧城市建設(shè)的現(xiàn)狀和類型比較研究[J]. 城市觀察: 2012(4). 2012.
[4] 國務(wù)院關(guān)于河北雄安新區(qū)總體規(guī)劃（2018—2035年）的批復(fù).
[5] 詳見 雄安新區(qū)建設(shè)規(guī)劃 代表了智慧城市最新思維[EB/OL]. http://www.xinhuanet.com//fortune/2018-04/23/c_129856636.htm. 2018-04-23.
[6] 億歐智庫. 道阻且長，行則將至：2019年中國智慧城市發(fā)展研究報告[R]. 2019.
[7] IBM Institute for Business Value, Smarter Cities for smart growth, 2010.
[8] 許晶華. 我國智慧城市建設(shè)的現(xiàn)狀和類型比較研究[J]. 城市觀察: 2012(4). 2012.
[9] 中國電子技術(shù)標(biāo)準(zhǔn)化研究院. 中國智慧城市標(biāo)準(zhǔn)化白皮書[R]. 2013.
[10] 德勤. 超級智能城市2.0：人工智能引領(lǐng)新風(fēng)向-全球城市在進(jìn)階[R]. 2019.
[11] 海外如何推進(jìn)智慧城市政策[EB/OL]. https://bbs.pinggu.org/thread-5916513-1-1.html. 2017-08-12.
[12] 美NITRD發(fā)布“智慧城市與社區(qū)聯(lián)邦戰(zhàn)略計劃”[J]. 網(wǎng)絡(luò)安全和信息化動態(tài): 2017(3). 2017.
[13] American AI Initiative, see at https://www.whitehouse.gov/ai/executive-order-ai/
[14] Robert Moss, Building a Smart City? Start with Street Data, see at https://www.insight.tech/cities/building-a-smart-city-start-with-street-data
[15] “日本智慧城市建設(shè)案例與經(jīng)驗”[EB/OL]. https://mp.weixin.qq.com/s/D7HzzAqrs5VQVKMucWznDg. 2017-07-15.
[16] Susan Hong. 打造市民參與的智慧城市[EB/OL]. EE Taiwan. https://www.eettaiwan.com/news/article/20191118NT01-building-citizen-centric-smart-cities. 2019-11-18.
[17] 黨倩娜. 新加坡智慧城市主要戰(zhàn)略計劃及具體舉措[EB/OL]. 第一情報- ISTIS視點. http://www.istis.sh.cn/list/list.aspx?id=12363. 2019-12-02.
[18] 探討新加坡如何構(gòu)建智慧城市范本[EB/OL]. https://tech.hqew.com/fangan_1875990.2017-05-23.
[19] 徐振強(qiáng), 劉禹圻. 基于“城市大腦”思維的智慧城市發(fā)展研究[J]. 區(qū)域經(jīng)濟(jì)評論, 2017(1).
[20] IBM Institute for Business Value, “Smarter Cities for smart growth”, 2010.
[21] 國務(wù)院關(guān)于河北雄安新區(qū)總體規(guī)劃（2018—2035年）的批復(fù).
[22] 國務(wù)院關(guān)于河北雄安新區(qū)總體規(guī)劃（2018—2035年）的批復(fù).
[23] 智慧城市的互聯(lián)網(wǎng)大腦架構(gòu)圖，大社交網(wǎng)絡(luò)與智慧城市結(jié)合是關(guān)鍵[EB/OL]. https://mp.weixin.qq.com/s/3IZ3JfYaNQpJZOyOKXe7HA. 2016-11-03.
[24]張建芹, 陳興淋. 我國“城市大腦”建設(shè)的實證研究——以蘇州為例[J]. 現(xiàn)代管理科學(xué), No.303(6):120-122.
[25] “智慧城市建設(shè)之智慧大腦”，https://mp.weixin.qq.com/s/u2xk9cAl1uzBWVDARpE7cw
[26] 陳睿. 城市大腦:合肥市智慧城市建設(shè)初探[J]. 軟件和集成電路, 2019(10):30-32.
[27] 鄭宇. 城市計算與大數(shù)據(jù)[J]. 中國計算機(jī)學(xué)會通訊. 2013, 9(8): 8-18. 轉(zhuǎn)引自：王靜遠(yuǎn),李超,熊璋,單志廣. 以數(shù)據(jù)為中心的智慧城市研究綜述[J]. 計算機(jī)研究與發(fā)展,2014,51(02):239-259.
[28] 863計劃“智慧城市（一期）”項目組. 智慧城市技術(shù)白皮書[R]. 2012.
[29] 中國電子技術(shù)標(biāo)準(zhǔn)化研究院, 全國信息技術(shù)標(biāo)準(zhǔn)化技術(shù)委員會SOA分技術(shù)委員會. 中國智慧城市標(biāo)準(zhǔn)化白皮書[R]. 2013.
[30] 臧維明,李月芳,魏光明. 新型智慧城市標(biāo)準(zhǔn)體系框架及評估指標(biāo)初探[J]. 中國電子科學(xué)研究院學(xué)報,2018,13(01):1-7.
[31] 臧維明,李月芳,魏光明. 新型智慧城市標(biāo)準(zhǔn)體系框架及評估指標(biāo)初探[J]. 中國電子科學(xué)研究院學(xué)報,2018,13(01):1-7.
[32] 參見中國信息通信研究院. 新型智慧城市發(fā)展研究報告[R]. 2019.
[33] 上海市經(jīng)濟(jì)和信息化委員會.新型城域物聯(lián)專網(wǎng)建設(shè)導(dǎo)則[S].2018.
[34] 中國電子技術(shù)標(biāo)準(zhǔn)化研究院, 全國信息技術(shù)標(biāo)準(zhǔn)化技術(shù)委員會SOA分技術(shù)委員會. 中國智慧城市標(biāo)準(zhǔn)化白皮書[R]. 2013.
[35] 中國信息通信研究院. 新型智慧城市發(fā)展研究報告[R]. 2019.
[36] 參見麥肯錫全球研究院. 智慧城市：數(shù)字技術(shù)打造宜居家園[R]. 2018.
[37] 中國電子技術(shù)標(biāo)準(zhǔn)化研究院, 全國信息技術(shù)標(biāo)準(zhǔn)化技術(shù)委員會SOA分技術(shù)委員會. 中國智慧城市標(biāo)準(zhǔn)化白皮書[R]. 2013.
[38] 中國電子技術(shù)標(biāo)準(zhǔn)化研究院, 全國信息技術(shù)標(biāo)準(zhǔn)化技術(shù)委員會SOA分技術(shù)委員會. 中國智慧城市標(biāo)準(zhǔn)化白皮書[R]. 2013.
[39] 中國信息通信研究院. 新型智慧城市發(fā)展研究報告[R]. 2019.
[40] 參見麥肯錫全球研究院. 智慧城市：數(shù)字技術(shù)打造宜居家園[R]. 2018.
[41] 王靜遠(yuǎn),李超,熊璋,單志廣. 以數(shù)據(jù)為中心的智慧城市研究綜述[J]. 計算機(jī)研究與發(fā)展,2014,51(02):239-259.
[42] 中國信息通信研究院. 新型智慧城市發(fā)展研究報告[R]. 2019.
[43] 孫保學(xué). 人工智能算法倫理及其風(fēng)險[EB/OL]. https://mp.weixin.qq.com/s?src=11×tamp=1579588170&ver=2109&signature=0v59Q8kFXMuLiH9VDlP057j00NeCJHnSzDOzRQ*Fdk3ppAe5MVEqo0a65SWg1fvEM0iMmlSN-ggNAo9UJ2mVaB0JZh5L8k6mdP-zvjazoplQR0vFbUVzZoIHt*iuOKMK&new=1. 2019-12-20
[44] 全國信息安全標(biāo)準(zhǔn)化技術(shù)委員會 大數(shù)據(jù)安全標(biāo)準(zhǔn)特別工作組 人工智能安全標(biāo)準(zhǔn)化白皮書（2019版）[R]. 2019.
[45] 劉培, 池忠軍. 算法歧視的倫理反思[J]. 自然辯證法通訊, 2019(10).
[46] AI時刻. 亞馬遜AI招聘工具被爆性別歧視，不喜歡女的?[EB/OL]. http://www.sohu.com/a/259640276_100183993. 2018-10-15.
[47] 張俊賢. 違規(guī)、歧視、安全問題，如何應(yīng)對AI時代的風(fēng)險[EB/OL]. https://www.yicai.com/news/100318593.html. 2019-09-23.
[48] 全國信息安全標(biāo)準(zhǔn)化技術(shù)委員會 大數(shù)據(jù)安全標(biāo)準(zhǔn)特別工作組 人工智能安全標(biāo)準(zhǔn)化白皮書（2019版）[R]. 2019.
[49] EC High-Level Expert Group AI Ethics Guidelines for Trustworthy AI, 2019.
[50] 曹建峰 算法歧視：看不見的不正義[EB/OL] https://zhuanlan.zhihu.com/p/31078631?from=timeline, 2017-11
[51] 中國電子技術(shù)標(biāo)準(zhǔn)化研究院 人工智能標(biāo)準(zhǔn)化白皮書（2018版）[R]. 2018
[52] 中國信息通信研究院. 新型智慧城市發(fā)展研究報告[R]. 2019.
[53] 全國信息安全標(biāo)準(zhǔn)化技術(shù)委員會 大數(shù)據(jù)安全標(biāo)準(zhǔn)特別工作組 人工智能安全標(biāo)準(zhǔn)化白皮書（2019版）[R]. 2019.
[54] 全國信息安全標(biāo)準(zhǔn)化技術(shù)委員會 大數(shù)據(jù)安全標(biāo)準(zhǔn)特別工作組 人工智能安全標(biāo)準(zhǔn)化白皮書（2019版）[R]. 2019.
[55] Personal Data Protection Commission, A proposed Model Artificial Intelligence Governance, 2019.
[56] 鄭戈. 人工智能與法律的未來 探索與爭鳴[J].2017
[57] 中國信息通信研究院. 新型智慧城市發(fā)展研究報告[R]. 2019.
[58] 《政務(wù)信息資源共享管理暫行辦法》第九條第四款。
[59] 《中華人民共和國人類遺傳資源管理條例》第二條、第八條。
[60] 上海市公共數(shù)據(jù)開放平臺開通[EB/OL]. http://www.gov.cn/xinwen/2019-11/20/content_5453799.htm. 2019-11-20.
