人工智能時代，個人的很多信息正被某些應用所采集，如指紋信息、臉部信息、位置信息等，正被手機、銀行、交通等很多應用收集。這些信息如果無法有效保護和保存，一旦泄露，后果不堪設想。

2020年上海兩會期間，上海市政協(xié)常委、華東理工大學機械與動力工程學院教授安琦就此提交了提案，建議應早作準備，防患于未然，盡快采取措施，防止個人信息的隨意采集，防止個人信息泄露，更應防止因為人工智能的不當使用而使個人失去尊嚴。

安琦指出，世界正進入人工智能時代，主要應用領域包括機器視覺、指紋識別、人臉識別、視網(wǎng)膜識別、掌紋識別、專家系統(tǒng)、自動規(guī)劃。

安琦認為，上海很重視人工智能的研究與應用，在計算機視覺、語音語義識別、腦智工程等領域頗具影響力。上海將人工智能作為重點發(fā)展方向，這個決策是十分正確的，但在人工智能的開發(fā)及應用上應考慮防止個人信息泄露，有效保護個人隱私，保護個人尊嚴。

安琦指出，目前，人工智能在上海，不僅在工業(yè)領域已經(jīng)有了廣泛的應用，而且，在社會管理中也有廣泛應用，這些應用都是在不知不覺中進行的，有些應用看似方便了社會管理，但存在的信息泄露、個人隱私泄露問題令人擔心，如指紋識別技術的應用，指紋是每個人不可更改的終身識別信息。手機幾乎覆蓋了所有的人群，收集采集指紋已很普遍，將會產(chǎn)生一個巨大的指紋數(shù)據(jù)庫，如果沒有采取嚴格的保護措施，一旦泄露，后果難以想象。

再比如，人臉識別技術也已廣泛應用在銀行、機場、海關、交通管理、甚至居民區(qū)管理等領域，采集的人臉信息數(shù)據(jù)如何保管、如何防止泄露，也是值得思考并需盡快采取措施的重要問題。

此外，還有手機定位功能，可將每個人的活動軌跡準確定位和記錄，這些信息一旦泄露或掌握在某些有不良企圖的人手中，將會對個人產(chǎn)生嚴重后果。

在安琦看來，人工智能技術如果用得好，會造福國家與社會，但涉及到個人隱私的大數(shù)據(jù)一旦泄露，每個人都將變成“透明人”，嚴重傷害個人尊嚴，對國家和社會將產(chǎn)生難以估量的危險。

上海已經(jīng)加大了網(wǎng)絡安全檢查的力度，不僅擴大了檢查的覆蓋范圍，檢測內(nèi)容更具針對性和實效性。2019年度，上海市通信管理局針對重點高危漏洞和典型違規(guī)行為，對各類互聯(lián)網(wǎng)平臺的網(wǎng)絡和信息安全威脅加強監(jiān)測處置。檢查期間，上海累計排查了互聯(lián)網(wǎng)站點99179個，以行政通告、集中約談等形式通報處置安全威脅459件，關閉各類違規(guī)互聯(lián)網(wǎng)平臺664個，組織全行業(yè)處置網(wǎng)絡安全事件103897起，對公共互聯(lián)網(wǎng)的安全監(jiān)測范圍和事件協(xié)調處置都較往年有大幅提升。

安琦建議，上海率先及時制定出臺相關規(guī)定，嚴格限制對個人信息采集的單位、行業(yè)和采集方法，建立對個人信息采集的許可制度，規(guī)定好哪些單位和行業(yè)是可以采集個人信息的，哪些單位和行業(yè)是不能采集個人信息的，并嚴格執(zhí)行，一旦發(fā)現(xiàn)違規(guī)采集，將給予嚴厲處罰。

同時，他建議上海盡快采取措施，制定對個人信息保護方法，制定嚴格的防泄露措施和嚴格的使用規(guī)范，明確規(guī)定哪些社會管理領域可以應用個人信息，哪些領域不能使用個人信息，絕不能讓個人信息的應用遍地開花，絕不能為了那些不必要的高效率而放任對個人信息的濫用，防止個人信息的泄露，保護好個人的隱私和尊嚴。