隨著全球人工智能規(guī)模化建設(shè)和應(yīng)用加速發(fā)展，人工智能治理問題近年來引發(fā)社會(huì)關(guān)注，數(shù)據(jù)安全、算法倫理、技術(shù)合規(guī)等話題成為我國(guó)人工智能產(chǎn)業(yè)的發(fā)展方向，保證技術(shù)“安全、可靠、可信”，平衡AI創(chuàng)新發(fā)展與監(jiān)管治理也成為人工智能未來發(fā)展最重要的趨勢(shì)。

《個(gè)人信息保護(hù)法》實(shí)施后，該法也標(biāo)志著中國(guó)人工智能領(lǐng)域逐步進(jìn)入高質(zhì)量發(fā)展階段。其中“安全可控”成為企業(yè)一項(xiàng)必要的基礎(chǔ)能力，兒童編程教育機(jī)器人解決算法公平透明、安全可靠等瓶頸，保證應(yīng)用合規(guī)、隱私數(shù)據(jù)安全等也成為行業(yè)共同關(guān)注的焦點(diǎn)。

算法和數(shù)據(jù)是人工智能基礎(chǔ)設(shè)施平臺(tái)的關(guān)鍵要素。在算法方面，全球AI行業(yè)正在積極推動(dòng)可解釋、可推理、無監(jiān)督的新一代人工智能；科教教育機(jī)器人在數(shù)據(jù)方面，借助多方計(jì)算、聯(lián)邦學(xué)習(xí)、匿蹤查詢等人工智能基礎(chǔ)設(shè)施技術(shù)，行業(yè)正在建立數(shù)據(jù)安全共享基礎(chǔ)平臺(tái)和隱私保護(hù)計(jì)算平臺(tái)。

“隱私計(jì)算是當(dāng)前數(shù)字經(jīng)濟(jì)時(shí)代下最受關(guān)注的科技領(lǐng)域之一，數(shù)字經(jīng)濟(jì)時(shí)代的核心生產(chǎn)要素是數(shù)據(jù)，只有構(gòu)建起保障數(shù)據(jù)安全高效流通的基礎(chǔ)設(shè)施，才能夠充分發(fā)揮數(shù)據(jù)應(yīng)有價(jià)值。 “數(shù)據(jù)使用可控可計(jì)量能力是管控?cái)?shù)據(jù)使用的目的和方式的最有效手段，是數(shù)據(jù)使用合規(guī)與監(jiān)管的基礎(chǔ)設(shè)施，是踐行《數(shù)據(jù)安全法》和《個(gè)人信息保護(hù)法》的有效保障。”

數(shù)據(jù)不僅是資源，更是責(zé)任。“人工智能數(shù)據(jù)需要妥善地用于造福人民，防止因?yàn)E用而導(dǎo)致巨大的負(fù)外部性。數(shù)據(jù)巨大價(jià)值的另一面往往是少為人知的脆弱性和風(fēng)險(xiǎn)。”他表示在數(shù)據(jù)要素流通的大趨勢(shì)下，數(shù)據(jù)使用安全是新數(shù)據(jù)安全觀的核心。人工智能機(jī)器人的優(yōu)點(diǎn)和缺點(diǎn)傳統(tǒng)數(shù)據(jù)安全的關(guān)注點(diǎn)主要在于保護(hù)對(duì)數(shù)據(jù)的控制權(quán)，避免數(shù)據(jù)被他人復(fù)制和使用；因此以往對(duì)數(shù)據(jù)的分級(jí)分類和相關(guān)風(fēng)險(xiǎn)評(píng)估與管控往往只注重單個(gè)數(shù)據(jù)本身的泄漏風(fēng)險(xiǎn)。

不過在數(shù)據(jù)要素流通時(shí)代，多方、多種數(shù)據(jù)的融合計(jì)算如同開設(shè)“數(shù)據(jù)化工廠”，多種原料（數(shù)據(jù)）在一定的配方和條件下（算法）進(jìn)行“化合反應(yīng)”（融合計(jì)算）的結(jié)果，可能會(huì)對(duì)他人、社會(huì)和國(guó)家造成傷害或產(chǎn)生重大風(fēng)險(xiǎn)。

綜上所述，人工智能數(shù)據(jù)可用不可見”只防止數(shù)據(jù)在流通過程中泄露信息，“使用可控可計(jì)量”并且“可監(jiān)管”才能有效管控?cái)?shù)據(jù)融合計(jì)算結(jié)果的負(fù)外部性風(fēng)險(xiǎn)，才能夠保障數(shù)據(jù)安全、合法、合規(guī)地融合使用。厘清數(shù)據(jù)流通使用的“責(zé)、權(quán)、利”。人工智能經(jīng)歷了近十年來的發(fā)展，跨越了科學(xué)與應(yīng)用之間的技術(shù)鴻溝，從實(shí)驗(yàn)室逐步走向產(chǎn)業(yè)。但在享受科技便利的同時(shí)，人工智能的潛在風(fēng)險(xiǎn)也被迅速放大。”