-
眼見不為實(shí) 人人可換臉 人工智能安全難題怎么破?
2021/7/2 10:03:04 來(lái)源:中國(guó)產(chǎn)業(yè)經(jīng)濟(jì)信息網(wǎng) 【字體:大 中 小】【收藏本頁(yè)】【打印】【關(guān)閉】
核心提示:人臉識(shí)別、語(yǔ)音識(shí)別、智能機(jī)器人……數(shù)字經(jīng)濟(jì)時(shí)代,人工智能已經(jīng)走入生產(chǎn)生活中,被視為經(jīng)濟(jì)增長(zhǎng)的新引擎、國(guó)際競(jìng)爭(zhēng)的新陣地和推動(dòng)智慧社會(huì)建設(shè)的有效工具。與此同時(shí),人工智能在應(yīng)用過(guò)人臉識(shí)別、語(yǔ)音識(shí)別、智能機(jī)器人……數(shù)字經(jīng)濟(jì)時(shí)代,人工智能已經(jīng)走入生產(chǎn)生活中,被視為經(jīng)濟(jì)增長(zhǎng)的新引擎、國(guó)際競(jìng)爭(zhēng)的新陣地和推動(dòng)智慧社會(huì)建設(shè)的有效工具。與此同時(shí),人工智能在應(yīng)用過(guò)程中產(chǎn)生的網(wǎng)絡(luò)系統(tǒng)攻擊、隱私泄露、數(shù)據(jù)權(quán)屬等安全問(wèn)題也讓整個(gè)產(chǎn)業(yè)如鯁在喉。人工智能發(fā)展面臨哪些安全問(wèn)題?產(chǎn)業(yè)有何應(yīng)對(duì)之策?請(qǐng)關(guān)注本版報(bào)道。
5角錢一份的人臉信息被低價(jià)打包后在電商平臺(tái)上出售,之后被用于虛假注冊(cè)、網(wǎng)絡(luò)詐騙等違法犯罪活動(dòng),被盜人在毫不知情的情況下“丟了臉”;智能駕駛場(chǎng)景被“數(shù)據(jù)投毒”,自動(dòng)駕駛汽車經(jīng)過(guò)一個(gè)停車標(biāo)志時(shí),經(jīng)過(guò)精心設(shè)計(jì)的噪聲擾動(dòng)讓目標(biāo)檢測(cè)系統(tǒng)無(wú)法準(zhǔn)確識(shí)別標(biāo)志,“眼見不為實(shí)”很可能導(dǎo)致交通意外……
現(xiàn)在,人工智能的數(shù)據(jù)挖掘分析能力不斷提升,收集個(gè)人信息呈現(xiàn)精準(zhǔn)化、全面化、簡(jiǎn)便化、隱秘化趨勢(shì)。人臉、指紋、聲紋、虹膜、心跳、基因等具有很強(qiáng)個(gè)人屬性的信息被收集、分析和利用,如果這些數(shù)據(jù)一旦被泄露或者濫用不僅會(huì)給個(gè)人帶來(lái)?yè)p失,還將對(duì)社會(huì)生產(chǎn)、社會(huì)治安乃至國(guó)家安全造成重大威脅。
發(fā)展可信賴的人工智能
從智能音箱在對(duì)話中“勸主人自殺”,到人工智能簡(jiǎn)歷篩選系統(tǒng)對(duì)女性存在偏見,人工智能的安全問(wèn)題不斷浮出水面。
人工智能系統(tǒng)面臨安全風(fēng)險(xiǎn)。加入微小的干擾,語(yǔ)音識(shí)別系統(tǒng)就可能出現(xiàn)識(shí)別錯(cuò)誤;在生物特征識(shí)別過(guò)程中,構(gòu)造一些對(duì)抗樣本的攻擊,系統(tǒng)會(huì)做出錯(cuò)誤決策;網(wǎng)絡(luò)攻擊者通過(guò)分析人工智能系統(tǒng)的輸出結(jié)果和輸入數(shù)據(jù)之間的關(guān)系,可以逆向還原出原始數(shù)據(jù)……訓(xùn)練數(shù)據(jù)的污染會(huì)導(dǎo)致訓(xùn)練的算法模型決策出現(xiàn)偏差;輸入數(shù)據(jù)的異常會(huì)導(dǎo)致智能系統(tǒng)的運(yùn)行錯(cuò)誤;開源框架的漏洞為網(wǎng)絡(luò)攻擊者竊取系統(tǒng)數(shù)據(jù)提供“便利”。
人工智能應(yīng)用引發(fā)安全質(zhì)疑。數(shù)據(jù)深度偽造可以生成虛假視頻、虛假語(yǔ)音,如果這些內(nèi)容大量生成與擴(kuò)散,對(duì)個(gè)人隱私、社會(huì)安全、國(guó)家安全都將造成威脅;在新冠肺炎疫情防控過(guò)程中,人臉等生物信息也面臨被過(guò)度采集的安全風(fēng)險(xiǎn);隨著人工智能輔助決策應(yīng)用場(chǎng)景的增多,一些隱藏的社會(huì)偏見將破壞社會(huì)公平公正;手機(jī)軟件利用人工智能算法“殺熟”,根據(jù)手機(jī)類型的不同推薦不同類型的商品,打車時(shí)推薦不同價(jià)格、檔次的車輛……數(shù)據(jù)的過(guò)度采集、深度偽造、偏見歧視、智能竊取、資源濫用是人工智能面向產(chǎn)業(yè)化落地時(shí)遇到的安全挑戰(zhàn)。
專家表示,從人工智能到可信賴的人工智能,意味著產(chǎn)業(yè)需要在技術(shù)層面上解決魯棒性(穩(wěn)定性)、可解釋性和可復(fù)制性等核心技術(shù)問(wèn)題。同時(shí),為了大規(guī)模產(chǎn)業(yè)化應(yīng)用,還必須考慮到人工智能的公平性和負(fù)責(zé)性,這些是人工智能必須解決的安全問(wèn)題。
談“虎”色變大可不必
“人工智能相當(dāng)于一個(gè)錘子,不能哪一個(gè)釘子都砸。”人工智能的技術(shù)進(jìn)步可以給社會(huì)帶來(lái)正向的效益,不應(yīng)因?yàn)楝F(xiàn)在面臨的安全憂慮而談“虎”色變。
以人工智能最受關(guān)注的數(shù)據(jù)安全領(lǐng)域?yàn)槔c人工智能是互促發(fā)展的關(guān)系。當(dāng)前人工智能尚處于海量數(shù)據(jù)“喂養(yǎng)”階段,數(shù)據(jù)安全是人工智能安全的重要保障,數(shù)據(jù)的質(zhì)量和安全直接影響到人工智能應(yīng)用的安全,如果能夠妥善處理數(shù)據(jù),能夠促進(jìn)高質(zhì)量數(shù)據(jù)的集成,就能夠很有效地驅(qū)動(dòng)人工智能往正向發(fā)展。
同時(shí),人工智能技術(shù)應(yīng)用到數(shù)據(jù)安全治理方面,能夠驅(qū)動(dòng)數(shù)據(jù)安全治理向精準(zhǔn)化、智能化、高效化和自動(dòng)化等方向發(fā)展。人工智能能夠?qū)崿F(xiàn)智能化的分析決策,提升海量數(shù)據(jù)的處理效率,提升數(shù)據(jù)內(nèi)容識(shí)別的準(zhǔn)確率。這些優(yōu)點(diǎn)能幫助安全治理自動(dòng)化、智能化、高效化和精準(zhǔn)化。
在發(fā)展中解決安全問(wèn)題
人工智能發(fā)展中的安全問(wèn)題在全球備受重視,各國(guó)都在戰(zhàn)略規(guī)劃、倫理規(guī)范、技術(shù)發(fā)展等方面采取了多種舉措。我國(guó)高度重視人工智能安全的建設(shè),推進(jìn)人工智能的安全應(yīng)用和數(shù)據(jù)安全風(fēng)險(xiǎn)防范。
對(duì)于安全問(wèn)題,中國(guó)信通院安全所信息安全研究部主任魏薇認(rèn)為,因噎廢食不可取,要在人工智能發(fā)展中解決數(shù)據(jù)安全的問(wèn)題。
倫理約束,法規(guī)引導(dǎo)。魏薇建議,構(gòu)建我國(guó)人工智能優(yōu)質(zhì)的數(shù)據(jù)資源,在發(fā)展中規(guī)避數(shù)據(jù)偏見、數(shù)據(jù)權(quán)屬等問(wèn)題,同時(shí),以數(shù)據(jù)安全促進(jìn)人工智能發(fā)展。引導(dǎo)社會(huì)遵循人工智能的倫理規(guī)范,同時(shí)要積極參與到國(guó)際規(guī)則的制定中。建立人工智能數(shù)據(jù)安全相關(guān)的法律法規(guī),特別是其中備受關(guān)注的算法、人臉識(shí)別、深偽等方面亟須相關(guān)的規(guī)章引導(dǎo)。加強(qiáng)對(duì)人工智能數(shù)據(jù)安全的監(jiān)管,包括線上線下多種方式的監(jiān)督檢查,對(duì)人工智能相關(guān)的產(chǎn)品應(yīng)用和服務(wù)進(jìn)行監(jiān)測(cè)評(píng)估。
技術(shù)應(yīng)對(duì),安全防御。健全標(biāo)準(zhǔn)體系,通過(guò)設(shè)置專門的人工智能安全研究組,開展一些急需標(biāo)準(zhǔn)的研制。創(chuàng)新人工智能安全技術(shù)手段,包括加強(qiáng)基礎(chǔ)理論的研究、建設(shè)完善我國(guó)人工智能開源學(xué)習(xí)框架,促進(jìn)人工智能數(shù)據(jù)安全應(yīng)用。培養(yǎng)人工智能安全方面的人才,通過(guò)企業(yè)和科研機(jī)構(gòu)、高校等聯(lián)合進(jìn)行人工智能安全課題的申報(bào)、技術(shù)的研發(fā)與應(yīng)用,共同促進(jìn)人工智能數(shù)據(jù)安全治理。(記者 林婧)
轉(zhuǎn)自:人民郵電報(bào)
-
- 熱點(diǎn)資訊
- 24小時(shí)
- 周排行
- 月排行
- 蜜盒時(shí)光將成智能酒店新標(biāo)配:自動(dòng)售貨機(jī)悄然改寫千億住宿經(jīng)濟(jì)
- “兒童食品”,是營(yíng)養(yǎng)升級(jí)還是營(yíng)銷游戲?
- 科脈云帆驅(qū)動(dòng)數(shù)字革新,賦能零售供應(yīng)鏈高效協(xié)同榮膺金翼獎(jiǎng)
- 從鄉(xiāng)村出發(fā),赴一場(chǎng)開心旅行
- 打破固有印象的“破壁者”——帶你走近愛(ài)瑪樂(lè)淘CA500PRO休閑電三輪
- 禮業(yè)新紀(jì)元:第33屆深圳禮品展締造30萬(wàn)買家的全球商貿(mào)盛宴
- 探野者推出“城野兩棲”運(yùn)動(dòng)鞋:一雙鞋解決城市通勤與輕戶外需求
- 安全性提升推動(dòng)新能源汽車發(fā)展:從政策驅(qū)動(dòng)到技術(shù)深化的跨越 ——全球化挑戰(zhàn)與全生命周期安全生態(tài)構(gòu)建
- 遠(yuǎn)大鋁業(yè)技術(shù)突破:國(guó)內(nèi)首條超大單元幕墻集成線引領(lǐng)行業(yè)變革
- 避險(xiǎn)情緒升溫 黃金中短期將重回強(qiáng)勢(shì)格局