人工智能倫理與安全研究中心成立
為降低人工智能發(fā)展過程中可能存在的技術(shù)風(fēng)險和倫理隱患,近日,北京智源人工智能研究院在北京專門成立人工智能倫理與安全研究中心,著力加強(qiáng)人工智能倫理與安全研究,引導(dǎo)行業(yè)健康發(fā)展,中國科學(xué)院自動化研究所曾毅研究員任研究中心主任。
曾毅介紹,研究中心將圍繞人工智能倫理與安全的理論探索、算法模型、系統(tǒng)平臺、行業(yè)應(yīng)用等開展一系列研究,目前主要包括四大方面:一是低風(fēng)險機(jī)器學(xué)習(xí)模型與平臺的構(gòu)建,建立機(jī)器學(xué)習(xí)模型安全性的評估體系;二是開展符合人類倫理道德的智能自主學(xué)習(xí)模型研究,實(shí)現(xiàn)人工智能行為與人類價值觀的校準(zhǔn),并在模擬環(huán)境與真實(shí)場景中進(jìn)行驗(yàn)證;三是建設(shè)數(shù)據(jù)安全示范應(yīng)用系統(tǒng),建立數(shù)據(jù)基礎(chǔ)設(shè)施、數(shù)據(jù)分級、權(quán)限控制、數(shù)據(jù)審計,最大限度防止數(shù)據(jù)泄密,降低風(fēng)險;四是構(gòu)建人工智能風(fēng)險與安全綜合沙盒平臺,建設(shè)自動檢測平臺,針對數(shù)據(jù)與算法的安全性、公平性、可追溯性、風(fēng)險類型、影響程度與影響范圍等方面,對人工智能產(chǎn)品及應(yīng)用進(jìn)行風(fēng)險與安全綜合檢測與評估,引導(dǎo)行業(yè)健康發(fā)展。

發(fā)表評論
請輸入評論內(nèi)容...
請輸入評論/評論長度6~500個字
最新活動更多
-
即日-9.1立即下載>> 【限時下載】ADI中國三十周年感恩回饋助力企業(yè)升級!
-
即日-9.16點(diǎn)擊進(jìn)入 >> 【限時福利】TE 2025國際物聯(lián)網(wǎng)展·深圳站
-
10月23日立即報名>> Works With 開發(fā)者大會深圳站
-
10月24日立即參評>> 【評選】維科杯·OFweek 2025(第十屆)物聯(lián)網(wǎng)行業(yè)年度評選
-
11月27日立即報名>> 【工程師系列】汽車電子技術(shù)在線大會
-
12月18日立即報名>> 【線下會議】OFweek 2025(第十屆)物聯(lián)網(wǎng)產(chǎn)業(yè)大會
推薦專題
- 1 阿里首位程序員,“掃地僧”多隆已離職
- 2 先進(jìn)算力新選擇 | 2025華為算力場景發(fā)布會暨北京xPN伙伴大會成功舉辦
- 3 宇樹機(jī)器人撞人事件的深度剖析:六維力傳感器如何成為人機(jī)安全的關(guān)鍵屏障
- 4 清華跑出具身智能獨(dú)角獸:給機(jī)器人安上眼睛和大腦,融資近20億
- 5 特朗普要求英特爾首位華人 CEO 辭職
- 6 踢館大廠和微軟,剖析WPS靈犀的AI實(shí)用主義
- 7 騰訊 Q2 財報亮眼:AI 已成第二增長曲線
- 8 谷歌吹響AI沖鋒號,AI還有哪些機(jī)會
- 9 蘋果把身家押在Siri上:一場輸不起的自我革命
- 10 騰訊米哈游押寶的中國AI應(yīng)用,正在海外悶聲發(fā)財