人工智能倫理與安全研究中心成立
為降低人工智能發(fā)展過(guò)程中可能存在的技術(shù)風(fēng)險(xiǎn)和倫理隱患,近日,北京智源人工智能研究院在北京專門成立人工智能倫理與安全研究中心,著力加強(qiáng)人工智能倫理與安全研究,引導(dǎo)行業(yè)健康發(fā)展,中國(guó)科學(xué)院自動(dòng)化研究所曾毅研究員任研究中心主任。
曾毅介紹,研究中心將圍繞人工智能倫理與安全的理論探索、算法模型、系統(tǒng)平臺(tái)、行業(yè)應(yīng)用等開(kāi)展一系列研究,目前主要包括四大方面:一是低風(fēng)險(xiǎn)機(jī)器學(xué)習(xí)模型與平臺(tái)的構(gòu)建,建立機(jī)器學(xué)習(xí)模型安全性的評(píng)估體系;二是開(kāi)展符合人類倫理道德的智能自主學(xué)習(xí)模型研究,實(shí)現(xiàn)人工智能行為與人類價(jià)值觀的校準(zhǔn),并在模擬環(huán)境與真實(shí)場(chǎng)景中進(jìn)行驗(yàn)證;三是建設(shè)數(shù)據(jù)安全示范應(yīng)用系統(tǒng),建立數(shù)據(jù)基礎(chǔ)設(shè)施、數(shù)據(jù)分級(jí)、權(quán)限控制、數(shù)據(jù)審計(jì),最大限度防止數(shù)據(jù)泄密,降低風(fēng)險(xiǎn);四是構(gòu)建人工智能風(fēng)險(xiǎn)與安全綜合沙盒平臺(tái),建設(shè)自動(dòng)檢測(cè)平臺(tái),針對(duì)數(shù)據(jù)與算法的安全性、公平性、可追溯性、風(fēng)險(xiǎn)類型、影響程度與影響范圍等方面,對(duì)人工智能產(chǎn)品及應(yīng)用進(jìn)行風(fēng)險(xiǎn)與安全綜合檢測(cè)與評(píng)估,引導(dǎo)行業(yè)健康發(fā)展。

發(fā)表評(píng)論
請(qǐng)輸入評(píng)論內(nèi)容...
請(qǐng)輸入評(píng)論/評(píng)論長(zhǎng)度6~500個(gè)字
最新活動(dòng)更多
-
7月8日立即報(bào)名>> 【在線會(huì)議】英飛凌新一代智能照明方案賦能綠色建筑與工業(yè)互聯(lián)
-
7月22-29日立即報(bào)名>> 【線下論壇】第三屆安富利汽車生態(tài)圈峰會(huì)
-
7.30-8.1火熱報(bào)名中>> 全數(shù)會(huì)2025(第六屆)機(jī)器人及智能工廠展
-
7月31日免費(fèi)預(yù)約>> OFweek 2025具身智能機(jī)器人產(chǎn)業(yè)技術(shù)創(chuàng)新應(yīng)用論壇
-
免費(fèi)參會(huì)立即報(bào)名>> 7月30日- 8月1日 2025全數(shù)會(huì)工業(yè)芯片與傳感儀表展
-
即日-2025.8.1立即下載>> 《2024智能制造產(chǎn)業(yè)高端化、智能化、綠色化發(fā)展藍(lán)皮書(shū)》
推薦專題
- 1 AI 眼鏡讓百萬(wàn) APP「集體失業(yè)」?
- 2 豆包前負(fù)責(zé)人喬木出軌BP后續(xù):均被辭退
- 3 一文看懂視覺(jué)語(yǔ)言動(dòng)作模型(VLA)及其應(yīng)用
- 4 “支付+”時(shí)代,支付即生態(tài) | 2025中國(guó)跨境支付十大趨勢(shì)
- 5 中國(guó)最具實(shí)力AI公司TOP10
- 6 特斯拉Robotaxi上路,馬斯克端上畫(huà)了十年的餅
- 7 國(guó)家數(shù)據(jù)局局長(zhǎng)劉烈宏調(diào)研格創(chuàng)東智
- 8 張勇等人退出阿里合伙人
- 9 AI的夏天:第四范式VS云從科技VS地平線機(jī)器人
- 10 AI視頻,攪動(dòng)1.5萬(wàn)億市場(chǎng)