新京報(bào)訊（記者張璐）北京前瞻人工智能安全與治理研究院近日成立，落戶(hù)中關(guān)村門(mén)頭溝園“京西智谷”。作為北京的新型研發(fā)機(jī)構(gòu)，研究院將通過(guò)開(kāi)展人工智能安全與治理相關(guān)前沿基礎(chǔ)理論研究、關(guān)鍵技術(shù)研發(fā)、標(biāo)準(zhǔn)規(guī)范制定、平臺(tái)工具構(gòu)建與服務(wù)，有效監(jiān)測(cè)和防范人工智能的技術(shù)和社會(huì)風(fēng)險(xiǎn)，為企業(yè)、社會(huì)和政府提供人工智能安全護(hù)欄與安全人工智能模型與服務(wù)。
據(jù)北京前瞻人工智能安全與治理研究院院長(zhǎng)曾毅介紹，人工智能的發(fā)展給全社會(huì)帶來(lái)前所未有的機(jī)遇與變革。同時(shí)，人工智能也帶來(lái)潛在風(fēng)險(xiǎn)與挑戰(zhàn)，比如隱私侵犯、虛假信息、人工智能幻覺(jué)、偏見(jiàn)歧視、自主系統(tǒng)風(fēng)險(xiǎn)等，人工智能安全與治理的問(wèn)題已與每個(gè)人息息相關(guān)。社會(huì)無(wú)法接受缺乏方向盤(pán)和韁繩的人工智能無(wú)序野蠻狂奔，安全、倫理與治理將促進(jìn)人工智能的穩(wěn)健發(fā)展。
作為北京前瞻人工智能安全與治理研究院的前身，北京人工智能安全與治理實(shí)驗(yàn)室于2024年9月揭牌，在半年多的發(fā)展與建設(shè)期間，與合作機(jī)構(gòu)共同發(fā)布了多項(xiàng)研究成果，比如在技術(shù)安全與治理方面，發(fā)表了涉及生成式人工智能大模型面對(duì)不同程度壓力的行為表現(xiàn)與機(jī)理研究、人工智能大模型的安全護(hù)欄研究等；在全球人工智能安全與治理評(píng)估與合作方面，聯(lián)合發(fā)布全球人工智能安全指數(shù)。
近日，經(jīng)北京市民政局批復(fù)，北京市經(jīng)信局作為主管單位，北京前瞻人工智能安全與治理研究院成立。研究院匯聚了來(lái)自中國(guó)科學(xué)院自動(dòng)化研究所、中國(guó)信息通信研究院、北京大學(xué)、清華大學(xué)、北京郵電大學(xué)等科研團(tuán)隊(duì)力量開(kāi)展深度合作，并聯(lián)合多家人工智能與安全企業(yè)共同開(kāi)展人工智能安全研究與治理實(shí)踐，建立健全覆蓋技術(shù)研發(fā)、風(fēng)險(xiǎn)評(píng)估、倫理審查、應(yīng)急處置的全鏈條安全治理體系。
編輯 白爽
校對(duì) 王心
