政務(wù)大模型安全治理框架：安全風(fēng)險(xiǎn)主要包括七個主要類型,大模型開發(fā)安全到運(yùn)行安全等方面

政務(wù)大模型是專注在政務(wù)領(lǐng)域的行業(yè)大模型，政務(wù)大模型在通用大模型基礎(chǔ)上，通過檢索增強(qiáng)生成或者模型微調(diào)等技術(shù)手段，使模型更加貼合政務(wù)的特點(diǎn)和需求。

基于政務(wù)大模型的應(yīng)用，為政府決策、公共服務(wù)、帶來了全新的變革。政務(wù)大模型應(yīng)用也伴隨著各種潛在的風(fēng)險(xiǎn)。政務(wù)大模型安全風(fēng)險(xiǎn)主要包括七個主要類型，即數(shù)據(jù)安全風(fēng)險(xiǎn)、訓(xùn)練語料安全風(fēng)險(xiǎn)、模型安全風(fēng)險(xiǎn)、應(yīng)用安全風(fēng)險(xiǎn)、軟件供應(yīng)鏈安全風(fēng)險(xiǎn)、生成內(nèi)容風(fēng)險(xiǎn)、大模型自身風(fēng)險(xiǎn)。

政務(wù)大模型的安全治理框架是保障其安全、合規(guī)運(yùn)行的基礎(chǔ)。全面的安全治理框架，需要滿足合規(guī)要求、建立完善安全機(jī)制、提供安全技術(shù)保障。其中，合規(guī)是安全治理首要原則，涉及多項(xiàng)法律法規(guī)、規(guī)章制度的遵循。安全技術(shù)保障是政務(wù)大模型安全治理框架的核心，涵蓋從基礎(chǔ)安全措施、數(shù)據(jù)安全、大模型開發(fā)安全到運(yùn)行安全等方面。

政務(wù)大模型的安全治理上，需要政府、企業(yè)、研究機(jī)構(gòu)、監(jiān)管機(jī)構(gòu)等各方協(xié)作，形成良性互動生態(tài)體系，構(gòu)建安全、可靠、有序的環(huán)境，充分發(fā)揮政務(wù)大模型在提升政府服務(wù)效能、推動社會進(jìn)步方面的積極作用。

附件：政務(wù)大模型安全治理框架：安全風(fēng)險(xiǎn)主要包括七個主要類型,大模型開發(fā)安全到運(yùn)行安全等方面