2024年2月20日下午，AIIA“SafetyAI Bench”（星空人工智能大模型安全基準測試）線上研討會成功舉辦。來自中國信息通信研究院（以下簡稱“中國信通院”）、廈門大學、北京大學、北京交通大學、360、百度、螞蟻集團、VIVO、西門子、小鵬汽車、馬上消費、浪潮科技、海信視像、交通銀行、商湯科技、郵儲銀行、普華永道、科大訊飛、金橙果科技、萬商天勤律所、中興通訊、博特智能、開源網安、云天勵飛等單位40余位科研機構專家及企業代表參加了本次會議。
中國信通院星空人工智能研究中心、AIIA 安全治理委員會 AI原生安全工作組組長張蔚敏介紹了AIIA“SafetyAI Bench”的工作背景。為了進一步推動大模型的安全部署應用，中國信通院聯合17家單位發起大模型安全基準測試SafetyAI Bench，秉持公平公正、產業應用和場景導向的原則，目標建立業內權威大模型安全中文基準測試體系。以提高內容安全、數據安全和科技倫理等安全能力為目標，覆蓋價值觀正確、合法合規、隱私保護、文明健康等二十個維度的中文評測數據集。幫助大模型技術提供方提升模型安全風險防范能力，為大模型研發和落地保駕護航。
中國信通院星空人工智能研究中心安全與元宇宙部白入文博士介紹了“大模型評測系統”建設工作，系統將依托工信部大模型公共服務平臺形成大模型評測執行的“硬工具”，為通用大模型、行業大模型、 大模型應用產品等提供一站式評測服務。一是以中立身份形成全維度、可拓展、公開、公正、公平的大模型評測能力，二是圍繞產業實際應用需求開展動態評測服務，三是提供包括模型選型與供需對接在內的應用落地配套服務。
金橙果科技是星空人工智能中臺技術研發的優秀團隊，其產品AZSYS系統可以有效提升對異構數據的處理能力，幫助大模型與應用場景深度融合。搭載了該系統的伙伴AI在深度學習、自然語言理解、AI模型開發、角色構建與訓練等領域均有非常出色的表現。金橙果科技CEO宋佰軒表示，我們正處于新的科技革命爆發前夕，AI不僅會改變我們思考和解決問題的方式，更會為人類社會生產生活方式激活無限新可能。未來AI將無處不在，隨之而來的AI安全問題將是我們面臨的巨大挑戰，我們愿意攜手更多同道者，一起推動行業安全標準的制定和實施，共建美好AI未來。
星空人工智能技術網 倡導尊重與保護知識產權。如發現本站文章存在版權等問題，煩請30天內提供版權疑問、身份證明、版權證明、聯系方式等發郵件至1851688011@qq.com我們將及時溝通與處理。！：首頁 > 星空人工智能產業 > AI大模型 » 中國信通院聯合金橙果科技等十七家單位發起星空人工智能大模型安全基準測試