1、崗位職責:(1)參與開展人工智能大模型安全方法研究,包括但不限于隱私保護技術、模型安全保護技術、合規(guī)性等。(2)跟蹤國內(nèi)外大模型安全測評方法和測試數(shù)據(jù)集,參與制定本領域大模型的安全測評技術方案,分析模型面臨的各種安全威脅并制定相應的應對策略。(3)參與構建文本、語音、視覺、多模態(tài)大模型算法安全測評所需的測試數(shù)據(jù)集。(4)參與開發(fā)大模型安全的相關檢測工具及模型安全防護工具。
2、經(jīng)驗能力:(1)3年以上大廠人工智能安全相關工作經(jīng)驗。(2)熟悉測試數(shù)據(jù)構建方法,具有一定的數(shù)據(jù)分析能力。(3)具有較強的編碼能力,精通Python/Java等至少一門語言。(4)有較強的團隊協(xié)作精神,工作責任心強,能夠承受壓力。(5)具有大模型安全算法研究或攻防實戰(zhàn)經(jīng)驗者優(yōu)先。
3、專業(yè)要求:計算機、數(shù)學、統(tǒng)計學相關專業(yè)優(yōu)先。