1、崗位職責:(1)負責開展人工智能大模型安全方法研究,包括但不限于隱私保護技術(shù)、模型安全保護技術(shù)、合規(guī)性等。(2)跟蹤國內(nèi)外大模型安全測評方法和測試數(shù)據(jù)集,制定本領(lǐng)域大模型的安全測評技術(shù)方案,分析模型面臨的各種安全威脅并制定相應(yīng)的應(yīng)對策略。(3)負責構(gòu)建文本、語音、視覺、多模態(tài)大模型算法安全測評所需的測試數(shù)據(jù)集。(4)負責開發(fā)大模型安全的相關(guān)檢測工具及模型安全防護工具。
2、經(jīng)驗?zāi)芰Γ海?)3年以上大廠人工智能安全相關(guān)工作經(jīng)驗。(2)精通測試數(shù)據(jù)構(gòu)建方法,具有較強的數(shù)據(jù)分析能力。(3)具有較強的編碼能力,精通Python/Java等至少一門語言。(4)有較強團隊組織能力和協(xié)作精神,工作責任心強,能夠承受壓力。(5)具有大模型安全算法研究或攻防實戰(zhàn)經(jīng)驗。
3、專業(yè)要求:計算機、數(shù)學、統(tǒng)計學相關(guān)專業(yè)優(yōu)先。