1、深入跟蹤調(diào)研大模型等AI技術(shù)的前沿動態(tài)，研究制定AI新技術(shù)在本公司相關(guān)領(lǐng)域內(nèi)的實(shí)施方案，牽頭推進(jìn)核心代碼的研發(fā)和現(xiàn)網(wǎng)實(shí)施。
2、負(fù)責(zé)大模型推理領(lǐng)域中的研究及算法工程化實(shí)現(xiàn)；
3、負(fù)責(zé)CV或者NLP大模型微調(diào)優(yōu)化以及微調(diào)工具研發(fā)，實(shí)現(xiàn)大模型在行業(yè)場景的應(yīng)用落地；
4、解決大模型分布式推理的芯片遷移工作和結(jié)合芯片技術(shù)實(shí)現(xiàn)軟硬件協(xié)同加速優(yōu)化；
5、跟進(jìn)前沿的大模型推理部署加速優(yōu)化技術(shù)，保持技術(shù)的領(lǐng)先；
6、模型壓縮技術(shù)研發(fā)，包括但不限于量化、剪枝、張量分析、知識蒸餾等；
7、負(fù)責(zé)大模型在國產(chǎn)信創(chuàng)技術(shù)棧的遷移以及落地。