更新于 2月26日

AI加速工程師/HPC高性能優(yōu)化架構(gòu)師

3-4萬
  • 北京朝陽區(qū)
  • 3-5年
  • 本科
  • 全職
  • 招2人

雇員點評標簽

  • 同事很nice
  • 工作環(huán)境好
  • 氛圍活躍
  • 準時發(fā)工資
  • 團隊執(zhí)行強

職位描述

深度學(xué)習大模型算法
崗位職素:
1、優(yōu)化大模型訓(xùn)練和推理性能,降低大模型推理時延,提升吞吐,包括但不限于模型剪枝、模型量化、模型蒸餾、模型壓縮等;
2、適應(yīng)并充分利用硬件資源,控制模型部署成本;
3、對模型訓(xùn)練和部署時存在的精度與性能問題進行分析和調(diào)優(yōu),識別和解決瓶領(lǐng)問題,提高模型的訓(xùn)練和推理速度;
4、推動深度學(xué)習優(yōu)化算法的研發(fā)和產(chǎn)業(yè)落地。
崗位要求:
有深度學(xué)習應(yīng)用加速和優(yōu)化的經(jīng)驗,能夠根據(jù)不同場景和硬件平臺進行針對性的優(yōu)化;
1、熟悉C/C++編程,cuda kernel開發(fā),有底層算法性能調(diào)試及加速經(jīng)驗:
2、熟練學(xué)握TensorFlow、PyTorch等至少一種深度學(xué)習框架,熟悉常見的分布式機器學(xué)習框架,如Megatron、DeepSpeed、HuggingFace Transformers等:
3、熟悉LLM主流推理引擎,如FasterTransformer/vLLM。熟悉常見的推理優(yōu)化方法,如FlashAtention、PageAttention、Continuous Batching、Speculative Decoding等;
以上背景一項擅長就可以。
具備良好的溝通和團隊合作能力,能夠與跨功能團隊密切合作,解決問題并實現(xiàn)共同目標。加分項:
熟悉TensorRT/Triton/Cutlass經(jīng)驗者優(yōu)先;
有AIGC模型推理和訓(xùn)練加速落地經(jīng)驗者優(yōu)先;
熟悉分布式推理加速框架,有超大模型分布式加速經(jīng)驗優(yōu)先

工作地點

北京市朝陽區(qū)安定路5號院5(安貞門地鐵站B東北口步行210米)

職位發(fā)布者

王女士/HR

今日活躍
立即溝通
公司Logo博彥科技公司標簽
博彥科技股份有限公司--加入博彥,攜手世界500強博彥科技股份有限公司(簡稱“博彥科技”,深交所上市公司)是亞洲領(lǐng)先的全方位IT服務(wù)及行業(yè)解決方案提供商,具備全球范圍內(nèi)的交付能力。業(yè)務(wù)范圍涵蓋咨詢及解決方案、IT服務(wù)、應(yīng)用程序開發(fā)和維護、ERP和BPO(業(yè)務(wù)流程外包)等服務(wù),專注于高科技、金融服務(wù)、電信工程、醫(yī)藥、制造等領(lǐng)域,積累了豐富的經(jīng)驗,與眾多全球500強企業(yè)和世界領(lǐng)先科技公司成功合作,是全球客戶信賴的IT綜合服務(wù)提供商和戰(zhàn)略合作伙伴。博彥科技創(chuàng)立于1995年,總部位于北京,并在中國主要城市設(shè)立分支機構(gòu)和研發(fā)中心,在美國、日本、新加坡和印度也都設(shè)有交付中心。博彥科技的全球交付能力以及靈活使用現(xiàn)場服務(wù)、近岸服務(wù)和多級離岸交付中心等交付方式的能力,使得博彥在全球范圍內(nèi)都能夠以低成本交付高質(zhì)量的服務(wù)。遍布全球的交付中心使得博彥可以和世界共享自己的服務(wù)、行業(yè)知識和成熟的流程管理。博彥科技已取得CMMI5認證,擁有完善、成熟的管理和開發(fā)流程,確保為客戶提供高質(zhì)量的服務(wù)。博彥科技安全系統(tǒng)已達到ISO27001國際標準,遵循嚴格的安全標準,實施嚴密的安全措施,以保護客戶的信息安全。博彥科技的領(lǐng)軍地位也得到了IDC、 IAOP等業(yè)內(nèi)權(quán)威研究機構(gòu)的認可。博彥科技于2012年1月在深交所上市,并先后收購了印度ESS、美國ExtendLogic及美國大展集團等多家國際知名IT企業(yè)。博彥科技將秉承“超越期待,盡善盡美”的服務(wù)理念,作為您IT服務(wù)的理想合作伙伴,一如既往的為客戶提供優(yōu)質(zhì)、專業(yè)、高效的服務(wù)。 IAOP全球外包100強、NeoIT全球外包服務(wù)100強、《全球服務(wù)》雜志“全球服務(wù)100強”、IDC中國離岸軟件開發(fā)供應(yīng)商10強國家規(guī)劃布局內(nèi)重點軟件企業(yè)、工信部中國軟件業(yè)務(wù)收入百強企業(yè)國際人力資源管理協(xié)會“中國行業(yè)十佳雇主”博彥科技官方地址:http://www.beyondsoft.com
公司主頁