999超碰|亚州成人在线观看|999精品视频|制服丝袜中文字幕在线观看,九一视频黄色,亚洲深夜视频,日本中文字幕在线

崗位職責(zé)：


1.大模型部署與推理優(yōu)化
負(fù)責(zé)主流大模型（如Qwen、DeepSeek）的推理服務(wù)部署，使用 TensorRT、vLLM、SGLang 等框架進(jìn)行推理加速，實(shí)現(xiàn)低延遲、高吞吐的在線服務(wù)；主導(dǎo)模型量化（INT8/FP16）、剪枝、動態(tài)批處理、KV Cache優(yōu)化等技術(shù)落地，提升GPU資源利用率，降低單位推理成本。
2.AI系統(tǒng)運(yùn)維與工程化
基于k8s容器化模型服務(wù)，配合商業(yè)的算力池化平臺實(shí)現(xiàn)集群調(diào)度、自動擴(kuò)縮容與服務(wù)高可用；構(gòu)建 CI/CD 流水線（GitLab CI/Jenkins），實(shí)現(xiàn)模型版本上線前測試、灰度發(fā)布與回滾；部署 Prometheus Grafana 監(jiān)控體系，追蹤模型響應(yīng)時間、顯存占用、請求成功率等核心指標(biāo)，建立告警機(jī)制保障服務(wù)SLA。
3.智能體應(yīng)用構(gòu)建與業(yè)務(wù)落地
設(shè)計(jì)并實(shí)現(xiàn)基于 LangChain、MCP、Skills 等工具的智能體（Agent）系統(tǒng)，完成RAG增強(qiáng)問答、多工具調(diào)用、記憶管理等核心功能；與產(chǎn)品、業(yè)務(wù)方深度協(xié)作，將模糊業(yè)務(wù)需求（如“提升客服效率”）轉(zhuǎn)化為可執(zhí)行的技術(shù)方案（如“構(gòu)建FAQ知識庫 Agent自動應(yīng)答鏈”），推動從PoC到生產(chǎn)環(huán)境的端到端落地。


任職要求：
1.精通 TensorRT、vLLM、SGLang 的部署與調(diào)優(yōu)；熟悉模型量化（INT8/FP4）、動態(tài)批處理、PagedAttention、模型并行等優(yōu)化技術(shù)；熟練使用 CUDA、Python、C 進(jìn)行性能分析與底層優(yōu)化。
2.熟練掌握 Docker、K8s 集群管理，具備生產(chǎn)級CI/CD流水線搭建經(jīng)驗(yàn)；熟悉 Prometheus、Grafana、Alertmanager 監(jiān)控體系，能自定義指標(biāo)與告警規(guī)則。
3.有 LangChain、LlamaIndex、CrewAI、AutoGen 等框架的實(shí)際項(xiàng)目經(jīng)驗(yàn)，能獨(dú)立構(gòu)建多智能體協(xié)作系統(tǒng)；熟悉RAG流程優(yōu)化、向量數(shù)據(jù)庫（Milvus/Chroma）、檢索重排序（Rerank）等關(guān)鍵技術(shù)。
4.具備優(yōu)秀的跨團(tuán)隊(duì)溝通能力，能將非技術(shù)語言的業(yè)務(wù)需求轉(zhuǎn)化為清晰的技術(shù)規(guī)格文檔；有主導(dǎo)過至少1個AI項(xiàng)目從0到1落地的完整經(jīng)驗(yàn)。