大模型应用工程师
上海东方龙新媒体有限公司
- 公司规模:150-500人
- 公司性质:国企
- 公司行业:互联网/电子商务
职位信息
- 发布日期:2024-07-12
- 工作地点:上海·徐汇区
- 工作经验:3年及以上
- 学历要求:硕士
- 职位月薪:40-60万/年
- 职位类别:大模型应用工程师
职位描述
岗位职责:
1.参与公司大模型应用框架及配套工具链的设计和研发。
2.参与研究大模型在文化传媒的创新场景应用并制定系统化解决方案。
任职资格:
1.熟悉主流大模型(如GPT、Gemini、LLaMA、Claude等)工作原理及应用,熟悉Prompt Engineering,RAG,Fine Tune,熟悉常见的嵌入模型。
2.熟悉LangChain、LlamaIndex、Semantic Kernel、AutoGPT等开源大模型应用编排框架,熟悉其中之一即可。
3.有开源大模型的使用及微调经验,熟悉常见的微调方法 (prompt tuning lora qlora p-tuning prefix tuning) 。
4.熟练掌握至少一种编程语言,如Python/Rust。
5.熟悉Pytorch,MindSpore,TensorFlow等机器学习算法框架。
6.对大模型推理框架,如 vllm trt-llm有开发使用经验者优先。
7.有大模型推理加速优化经验的优先(量化、蒸馏)。
8.了解常用的llm中间件向量数据库 (milvus pinecone faiss) gpt-cache 以及护栏技术。
9.有开源项目研发经验的优先。
1.参与公司大模型应用框架及配套工具链的设计和研发。
2.参与研究大模型在文化传媒的创新场景应用并制定系统化解决方案。
任职资格:
1.熟悉主流大模型(如GPT、Gemini、LLaMA、Claude等)工作原理及应用,熟悉Prompt Engineering,RAG,Fine Tune,熟悉常见的嵌入模型。
2.熟悉LangChain、LlamaIndex、Semantic Kernel、AutoGPT等开源大模型应用编排框架,熟悉其中之一即可。
3.有开源大模型的使用及微调经验,熟悉常见的微调方法 (prompt tuning lora qlora p-tuning prefix tuning) 。
4.熟练掌握至少一种编程语言,如Python/Rust。
5.熟悉Pytorch,MindSpore,TensorFlow等机器学习算法框架。
6.对大模型推理框架,如 vllm trt-llm有开发使用经验者优先。
7.有大模型推理加速优化经验的优先(量化、蒸馏)。
8.了解常用的llm中间件向量数据库 (milvus pinecone faiss) gpt-cache 以及护栏技术。
9.有开源项目研发经验的优先。
公司介绍
上海东方龙新媒体有限公司(简称东方龙新媒体或公司)是上海文化广播影视集团有限公司(SMG),东方明珠新媒体股份有限公司(OPG)旗下从事移动流媒体和互动增值服务的子公司。2020年9月,SMG和OPG启动BesTV+视频流媒体战略,东方龙新媒体成为BesTV+流媒体项目重要的执行者,负责开发、运行流媒体战略下的媒体融合转型类视频产品,覆盖互联网和移动互联网各类终端,并能够服务包括车载、电商在内的不同垂直应用场景的内容需求,为SMG和OPG探索出一条“内容电商”的商业模式。
联系方式
- 公司地址:上海市徐汇区虹漕路88号越虹广场B座8楼