爬虫工程师
浙江大学华南工业技术研究院
- 公司规模:150-500人
- 公司性质:事业单位
- 公司行业:学术/科研
职位信息
- 发布日期:2019-11-13
- 工作地点:广州-黄埔区
- 招聘人数:若干人
- 工作经验:3-4年经验
- 学历要求:本科
- 职位月薪:0.9-1.4万/月
- 职位类别:软件工程师 技术支持/维护工程师
职位描述
岗位职责:
1、专注于垂直领域数据爬取,进行多平台信息的抓取和分析;
2、参与爬虫系统的架构设计与开发;
3、研究优化爬虫算法,提升爬虫系统的稳定性、可扩展性;
4、设计爬虫策略和防屏蔽规则,提升网页抓取的效率和质量;
5、能独立解决实际开发过程中碰到的各类问题。
岗位要求:
1、熟悉TCP/IP、HTTP、HTTPS等网络协议,熟悉web前端,可读懂js/css/html等代码;
2、熟练使用Python语言,熟练掌握爬虫框架Scrapy,熟悉 asyncio 技术。熟悉反爬虫技术及破解方法;
3、熟练使用selenium,lxml, bs4, 等网页解析工具。使用xpath与正则对文本进行抓取解析清理;
4、熟悉常见的数据结构,具备自主开发小规模爬虫的能力,同时具有良好的合作意识,能参与较大规模项目研发;
5、熟悉MySql/PostgreSQL/MongoDB/Redis等常用数据库或缓存的一种,掌握Java,scala语言优先考虑;
6、熟悉高并发、高性能的分布式系统的设计及应用。
7、熟悉app的数据爬取方式,对app有反编译经验的优先考虑。
公司简介:
阜博集团于2005年成立于美国硅谷,是世界领先的网络音视频内容保护技术服务商,在线视频版权保护市场全球占有率名列***。公司致力于打造影视传媒在线发行产业链的核心业务平台,主要客户囊括了好莱坞六大电影集团、美国四大电视网、日本多家大型影视内容制作公司,以及全球众多知名视频网站和电视频道。凭借核心的视频识别专利技术在影视内容版权保护领域的成功应用,公司荣获美国电视艺术与科学院颁发的第69届艾美奖 ( Emmy Award)。阜博集团在2019年通过收购成为YouTube和Facebook最主要的内容运营合作伙伴。广州阜博科技有限公司成立于2019年,是阜博集团在中国华南地区的分公司。
职能类别:软件工程师技术支持/维护工程师
公司介绍
联系方式
- Email:gdyjhr@zjuhn.com.cn
- 公司地址:开源大道11号B9栋 (邮编:510530)