數(shù)據(jù)采集工程師-上海
面議
應(yīng)屆畢業(yè)生
學(xué)歷不限
應(yīng)屆畢業(yè)生
學(xué)歷不限
- 全勤獎(jiǎng)
- 節(jié)日福利
- 不加班
- 周末雙休
職位描述
該職位還未進(jìn)行加V認(rèn)證,請(qǐng)仔細(xì)了解后再進(jìn)行投遞!
1 項(xiàng)目背景
針對(duì)外文語(yǔ)料數(shù)據(jù)采集工作,目前已經(jīng)對(duì)預(yù)訓(xùn)練數(shù)據(jù)采集、全站數(shù)據(jù)采集或者文
件文檔下載類(lèi)的需求已經(jīng)開(kāi)發(fā)了采集系統(tǒng)或者采集平臺(tái)進(jìn)行需求覆蓋。但是由于需求種類(lèi)多樣還有較多類(lèi)型的采集需求(定向采集,數(shù)據(jù)字段高定,目標(biāo)站點(diǎn)反爬比較嚴(yán)重等)數(shù)據(jù)系統(tǒng)與平臺(tái)無(wú)法進(jìn)行覆蓋需求,需要鋪設(shè)較多開(kāi)發(fā)人員進(jìn)行單站點(diǎn)或者單需求進(jìn)行數(shù)據(jù)采集研發(fā)工作。
2 預(yù)算與人員資質(zhì)要求
? 需求人數(shù):2人
? 期望到崗時(shí)間:2025年11月初
? 崗位級(jí)別:中級(jí)采集工程師
? 教育背景與工作經(jīng)驗(yàn)
o 本科及以上學(xué)歷,計(jì)算機(jī)相關(guān)專(zhuān)業(yè)
o 2年以上數(shù)據(jù)采集工作經(jīng)驗(yàn)
? 核心技能
o 精通 JavaScript 逆向工程
o 有主流站點(diǎn) Web端大規(guī)模數(shù)據(jù)采集經(jīng)驗(yàn)
o 具備多類(lèi)型驗(yàn)證碼處理能力:包括滑塊、點(diǎn)選、GooglereCAPTCHA、
旋轉(zhuǎn)驗(yàn)證碼等
o 熟悉 APP 脫殼、逆向、反編譯及自動(dòng)化相關(guān)技術(shù)
o 具備 AST 反混淆 JavaScript 代碼及 JSVMP 算法還原能力
? 附加技能(優(yōu)先考慮):具有風(fēng)控應(yīng)對(duì)經(jīng)驗(yàn)(如 Akamai 并發(fā)、Cloudflare 等
反爬蟲(chóng)策略處理經(jīng)驗(yàn))
3 崗位描述
3.1負(fù)責(zé)大模型相關(guān)數(shù)據(jù)采集,包括不限于海內(nèi)外文本,圖片,音視頻數(shù)據(jù);
3.2負(fù)責(zé)對(duì)目標(biāo)網(wǎng)站或APP進(jìn)行反爬突破、協(xié)議破解和提取關(guān)鍵數(shù)據(jù);
3.3負(fù)責(zé)反爬蟲(chóng)策略研究,代理、驗(yàn)證碼識(shí)別等采集支撐服務(wù)建設(shè);
3.4 參與大規(guī)模數(shù)據(jù)處理流程的設(shè)計(jì)與開(kāi)發(fā),包括但不限于數(shù)據(jù)采集、清洗、轉(zhuǎn)
換、存儲(chǔ)等過(guò)程。
4 服務(wù)范圍與內(nèi)容
4.1 服務(wù)目標(biāo)
協(xié)助開(kāi)展各類(lèi)數(shù)據(jù)采集業(yè)務(wù)(包括但不限于預(yù)訓(xùn)練數(shù)據(jù)采集、全站數(shù)據(jù)采
集、文件文檔下載等),針對(duì)多樣化的需求種類(lèi),特別是定向采集、高定數(shù)
據(jù)字段以及目標(biāo)站點(diǎn)反爬嚴(yán)重等情況,提供定制化解決方案。具體包含但不
限于以下內(nèi)容:
1. 大模型相關(guān)數(shù)據(jù)采集
o 海內(nèi)外文本、圖片、音視頻等數(shù)據(jù)采集
o 保證數(shù)據(jù)多樣性及高質(zhì)量
2. 反爬蟲(chóng)策略研究與實(shí)施
o 深度分析目標(biāo)網(wǎng)站或APP
o 突破反爬措施(協(xié)議破解、代理使用、驗(yàn)證碼識(shí)別等)
o 提供反爬支撐服務(wù)建設(shè)
3. 大規(guī)模數(shù)據(jù)處理流程設(shè)計(jì)與開(kāi)發(fā)
o 數(shù)據(jù)采集、清洗、轉(zhuǎn)換、存儲(chǔ)的全流程實(shí)現(xiàn)
o 確保數(shù)據(jù)準(zhǔn)確性與可用
針對(duì)外文語(yǔ)料數(shù)據(jù)采集工作,目前已經(jīng)對(duì)預(yù)訓(xùn)練數(shù)據(jù)采集、全站數(shù)據(jù)采集或者文
件文檔下載類(lèi)的需求已經(jīng)開(kāi)發(fā)了采集系統(tǒng)或者采集平臺(tái)進(jìn)行需求覆蓋。但是由于需求種類(lèi)多樣還有較多類(lèi)型的采集需求(定向采集,數(shù)據(jù)字段高定,目標(biāo)站點(diǎn)反爬比較嚴(yán)重等)數(shù)據(jù)系統(tǒng)與平臺(tái)無(wú)法進(jìn)行覆蓋需求,需要鋪設(shè)較多開(kāi)發(fā)人員進(jìn)行單站點(diǎn)或者單需求進(jìn)行數(shù)據(jù)采集研發(fā)工作。
2 預(yù)算與人員資質(zhì)要求
? 需求人數(shù):2人
? 期望到崗時(shí)間:2025年11月初
? 崗位級(jí)別:中級(jí)采集工程師
? 教育背景與工作經(jīng)驗(yàn)
o 本科及以上學(xué)歷,計(jì)算機(jī)相關(guān)專(zhuān)業(yè)
o 2年以上數(shù)據(jù)采集工作經(jīng)驗(yàn)
? 核心技能
o 精通 JavaScript 逆向工程
o 有主流站點(diǎn) Web端大規(guī)模數(shù)據(jù)采集經(jīng)驗(yàn)
o 具備多類(lèi)型驗(yàn)證碼處理能力:包括滑塊、點(diǎn)選、GooglereCAPTCHA、
旋轉(zhuǎn)驗(yàn)證碼等
o 熟悉 APP 脫殼、逆向、反編譯及自動(dòng)化相關(guān)技術(shù)
o 具備 AST 反混淆 JavaScript 代碼及 JSVMP 算法還原能力
? 附加技能(優(yōu)先考慮):具有風(fēng)控應(yīng)對(duì)經(jīng)驗(yàn)(如 Akamai 并發(fā)、Cloudflare 等
反爬蟲(chóng)策略處理經(jīng)驗(yàn))
3 崗位描述
3.1負(fù)責(zé)大模型相關(guān)數(shù)據(jù)采集,包括不限于海內(nèi)外文本,圖片,音視頻數(shù)據(jù);
3.2負(fù)責(zé)對(duì)目標(biāo)網(wǎng)站或APP進(jìn)行反爬突破、協(xié)議破解和提取關(guān)鍵數(shù)據(jù);
3.3負(fù)責(zé)反爬蟲(chóng)策略研究,代理、驗(yàn)證碼識(shí)別等采集支撐服務(wù)建設(shè);
3.4 參與大規(guī)模數(shù)據(jù)處理流程的設(shè)計(jì)與開(kāi)發(fā),包括但不限于數(shù)據(jù)采集、清洗、轉(zhuǎn)
換、存儲(chǔ)等過(guò)程。
4 服務(wù)范圍與內(nèi)容
4.1 服務(wù)目標(biāo)
協(xié)助開(kāi)展各類(lèi)數(shù)據(jù)采集業(yè)務(wù)(包括但不限于預(yù)訓(xùn)練數(shù)據(jù)采集、全站數(shù)據(jù)采
集、文件文檔下載等),針對(duì)多樣化的需求種類(lèi),特別是定向采集、高定數(shù)
據(jù)字段以及目標(biāo)站點(diǎn)反爬嚴(yán)重等情況,提供定制化解決方案。具體包含但不
限于以下內(nèi)容:
1. 大模型相關(guān)數(shù)據(jù)采集
o 海內(nèi)外文本、圖片、音視頻等數(shù)據(jù)采集
o 保證數(shù)據(jù)多樣性及高質(zhì)量
2. 反爬蟲(chóng)策略研究與實(shí)施
o 深度分析目標(biāo)網(wǎng)站或APP
o 突破反爬措施(協(xié)議破解、代理使用、驗(yàn)證碼識(shí)別等)
o 提供反爬支撐服務(wù)建設(shè)
3. 大規(guī)模數(shù)據(jù)處理流程設(shè)計(jì)與開(kāi)發(fā)
o 數(shù)據(jù)采集、清洗、轉(zhuǎn)換、存儲(chǔ)的全流程實(shí)現(xiàn)
o 確保數(shù)據(jù)準(zhǔn)確性與可用
工作地點(diǎn)
地址:徐匯區(qū)上海庫(kù)帕思科技有限公司A
??
點(diǎn)擊查看地圖
詳細(xì)位置,可以參考上方地址信息
求職提示:用人單位發(fā)布虛假招聘信息,或以任何名義向求職者收取財(cái)物(如體檢費(fèi)、置裝費(fèi)、押金、服裝費(fèi)、培訓(xùn)費(fèi)、身份證、畢業(yè)證等),均涉嫌違法,請(qǐng)求職者務(wù)必提高警惕。
職位發(fā)布者
1851..HR
科銳爾人力資源服務(wù)(蘇州)有限公司
-
中介服務(wù)
-
1000人以上
-
國(guó)內(nèi)上市公司
-
中興路1520(上?;疖?chē)站地鐵站6號(hào)口步行410米)
相似職位
-
傳媒副總經(jīng)理 面議應(yīng)屆畢業(yè)生 不限吉林省星冉教育集團(tuán)
-
新媒體文案 面議應(yīng)屆畢業(yè)生 不限吉林省晟鑫鎧達(dá)醫(yī)藥有限公司
-
庫(kù)管員 3000-5000元應(yīng)屆畢業(yè)生 不限吉林省松花湖管業(yè)有限公司
-
學(xué)前班主班老師 8000-16000元應(yīng)屆畢業(yè)生 本科北京市朝陽(yáng)區(qū)赫德雙語(yǔ)學(xué)校
-
市場(chǎng)招生官 5000-10000元應(yīng)屆畢業(yè)生 本科北京市朝陽(yáng)區(qū)赫德雙語(yǔ)學(xué)校
-
校辦經(jīng)理 5000-10000元應(yīng)屆畢業(yè)生 本科北京市朝陽(yáng)區(qū)赫德雙語(yǔ)學(xué)校
2025-12-23 04:12:10
1530人關(guān)注
注:聯(lián)系我時(shí),請(qǐng)說(shuō)是在吉林人才網(wǎng)上看到的。
