当前位置:首页 > 报告详情

将调查抽样理论应用于网络抓取数据:使用 IPW 估计量分析 OBEC 数据.pdf

上传人: Fl****zo 编号:718588 2025-06-22 22页 647.91KB

1、DraftWIN Conference.From Web to Data.3-4 February 2025,Gdask,PolandApplying Survey Sampling Theory toWeb-Scraped Data:An Analysis ofOBEC Data Using the IPW Estima-torVilma Nekraait-LiegDraftOutlineIntroductionBackgroundResearch goal and problemsThe use of survey sampling theoryData availability scen

2、ariosIPW estimatorPractical Implementation3-4 February 2025,Gdask,PolandThe use of IPW estimator for OBEC datap.2 of 22DraftOutlineIntroductionBackgroundResearch goal and problemsThe use of survey sampling theoryData availability scenariosIPW estimatorPractical Implementation3-4 February 2025,Gdask,

3、PolandThe use of IPW estimator for OBEC datap.3 of 22DraftBackground(ICT survey)The aim of the European ICT usage surveys is to collect and disseminateharmonised and comparable information on the use of Information andCommunication Technologies in enterprises and e-commerce at Europeanlevel.Frequenc

4、y of data collection:annual.Population:enterprises with 10 or more persons employed.Statistical unit:enterprise.Breakdown:by size class,by NACE Rev 2 categories.3-4 February 2025,Gdask,PolandThe use of IPW estimator for OBEC datap.4 of 22DraftURL search algorithm(1)*URL list in 2021 was provided by

5、private company,for the other year the previousyear list is used.3-4 February 2025,Gdask,PolandThe use of IPW estimator for OBEC datap.5 of 22DraftURL search algorithm(2)Web scrape1.Selenium module is used in Python.2.All data are saved in the sqLite database.3.More than 10 different search phrases(

6、Enterprise ID,name,contactinformation)are used to check if this is the right page.URL finder1.Sending search terms to a search engine.2.Scraping the result URLs.3.Extracting the scraped data.4.Creating a machine learning or rule-based model to link websites toenterprises:Logistic regression,random f

word格式文档无特别注明外均可编辑修改,预览文件经过压缩,下载原文更清晰!
三个皮匠报告文库所有资源均是客户上传分享,仅供网友学习交流,未经上传用户书面授权,请勿作商用。
本文主要内容是探讨如何将调查抽样理论应用于网络爬取数据,以OBEC数据为例,使用逆概率加权(IPW)估计器进行分析。关键点如下: 1. 研究背景:欧洲ICT使用调查旨在收集和传播关于企业在欧洲层面使用信息通信技术及电子商务的信息,数据收集频率为年度。 2. 数据爬取:使用Python的Selenium模块进行网页爬取,运用多种搜索短语识别企业页面,并通过机器学习模型将网站与企业关联。 3. 研究目标:爬取所有URL,找出企业特征,如社交媒体链接、电子商务实现情况,并估计整个群体的情况。 4. 数据可用性场景:分为有限总体(U)、概率样本(A)和非概率样本(B),提出四种场景。 5. 核心数据:总体(U)为13,403个ICT调查企业,其中概率样本(A)3,077个,非概率样本(B)7,903个。 6. IPW估计器:通过倾向得分(propensity scores)和权重计算,解决非概率样本的估计问题。 7. 实际应用:运用确定性方法和XgBoost算法确定研究变量值,分析企业网站是否具有特定社交媒体链接和是否从事电子商务。 8. 参考文献:列举了多篇关于非概率样本、大数据与概率样本结合以及IPW估计器的研究文章。
"IPW估计器如何助力数据分析?" "社交网络链接与电商实现,数据如何揭示?" "非概率样本在统计中的应用难题"
客服
商务合作
小程序
服务号
折叠