当前位置: 首页 > news >正文

我自己做个网站怎么做百度识图网站

我自己做个网站怎么做,百度识图网站,怎么能自己创建网站,网站开发英文参考文献2015年后今晚想给偶像的相册截个图,避免某一天网站挂了我想看看回忆都不行,用的是js的木偶师来爬虫台湾的部落格,效果图大概是这样,很不错 问题来了.我很贪心, 我想一次性把相册全爬了,也就是并发 ,这个人的相册有19个!!我一下子要开19个谷歌浏览器那个什么进程, 然后程序就崩了, 我就想…

今晚想给偶像的相册截个图,避免某一天网站挂了我想看看回忆都不行,用的是js的木偶师来爬虫台湾的部落格,效果图大概是这样,很不错

问题来了.我很贪心, 我想一次性把相册全爬了,也就是并发 ,这个人的相册有19个!!我一下子要开19个谷歌浏览器那个什么进程, 然后程序就崩了, 我就想能不能加入个限制? 每次只爬3个,3个完之后再继续.
ok,思路是这样:

1.假如有一个数组9个url(模拟9个相册的url),我按并发数切割,假如并发数是3

2.得到数据结构如下

3.然后循环这个数组, 再循环里面的小数组并添加进promiseChunk数组,用await Promise.all阻塞后面的其他切割的小数组运行,同时添加进AllChunksPromise数组,用来统计所有切割小数组完成后的时间,最后再Promise.all(把第二步的数据结构扁平为一维),在后面就可以计算得到代码执行时间
得到代码如下

结果还行,就是有点慢,毕竟后台调用浏览器...我的单核服务器cpu飙到100%

最后说下cheerio和puppeteer,这两个这两天都有用,cheerio解析静态网页很快,很适合抓数据。木偶可以执行js,这就很牛了,因为他是直接打开一个浏览器运行的,就是慢,各有优缺,优缺互补最好了

源代码已经上传github:https://github.com/DoctorTan/pixnetAlbumScreenshot

http://www.dt0577.cn/news/45014.html

相关文章:

  • 网站设计介绍怎么写如何做好关键词的优化
  • 桂林市区旅游攻略必去景点北京网站优化校学费
  • 建设网站网址免费seo快速排名系统
  • 做网站找模板去哪好数据指数
  • 1688网站首页互联网营销策略有哪些
  • 教人做窗帘的视频网站网络营销的常用工具
  • 网站建设的一般流程是深度优化
  • 2018网站建设行业国家免费职业技能培训官网
  • 网页设计与网站建设 作业郑州网站制作
  • 怎样做团购网站青岛排名推广
  • jsp网站开发四库网店
  • 销售管理系统业务处理流程北京seo外包公司要靠谱的
  • 网站建设找伟杨科技营销型网站建设报价
  • 网站建设及推广培训软文广告经典案例
  • 上海公司注册代理记账合肥seo外包平台
  • 网件路由器定时重启码迷seo
  • wordpress大学教程课件小时seo加盟
  • 防火墙 网站做端口映射百度引擎搜索网址
  • 试用网站 建站seo指搜索引擎
  • 做网站是学什么专业关键词优化系统
  • 兖州网站建设多少钱seo优化招商
  • 利用jquery做音乐网站网站设计公司多少钱
  • 外贸网站建设青岛网站怎么优化关键词排名
  • 红色博客网站源码关键词排名优化易下拉软件
  • 三年疫情最后成了闹剧汕头网站建设优化
  • 外贸网站屏蔽国内ip网站制作代码
  • 上海网站建设zj kt整合营销沟通
  • wordpress+积分+文章网站免费优化软件
  • 做统计图的网站seo推广培训学费
  • 商标设计图案南京seo优化培训