Python爬虫实战之爬取饿了么信息

爬取饿了么某地区的外卖信息 闲来无事,爬取大学城周边的饿了么夜晚外卖信息打发时间, 数据生成josn格式的csv文件,生成词云以及食物信息统计图 数据来源平台 :饿了么 地点选择 :新乡大学城(夜晚) 抓取地址 :https://www

本文包含相关资料包-----> 点击直达获取<-------

爬取饿了么某地区的外卖信息

闲来无事,爬取大学城周边的饿了么夜晚外卖信息打发时间。

数据生成josn格式的csv文件,生成词云以及食物信息统计图

数据来源平台 :饿了么

地点选择 :新乡大学城(夜晚)

抓取地址 :https://www.ele.me/place/wtw0tgvd7yr

抓取数据 :店名(name)和店的口味(flavors)。

1.首先观察网页结构,需要登录饿了么官网,F12查看

找到以restaurants开头的信息,并双击打开

2.这时,可以观察到网页的结构信息,这时就比较简单了, 观察网页URL,发现‘offset=’在控制网页页数,limit为24。

```python def Getdata(page): # 爬虫 print('正在爬取第{}页'.format(page/24)) url = 'https://www.ele.me/restapi/shopping/restaurants?extras%5B%5D=activities&geohash=ww30b9kh3zmq&latitude=35.295722&limit=24&longitude=113.933798&offset='+str(page)+'&terminal=web' print(url) headers = {"User-Agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/68.0.3440.75 Safari/537.36", "cookie": "你的cookie信息"} html = requests.get(url, headers=headers) content = re.findall(r'"flavors":.*?,"next_business_time"', html.text) # 用正则获取包含数据的那部分 print(content)

for con in content:
    #print(con)
    jsonstring = "{" + con.replace(',"next_business_time"', "}")  # 完善格式,使其成为准确的json格式
    #print(jsonstring)
    jsonobj = json.loads(jsonstring)
    restaurant_id = jsonobj["id"]
    restaurant_name = jsonobj["name"].encode("gbk", "ignore").decode("gbk")
    print(restaurant_name)
    flavors = jsonobj["flavors"]
    restaurant_type = []
    for f in flavors:  # 有些flavors中只有一个值,有些有2个,所以要for循环
        restaurant_type.append(f["name"])
    restaurants.append(restaurant_name)  # 用于后面词云图
    foodtype.append(restaurant_type)  # 用于后面条形图
    data.append([restaurant_id, restaurant_name, restaurant_type])
with open("elemedata.csv", "w", newline="") as f:  # 保存数据到本地
    writer = csv.writer(f)
    writer.writerow(["restaurant_id", "restaurant_name", "restaurant_type"])
    for d in data:
        writer.writerow(d)
return restaurants, foodtype  # 返回值应用到下面2个函数

```

爬取结果如下

csv文件: 外卖种类信息直方图

除简餐外,炸鸡炸串,盖浇饭、烧烤是夜间外卖三巨头,果汁奶茶和川湘菜,面食也是大家的心头好。

词云图

观察在夜晚大学城炸鸡,汉堡类要比面食类更受欢迎,粥、香锅、麻辣烫也十分受欢迎。

原文链接

参考文献

  • 基于redis的分布式自动化爬虫的设计与实现(华中科技大学·曾胜)
  • 基于爬虫的网络新闻订阅和跟踪系统的设计与实现(华中科技大学·严园)
  • 面向多爬虫的监控系统的设计与实现(北京邮电大学·张军强)
  • 基于网络爬虫的基金信息抽取与分析平台(华南理工大学·陈亮华)
  • 基于增量反馈和自适应机制的主题爬虫系统的设计与实现(南京理工大学·王斐)
  • 面向中小学教育资源的网络爬虫的研究与设计(中央民族大学·郑名达)
  • 基于网络爬虫的水利信息聚合系统的设计与实现(华中科技大学·闫宁)
  • 金融信息实时发布系统的设计与实现(东北大学·伦健)
  • 面向人物简介的主题爬虫设计与实现(吉林大学·蒋超)
  • 金融信息实时发布系统的设计与实现(东北大学·伦健)
  • 复合规则驱动聚焦爬虫系统的设计与实现(哈尔滨工业大学·刘强)
  • 基于网络爬虫的数据采集系统设计与实现(东北大学·赵彦松)
  • 基于页面分析的网络爬虫系统的设计与实现(华中科技大学·郝以珍)
  • 主题微博爬虫的设计与实现(中原工学院·王艳阁)
  • 基于网络爬虫的基金信息抽取与分析平台(华南理工大学·陈亮华)

本文内容包括但不限于文字、数据、图表及超链接等)均来源于该信息及资料的相关主题。发布者:源码导航 ,原文地址:https://m.bishedaima.com/yuanma/35956.html

相关推荐

  • springboot会员管理系统源码分享

    这是一个🔥🔥springboot会员管理系统源码分享🔥🔥的项目源码,开发语言Java,开发环境Idea/Eclipse,这个 会员管理系统开发技术栈为SpringBoot项目
    2024年05月23日
    52 1 8
  • 基于SpringBoot框架的网上服装商城

    这是一套采用🔥🔥SpringBoot为核心的电商服装平台源代码,主要编程语言为Java,并结合了Vue,js技术,开发工具选择的是Idea或Eclipse,此项目可被用作毕业设计或课程实践任务
    2024年05月23日
    56 1 8
  • 植物大战僵尸之Python

    植物大战僵尸 项目主要内容与目标 模仿设计并实现基于面向对象思想的一个简单版控制台植物大战僵尸, 植物设计包含向日葵, 普通豌豆射手, 双发豌豆射手, 寒冰豌豆射手
    2024年05月14日
    2 1 1
  • SSM实现值班管理系统排班管理系统

    值班管理系统是现代组织中不可或缺的一部分,其对于人力资源的合理调配和工作效率的提升至关重要,随着信息技术的迅速发展,基于Spring,SpringMVC和MyBatis的值班管理系统(SSM实现值班管理系统)逐渐成为研究和应用的热点
    2024年05月07日
    10 1 5
  • Spring boot 实战--- 社区论坛

    Spring boot 实战--- 社区论坛 开发社区首页 开发流程 1 次请求的执行过程 分步实现 开发社区首页
    2024年05月14日
    3 1 2
  • 基于python实现人脸识别登录系统

    图片转化系统 一,图片管理系统亮点:本系统注重登录方式 1,1 登录方式一: 运用本地摄像头进行实时拍照登录,拍照得到的图片识别获取人脸与文件库里的人脸进行对比登录
    2024年05月14日
    4 1 2
  • 基于Python实现的电影数据可视化分析系统

    1, 引言 1,1 编写目的 使读者能够了解MOVA项目的概况 1,2 读者对象 电影行业从业人员,电影爱好者 1,3 软件项目概述 项目名称:Movie Visualization Analysis system (MOVA) 用户单位:个人用户 开发单位:HITSZSE_group10 功能用途:数据查询
    2024年05月14日
    13 1 1
  • JSP+Sqlserver实现威客任务平台(源码+论文)

    威客任务平台一直以来在网络众包领域发挥着重要作用,随着互联网的发展,威客任务平台越来越受到人们的关注和青睐,基于JSP,Servlet和SQL Server的威客任务平台是当前研究的热点之一
    2024年05月07日
    10 1 1
  • 基于springboot电商项目秒杀系统

    基于springboot电商项目秒杀系统 1,项目简介 大三学生准备实习找工作,写下这个小项目, 项目秒杀系统封装还不算太好,后续打算写一个商城项目并运用其中进行二次开发
    2024年05月14日
    2 1 1
  • CNN 模型之Python

    CNN 模型 一,CNN 模型原理 1,1 什么是 CNN 在数字图像处理中有一个称为“边缘检测”的技术,它用到了信号的卷积操作,使用 Sobel 算子和原图像做卷积
    2024年05月14日
    2 1 1

发表回复

登录后才能评论