㈠ python爬虫能干什么
什么是爬虫?
网络爬虫，是一种按照一定的规则，自动地抓取万维网信息的程序或者脚本，另外一些不常用的名字还有蚂蚁、自动索引、模拟程序或蠕虫。
通俗的来讲，就是通过程序去获取web网页上自己想要的数据，也就是自动抓取数据。
爬虫可以做什么?
你可以利用爬虫抓取图片、视频等等你想要的数据，只要你能通过浏览器访问的数据都可以通过爬虫获取。
爬虫的本质是什么?
爬虫的本质主要是模拟浏览器打开网页，从而获取网页中我们想要的那部分数据。
从事Python爬虫工作需要懂什么?
学习Python基础知识并实现基本的爬虫过程：一般获取数据的过程都是按照 发送请求-获得页面反馈-解析并且存储数据
这三个流程来实现的。这个过程其实就是模拟了一个人工浏览网页的过程。
Python中爬虫相关的包很多：urllib、requests、bs4、scrapy、pyspider 等，我们可以按照requests
负责连接网站，返回网页，Xpath 用于解析网页，便于抽取数据。
了解非结构化数据的存储：爬虫抓取的数据结构复杂 传统的结构化数据库可能并不是特别适合我们使用。我们前期推荐使用MongoDB 就可以。
掌握一些常用的反爬虫技巧：使用代理IP池、抓包、验证码的OCR处理等处理方式可以解决大部分网站的反爬虫策略。
了解分布式存储：分布式这个东西，听起来很恐怖，但其实就是利用多线程的原理让多个爬虫同时工作，需要你掌握 Scrapy + MongoDB + Redis
这三种工具就可以。
㈡ 请问什么是网络爬虫啊是干什么的呢
网络爬虫（Web crawler）是一种按照一定的规则，自动地抓取万维网信息的程序或者脚本。
网络爬虫被广泛用于互联网搜索引擎或其他类似网站，可以自动采集所有其能够访问到的页面内容，以获取或更新这些网站的内容和检索方式。
(2)爬虫工具可以做什么扩展阅读：
许多网站针对爬虫都设置了反爬虫机制。常见的有：
1、登陆限制：通过模拟登陆可以解决
2、用户代理检测：通过设置User-Agent header
3、Referer检测：通过设置Referer header
4、访问频率限制：如果是针对同一账号的频率限制，则可以使用多个账号轮流发请求；如果针对IP，可通过IP代理；还可以为相邻的两个请求设置合适的时间间隔来，减小请求频率，从而避免被服务端认定为爬虫。
㈢ python网络爬虫可以干啥
Python爬虫开发工程师,从网站某一个页面(通常是首页)开始，读取网页的内容，找到在网页中的其它链接地址，然后通过这些链接地址寻找下一个网页，这样一直循环下去，直到把这个网站所有的网页都抓取完为止。如果把整个互联网当成一个网站，那么网络蜘蛛就可以用这个原理把互联网上所有的网页都抓取下来。
网络爬虫(又被称为网页蜘蛛，网络机器人，在FOAF社区中间，更经常的称为网页追逐者)，是一种按照一定的规则，自动的抓取万维网信息的程序或者脚本。另外一些不常使用的名字还有蚂蚁，自动索引，模拟程序或者蠕虫。爬虫就是自动遍历一个网站的网页，并把内容都下载下来