盘天下 | 免费精选资源分享

MediaCrawler是什么

MediaCrawler是一个在线开源的 小红书 抖音 微博 爬虫 工具，支持目前能抓取小红书、抖音、快手、B站、微博的视频、图片、评论、点赞、转发等 信息 。工具原理是利用 play wright搭桥，保留登录 成功 后的上下文浏览器 环境 ，通过执行JS表达式获取一些加密参数 通过使用此方式，免去了复现核心加密JS代码，逆向难度大大降低，使用需要一定的 技术 知识。

MediaCrawler功能列表

MediaCrawler如何使用

创建并激活 python 虚拟环境

# 进入项目根目录 cd MediaCrawler # 创建虚拟环境 python -m venv venv # macos & linux 激活虚拟环境 source venv/bin/activate # windows 激活虚拟环境 venv\Scripts\activate

安装依赖库

pip3 install -r requirements.txt

安装 playwright浏览器驱动

playwright install

运行爬虫程序

# 默认没有开启评论爬取模式，有需要请到配置文件中指定 # 从配置文件中读取关键词搜索相关的帖子并爬去帖子信息与评论 python main.py --platform xhs --lt qr code --type search # 从配置文件中读取指定的帖子ID列表获取指定帖子的信息与评论信息 python main.py --platform xhs --lt qrcode --type detail # 打开对应APP扫二维码登录 # 其他平台爬虫使用示例, 执行下面的命令查看 python main.py --help

数据 保存

• 支持保存到关系型 数据库 （Mysql、PgSQL等）
• 支持保存到csv中（data/目录下）
• 支持保存到json中（data/目录下）

开源小红书抖音微博爬虫工具

源码备份：国内网盘

GitHub：https://github.com/NanmiCoder/MediaCrawler

【新用户手机夸克APP转存可以获得1TB免费空间】

夸克网盘「电影」精选合集：https://pan.quark.cn/s/0755e002f4b6

夸克网盘「纪录片」精选合集：https://pan.quark.cn/s/8c76cd47e8be

夸克网盘「短剧」精选合集：https://pan.quark.cn/s/0f27fae4301e

夸克网盘「音乐」精选合集：https://pan.quark.cn/s/c999e39a7f49

夸克网盘「教程」精选合集：https://pan.quark.cn/s/27984fcacdad

夸克网盘「书籍」精选合集：https://pan.quark.cn/s/2532536273dd