首页 PR媒体博客 找海外网红跟PR Media 太痛苦?我让 AI 帮我们写了一个 Google 结果抓取工具

找海外网红跟PR Media 太痛苦?我让 AI 帮我们写了一个 Google 结果抓取工具

围绕海外网红与PR媒体资源开发,记录借助AI制作Google搜索结果收集工具的过程,分享如何减少重复整理工作、积累候选资源并提高调研效率。

PR媒体开发配图 1

之所以开发这个小插件是因为之前的谷歌搜索结果可以在setting那里设置每页显示100条, 再用Seoquake或者instant data等插件小工具可以把当前的100页批量导出来分析, 但去去年9月份左右, 谷歌现在setting页设置不了每页显示100条, 只能显示10条,那我就试试能不能让AI帮忙做个小插件能抓取Google搜索前1000的数据呢

前几天我一直在想一件事:

我们最消耗人的地方到底是什么?

不是策略。

也不是创意。

很多时候,是那些看起来不难、但特别磨人的重复动作。

PR媒体开发配图 2

比如给智能硬件品牌找 PR Media、Blogger、YouTube、Instagram、TikTok 达人。

你要打开 Google。

输入一个关键词。

翻页。

打开结果。

判断它是不是媒体、是不是测评、是不是值得开发。

复制链接。

放进表格。

再慢慢找作者、编辑、邮箱。

一天过去了。手很忙,脑子很累,但真正沉淀下来的东西,可能只是一张还没整理干净的表。

所以今天我们要做的,不是一个看起来很酷、但用不上大忙的 Demo。

而是基本上每天真的会用的小插件。

目标很简单:

输入关键词。自动从 Google 搜索结果里提取真实链接。然后导出 CSV。

后续这张表可以继续接邮箱查找工具、CRM、Airtable、Google Sheet,变成一个完整的 PR Media / KOL 开发流程。

PR媒体开发配图 3

01

第一版,我们其实做错了

最开始的版本很快。

快到我自己都有点开心。

我们先做了一个 Google Top Results 工具,可以输入关键词,自动生成 Google 前 100、前 500、前 1000 的分页链接。

PR媒体开发配图 4

看起来很像那么回事。

但很快发现:

这个方向不够。

因为它导出来的是这样的链接:

https://www.google.com/search?q=electric+bike+media&hl=en&gl=us&start=0&safe=off

也就是说,它导出的是 Google 搜索页链接。

而我们真正想要的,不是 Google 搜索页。

我们要的是搜索结果里面的真实媒体链接。

比如:

electricbikeblog.comwired.com/story/...cnet.com/home/security/...youtube.com/watch?v=...

这些才是后续可以打开、判断、找编辑、找网红、找邮箱的资源。

PR媒体开发配图 5

▲ 第一版导出的还是 Google 搜索页链接,不是结果里的真实媒体 URL

这里我们意识到一个关键点:网页工具只能生成搜索任务。真正要抓取 Google 页面里的结果,还是要做浏览器插件。

因为普通网页没有权限直接读取 Google 搜索页面里的内容。

这也是这个工具从“链接生成器”升级成“Chrome 插件”的原因。

PR媒体开发配图 6

02

第二版,我们改成了 Chrome 插件

插件逻辑被重新设计了一遍。

它不再只是生成 Google 搜索链接,而是直接在 Google 搜索结果页读取页面里的真实结果。下面就是上传到chrome://extensions/的压缩包后的样子

PR媒体开发配图 7

目前有两个核心按钮。

提取当前页:你在 Google 搜索框里搜什么,它就抓当前页面里的真实链接。

批量提取:你在插件里输入多个关键词,它自动打开 Google 搜索页,一页一页抓取结果。

比如你在 Google 搜索框里搜:

smart home review

然后点插件里的“提取当前页”,它就会抓当前 Google 页面上的媒体、YouTube、论坛、测评站链接。

如果你要批量开发某个品类,比如 eBike,就可以在插件里输入:

electric bikeebikefolding ebike

再选择国家、数量、模式,插件会自动跑。

▲ 提取当前页用 Google 搜索框;批量提取用插件里的关键词

这个区别很重要:临时看一个关键词,用“提取当前页”。批量开发一个品类,用“批量提取”。

第一个坑:Google 地区域名权限不够

插件刚做出来,第一次批量抓取就报错了。

提示大概是:

Cannot access contents of url https://www.google.com.hk/search?...

原因很典型:

我们设置的是 google.com 的权限,但浏览器可能会自动跳转到 google.com.hk、google.com.tw 或其他 Google 地区域名。

插件没有这些域名权限,就不能读取页面内容。

▲ Google 自动跳转到区域站点后,插件权限不够就会失败

所以我们把权限扩展到多个常用 Google 域名:

google.com / google.co.uk / google.ca / google.com.au

google.de / google.fr / google.co.jp / google.com.sg

google.com.hk / google.com.tw / google.co.in / google.com.my

这样它在不同国家搜索时,不会因为跳转域名而抓取失败。

第二个坑:抓到了很多 Semrush、Bing、Whois 的噪音

权限问题解决后,插件能抓了。

但新的问题来了:

它抓得太多了。

尤其是浏览器里装了 SEOquake、Semrush 这类插件时,Google 页面上会出现很多额外数据。

比如:

semrush.com/analytics/...bing.com/search?...whois.domaintools.com/...

这些不是 Google 搜索结果本身,而是浏览器插件插入到页面里的数据。

如果不处理,导出的表格就会很脏。

▲ 第一次导出时,混入了大量 Semrush、Bing、Whois 等无关链接

这个问题很真实。

因为很多做 SEO、PR、联盟、竞品分析的人,浏览器里都会装一堆插件。

如果我们的工具不能识别这些插件噪音,那它就不适合真实工作环境。

所以我们加了一层过滤规则。

目前会自动过滤:

Semrush / Bing / Whois / DomainTools

Similarweb / Ahrefs / Moz / Majestic

SEOquake / SpyFu / Ubersuggest / Neil Patel

这些都不是我们要开发的媒体或达人资源。

过滤后,再导出的结果就干净很多。

▲ 过滤后,结果更接近真实媒体、测评站、YouTube 资源

第三个坑:过滤太严,又变成 0

工具开发最有意思的地方就在这里。

你以为解决了一个问题,马上就会出现另一个问题。

一开始抓得太宽,噪音太多。

后来规则收紧,又太严。

页面明明有真实结果,比如:

electricbikeblog.comelectricbike-blog.comelectricbikes.com/blog

但是插件显示 0。

▲ 页面明明有结果,但插件抓取为 0,这是规则过严导致的

这一步其实很关键。

因为 Google 搜索页不是一个稳定的表格。

它会因为地区、账号、语言、浏览器插件、AI Overview、Short Videos、Forums、Shopping 模块而变化。

如果插件只识别某一种固定结构,很容易失效。

所以我们最后把抓取逻辑改成:

新的抓取逻辑

  1. 先扫描页面里所有链接

  2. 排除 Google 自己的链接

  3. 排除 Semrush、SEOquake、Bing、Whois 等噪音

  4. 再用标题、域名、平台类型判断是否是真实结果

这比一开始只抓固定搜索结果容器更稳。

不是最完美,但更适合真实环境。

第四个坑:YouTube 链接重复

还有一个问题也很常见。

Google 里经常会出现 YouTube 视频的不同时间戳链接。

比如:

youtube.com/watch?v=xxx&t=0youtube.com/watch?v=xxx&t=30youtube.com/watch?v=xxx&t=151

这些看起来是不同链接,但其实都是同一个视频。

如果不处理,导出的 CSV 里会出现很多重复视频。

所以我们加了 YouTube 链接归一化。

只保留核心视频 ID:

https://www.youtube.com/watch?v=xxx

这样同一个视频不会因为时间戳重复出现。

这个功能对开发 YouTube 达人很有用。因为我们真正要的是频道或视频资源,而不是同一个视频的多个时间点。

PR媒体开发配图 8

03

为什么 Top 10 会导出 74 条?

测试过程中还出现了一个看起来很奇怪的问题。

明明插件里选择的是 Top 10,为什么最后导出了 74 条?

其实这是正常的。

因为我们当时输入了 3 个关键词:

electric bikeebikefolding ebike

同时选择的是 PR Media 模式。

而 PR Media 模式会自动扩展关键词:

原词 / media / magazine / blog / blogger / press / write for us

也就是说,Top 10 不是总共只抓 10 条。

而是每一个扩展后的搜索词,最多抓前 10 条。

所以最后出现 74 条,是合理的。

▲ Top 10 指的是每组扩展关键词 Top 10,不是总结果数 10

如果只想总共抓 10 条,就把模式改成“原关键词”,并且关键词只保留一行。

这个点后续我们也可以在插件里做得更清楚:

一个是“每组关键词 Top 10”。

另一个是“总结果数限制 10”。

这样第一次用的时候就不容易误解。

PR媒体开发配图 9

04

最后,我们把出海指南的 Logo 也加进去了

工具不只是能用,也要像自己的东西。

所以我们把出海指南的 Logo 加进插件里。

这不是为了好看而好看。

而是看到的时候,知道这个工具是出海指南自己的工作流资产。

▲ 出海指南 Logo,后续会作为工具产品的统一视觉资产

现在插件打开后,会显示:

出海指南PR Media / KOL Extractor导出 Google 真实结果链接

这就是我们自己的工具。

不是外面买来的模板。

也不是只能演示不能落地的 Demo。

而是一个可以继续迭代的、贴着业务长出来的小工具。

PR媒体开发配图 10
PR媒体开发配图 11

05

现在这个工具能做什么?

目前第一版已经能完成这些事:

当前能力清单

  • ✅ 从 Google 当前搜索页提取真实结果链接

  • ✅ 输入多个关键词进行批量搜索

  • ✅ 支持 US、UK、Canada、Australia、Germany、France、Japan、Singapore 等国家

  • ✅ 支持 PR Media、Review / Best、YouTube、Instagram、TikTok 等模式

  • ✅ 自动过滤 Semrush、SEOquake、Bing、Whois 等插件噪音

  • ✅ 自动识别 Website、YouTube、Instagram、TikTok、Facebook、LinkedIn 等平台

  • ✅ 自动去重域名

  • ✅ 导出 CSV

  • ✅ 预留媒体名、编辑、邮箱、粉丝量、备注等字段

导出的 CSV 可以继续进入下一步:

找作者。

找编辑。

找邮箱。

判断流量。

判断是否适合 PR 投放。

判断是否适合网红合作。

再分配给团队成员跟进。

PR媒体开发配图 12

06

它现在还不能做什么?

这也要讲清楚。

目前这个插件还不是一个完整的媒体开发系统。

它现在解决的是第一步:

把 Google 搜索结果里的真实链接批量拉出来。

但后面的这些能力,还需要继续开发:

但这反而让我觉得这个工具更值得继续做。

因为它不是一个孤立的小插件。

它可以变成一个出海品牌的媒体资源开发入口。

PR媒体开发配图 13

07

为什么这个小工具对有价值?

因为我们很多每天都在做大量“信息搬运”。

尤其是 PR、Affiliate、Blogger、KOL 开发这类工作。

很多流程本质上是:

搜索。

筛选。

整理。

联系。

跟进。

复盘。

AI 和小工具最先能解决的,不是替代人的判断。而是把人从低价值的重复动作里释放出来。

先把 100 个可能资源抓出来。

再让人去判断最值得跟进的 20 个。

这已经能省下很多时间。

PR媒体开发配图 14

08

今天这个开发过程给我的启发

今天最有意思的,不是我们做出了一个插件。

而是这个插件不是一开始就对的。

它是被真实问题一步一步推出来的。

一开始,我们以为导出 Google 搜索页链接就够了。后来发现不够,因为团队要的是结果里的真实媒体链接。于是改成 Chrome 插件。插件能抓了,又发现抓进来一堆 Semrush 数据。于是加过滤。过滤太严,又变成 0。于是再放宽抓取范围。YouTube 重复,又做链接归一化。Top 10 变 74,又补充解释关键词扩展逻辑。

这就是工具从“能演示”走向“能工作”的过程。

真正的自动化不是一键生成一个漂亮页面。

而是和业务一起磨。

哪里不顺,就改哪里。

哪里误解,就补哪里。

哪里数据脏,就过滤哪里。

工具只有经过这些细碎的问题,才会变得真的有用。

PR媒体开发配图 15

09

下一步,我们想继续做什么?

这个插件只是第一版。后面如果继续做,我觉得下面几点可以多参考

PR媒体开发配图 16

方向一:媒体资源开发工具

输入关键词,自动抓取 Google 结果,自动识别媒体类型,自动提取编辑名字和邮箱,最后生成一张可跟进的 PR Media 表。

方向二:KOL 资源开发工具

支持 YouTube、Instagram、TikTok 单独模式,自动识别频道、达人主页、视频链接,并预留粉丝数、互动率、联系方式字段。

方向三:接入出海指南网站

让品牌方先用轻量版本生成搜索任务和资源模板,再进入邮箱匹配、流量筛选、资源判断等付费服务。

这可能会成为一个非常适合出海指南的工具入口。

因为它不是泛泛地讲“AI 赋能出海”。

它是真的解决一个很具体的问题:

海外媒体和网红资源,怎么更快找到。

PR媒体开发配图 17

10

写在最后

我越来越觉得,AI 时代对小团队最大的帮助,不是突然让我们拥有一个庞大的技术团队而是让我们可以把那些长期想做、但过去总觉得“不值得专门开发”的小工具,一个一个做出来。

这些工具可能不大。

但它们贴着业务。

它们解决的也不是宏大的概念,而是每天都在发生的小麻烦。

比如:

Google 结果能不能一键导出?

Semrush 插件噪音能不能过滤掉?

YouTube 重复链接能不能合并?

PR Media 能不能按关键词批量找?

这些问题看起来很小。但小问题积累久了,就会影响到效率。

后续会加入流量筛选、Airtable / Google Sheet 同步等功能。希望能够提高更高的效率,欢迎多交流

免责声明:文章内容不代表本站立场,本站不对其内容的真实性、完整性、准确性给予任何担保、暗示和承诺,仅供读者参考,文章版权归原作者所有。如本文内容影响到您的合法权益(内容、图片等),请及时联系本站,我们会及时删除处理。

作者: 出海指南

微信公众号:下班后8小时, 操盘孵化宠物,储能,3C等多个品牌从0-1,花过1亿+预算,百万美金众筹项目经验。擅长Google, Facebook 广告投放,联盟分销渠道以及网红/Deal等低成本获客

为您推荐

如何查找海外科技媒体编辑(一)

分享2019年海外科技媒体编辑研究方法,介绍媒体资源开发与联系准备思路。

海外媒体合作(4):6个联系编辑和记者的方式

上篇文章和大家分享了10个写Pitch Letter的小建议,今天和大家分享下和媒体合作的六个方式

海外媒体合作(3):10个写Pitch Letter的小Tips!

虽然AI技术如今广泛应用,大家直接通过ChatGPT生成邮件变得十分流行和方便,但如何让ChatGPT写出更具人性化和个性化的邮件呢

海外PR媒体合作(2):Earned Media VS Paid Media

Earned Media就是你通过自身社交或外联的努力所获得的一切免费的曝光和传播。比如:和KOL免费合作的视频或社交媒体帖子,和媒体合作的免费产品测评文章或者报道等等;反之,Paid Media就是这一切曝光和传播的内容都是要花钱的

海外媒体合作(1):10个专业术语扫盲!新手PR推广必看!

我会分享几篇关于和媒体进行线上合作的干货或者实战小故事。今天这篇文章带大家扫盲一下和媒体合作必须要知道的10个行业术语!希望能帮到新手PR推广朋友们

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

返回顶部