难点何在
消费品牌再也不能仅依赖单一电商平台的评论仪表盘了。同一个 SKU 在 Amazon 上有一个评分,在 Walmart 上有另一个,在 Best Buy 上有第三个,在 Trustpilot 或品牌自己的 Shopify 店铺上还有其他评分。如果您的产品团队、情感模型或 CX 运营队列只看到其中之一,那么您就像是在看着破碎的镜子开车。
这就是评论问题的日常版本:碎片化。评论确实存在,但它们隐藏在十个不同的登录页面、十个不同的渲染技术栈和十个不同的反爬虫策略之后。为了每周向情感分类器提供数据(或者在热门商品出现差评时触发告警),您需要将所有这些最新数据汇集到一处。
在成为数据问题之前,聚合它们首先是一个渲染问题。大多数团队都低估了这前半部分工作的难度。
难点何在
2026 年的评论页面与 2018 年的评论页面已完全不同。所有关键内容都是在初始 HTML 加载之后才加载的:
- 浏览器渲染出外壳后,评论列表本身是通过 JSON 获取的。
- 更深层级的页面(显示更多评论、分页)需要会话携带正确的 cookie,并且通常还需要滚动交互。
- 排序过滤器(最新、仅限已验证购买)会改变 request 签名。一旦出错,电商平台就会向您提供默认视图,并附带隐蔽的 rate limit。
- 整个页面都处于机器人防御系统保护之下,这些系统在查看 User-Agent 之前,会先检查 request 的底层签名、header 顺序以及时间间隔。
使用普通的 HTTP request 获取该页面,您只会得到一个空壳(没有评论,没有结论)。使用您自己搭建的 headless 浏览器获取它,您就必须承担持续维护该浏览器、轮换出口以及在电商平台每次发布反爬虫更新时修补新检测规则的成本。
解决方案
行之稳定的模式是基于浏览器的获取,您可以将其作为单个 API endpoint 进行调用。您只需向其传递评论 URL。它会渲染页面、执行 JavaScript、等待评论数据载入,然后将 DOM 返回给您。会话详情会随 response 一起返回,因此下一次分页获取可以复用它们。
使用 FourA 的 Browser 产品,在 Python 中代码如下所示:
import requests
def fetch_reviews(url, api_key, sticky_proxy=None):
body = {
"url": url,
"unblocker": True,
}
if sticky_proxy:
body["proxy"] = sticky_proxy
r = requests.post(
"https://api.foura.ai/api/browser",
headers={"Authorization": f"Bearer {api_key}"},
json=body,
timeout=60,
).json()
return {
"status": r.get("status"),
"html": r.get("body"),
"cookies": r.get("cookies"),
"sticky_proxy": r.get("proxy"),
"defense_solved": r.get("defenseSolved"),
}
对于评论抓取,有两个细节至关重要。
首先,unblocker: true 可以处理大多数电商平台评论页面背后的协议层防御。如果没有它,您得到的将是验证挑战页面,而不是评论。
其次,返回的 proxy 值是成功渲染的出口的 base36 id。在针对同一商品的下一次调用中将其传回,分页机制就会将您视为同一个访问者。因此,第 1 页加载正常而第 3 页却悄无声息地返回空内容,这两者之间的区别往往取决于您是否固定了会话。
对于只需每周获取前 20 条最新评论快照的商品,可以跳过会话粘性,让每次调用自行选择出口。将固定会话留给真正需要深度分页的 SKU。
预期效果
采用这种模式运行评论聚合的团队应该从以下几个方面进行考量:
- 覆盖范围: 涵盖您所销售的每个电商平台上的每件商品的评论,并根据下游所需的任何频次进行更新,从用于 CX 告警的每日更新到用于趋势分析的每周更新。
- 深度: 每个电商平台每个 SKU 的前 3 到 5 页评论,这是具有实际参考价值的信号所在。对于情感分析而言,第 5 页之后的尾部内容大多是噪音。
- 新鲜度: 新评论在发布后的一天内就会进入您的情感分析流水线,而不是等到两周后运行月度导出时才获取。
- 成本可预测性: 您按渲染的获取次数付费,因此预算随您关注的 SKU 数量而变化,而不是随维护浏览器所需的团队规模而变化。
这些并非凭空捏造的数据。当渲染这一半的问题不再需要您的团队操心时,这就是您能获得的结果。
如果您将此与完整的电商平台监控系统进行对比,评论聚合就是偏重情感分析的近亲。两者使用相同的渲染能力,但下游应用不同。
核心要点
您的品牌所查看的每个仪表盘最终都会呈现为图表。但图表属于下游。上游成本(也是大多数品牌无法做好这件事的原因)在于渲染集群:保持 15 个电商平台界面可访问,在旨在将您拒之门外的防御机制面前保持存活,而其成本却不需要三个工程师外加一份 proxy 合同。
如果渲染这半部分工作阻碍了您的评论聚合项目,那么这就是应该购买的服务。情感模型、仪表盘、告警系统,一旦最新的评论数据开始流入,您的团队在一下午内就能构建好这些部分。