温馨提示:若页面不能正常显示数学公式和代码,请阅读原文获得更好的阅读体验。

作者:赵国威(暨南大学)
邮箱zhaoguowei0912@gmail.com

  • Title: Python 爬虫:爬取 Seeking Alpha 的财报电话会议文本
  • Keywords: 爬虫, Conference Calls, Playwright, B861

概要:

本文介绍了如何使用 Python 和 Playwright 库,分两步高效爬取 Seeking Alpha 网站上上市公司的财报电话会议(Earnings Call Transcripts)文本。第一步按公司代码(Ticker)收集所有相关会议的链接,第二步逐条访问这些链接并提取会议正文。文章详细解释了每个步骤的技术实现,包括动态滚动加载、验证码处理、异常管理和断点续爬等关键环节。通过这种方法,研究人员可以系统获取高质量的财报电话会议文本数据,用于金融与会计领域的实证分析。

复现代码和样本数据:

实现上述分析过程的 Python 代码和样本数据可以在连享会 GitHub 仓库 中获取:

https://github.com/lianxhcn/data →
    B861-SeekingAlpha_conference_call_sample_data

爬虫程序:

1. 财报电话会议文本是什么?

财报电话会是信息含量极高的“一手文本”,在金融与会计研究中用途广泛。在以往的研究中已经有如下的用法:

  • 文本情绪/基调(tone):管理层措辞的积极/消极、确定性/不确定性,常用于解释公告后超额收益波动的横截面差异。
  • 前瞻性指引与软信息:对未来收入、成本、产能、订单、库存、宏观风险的描述,为盈利预测误差分析师分歧机构持仓调整等研究提供文本特征。
  • 行业/主题抽取:基于 topic model 或 embedding,挖掘公司/行业受关注主题与结构性变化,支撑因子构建行业轮动研究。
  • 管理层风格与信誉:语言复杂度、模糊度、夸张型修辞、回避式回答等指标,常用于解释盈余管理、信息不对称、公司治理等议题。
  • 事件研究:结合公告窗口的价格与量,评估信息含量与市场反应。

以下是一些使用 Earning Call Transcripts 数据进行的研究:

  1. Chen, J., Demers, E., & Lev, B. (2018). Oh What a Beautiful Morning! Diurnal Influences on Executives and Analysts: Evidence from Conference Calls. Management Science, 64(12), 5899–5924. LinkPDFGoogle.

  2. Kimbrough, M. D. (2005). The effect of conference calls on analyst and market underreaction to earnings announcements. The Accounting Review, 80(1), 189–219. LinkPDFGoogle.

  3. Cohen, L., Lou, D., & Malloy, C. J. (2020). Casting Conference Calls. Management Science, 66(11), 5015–5039. LinkPDFGoogle.

  4. Chen, J. V., Nagar, V., & Schoenfeld, J. (2018). Manager-analyst conversations in earnings conference calls. Review of Accounting Studies, 23(4), 1315–1354. LinkPDFGoogle.

  5. Price, S. M., Doran, J. S., Peterson, D. R., & Bliss, B. A. (2012). Earnings conference calls and stock returns: The incremental informativeness of textual tone. Journal of Banking & Finance, 36(4), 992–1011. LinkPDFGoogle.

总之,Transcript 是“可计算的基本面文本数据源”,对于资产定价、文本因子、ESG、公司金融、审计与信息披露等方向都很有价值。我们在公司的投资者关系页面可以获得公司最新的 Earning Call Transcript,但在研究中我们往往需要用到公司以往的大量 Transcript 文本,而一些 Transcript 的聚合服务商就提供了这样一个途径,Seeking Alpha 就是平台之一。

Seeking Alpha Premium 的 Transcript 是其团队从上市公司财报电话会议的音频中,通过专业转录和严格校对后生成的高质量、可搜索、可阅读的逐字文字记录。不仅是一份原始的对话文本,更是一个集成了强大工具的分析平台,旨在帮助投资者从这些最重要的公司沟通中高效地提取关键信息,对于研究者而言,也提供了一份不可多得的高质量研究数据。下面,本文将给出详细的 Transcript 的爬取策略和代码。

本文所讨论的技术方法旨在用于个人教育、研究及合理使用范畴,旨在提升信息获取的效率。请您务必遵守以下原则:

  1. 尊重知识产权:Seeking Alpha 平台的所有内容,包括但不限于财报会议文字记录(Transcripts)、新闻文章及分析评论,均受版权法及其他相关知识产权法的保护。这些内容是 Seeking Alpha 及其供稿人的宝贵资产。
  2. 合法获取内容Seeking Alpha Premium 会员服务是获取并使用其内容的唯一合法与授权途径。我们强烈建议并支持您通过订阅官方会员服务来支持平台的持续运营与高质量内容的产出。
  3. 禁止商业性滥用:本文介绍的自动化技术严禁用于任何形式的商业性数据爬取、大规模复制、重新分发或数据贩卖行为。此类行为不仅严重侵犯版权,也可能违反 Seeking Alpha 的用户协议,并可能导致法律责任。
  4. 遵循 robots.txt 与访问频率:即使为个人用途,任何自动化访问也应严格遵守 Seeking Alpha 网站的robots.txt协议,并应将请求频率限制在友好的范围内,避免对 Seeking Alpha 的服务器造成任何不必要的负担或干扰。恶意、高频的爬取行为是不道德的,也可能是非法的。

2. 爬取策略:两步走

爬取的总体思路如下:

  • 步骤 A(按 Ticker 收集链接):按公司代码逐个访问其 Transcript 列表页,滚动加载抓取所有文章链接,保存为 {ticker}.json文件用于下一步爬取。
  • 步骤 B(按链接下载正文):读取每个 {ticker}.json,逐条访问文章页,提取正文并保存为 .txt 文件。并记录失败链接用于第二次爬取。

为什么要采取两步爬取策略呢?主要有以下几点考虑:

  • 如果想要拿到所有的 Transcript 文本,Seeking Alpha 中显示所有 Transcript 的页面最多只能支持爬取一年左右的数据,而按照 Tikcer 爬取则无此限制。
  • 拿到所有文章链接后,可以对不同的 ticker 分批、并发或者不同设备执行文章的下载。
  • 文章链接的清单与文本的爬取分离执行、保存,结构清晰,容易排查问题和去重复

温馨提示:若页面不能正常显示数学公式和代码,请阅读原文获得更好的阅读体验。

Logo

Agent 垂直技术社区,欢迎活跃、内容共建。

更多推荐