0

0

如何使用 Selenium(Python)精准提取网页中特定结构的链接

碧海醫心

碧海醫心

发布时间:2026-01-10 16:55:04

|

882人浏览过

|

来源于php中文网

原创

如何使用 Selenium(Python)精准提取网页中特定结构的链接

本文介绍如何利用 selenium 4.8 配合显式等待和 xpath 定位,从嵌套 html 列表(`

  • `)中批量提取目标 `` 标签的 `href` 属性,生成可迭代的 url 列表。

    在 Web 自动化与数据采集场景中,精准定位并提取结构化链接是常见需求。当目标链接深嵌于多层容器(如

  • )且页面存在动态加载时,直接使用 find_elements() 易因元素未就绪而失败。此时应结合 显式等待(WebDriverWait)高精度 XPath 表达式,确保稳定获取。

    以下为完整、健壮的实现方案:

    from selenium import webdriver
    from selenium.webdriver.common.by import By
    from selenium.webdriver.support.ui import WebDriverWait
    from selenium.webdriver.support import expected_conditions as EC
    from selenium.webdriver.chrome.options import Options
    
    # 初始化 WebDriver(以 Chrome 为例)
    chrome_options = Options()
    chrome_options.add_argument("--headless")  # 无头模式,可选
    driver = webdriver.Chrome(options=chrome_options)
    
    try:
        driver.get("https://example.com")  # 替换为目标网址
    
        # 显式等待:最多等待 25 秒,直到所有匹配的  元素出现在 DOM 中
        wait = WebDriverWait(driver, 25)
        link_elements = wait.until(
            EC.presence_of_all_elements_located(
                (By.XPATH, '//li//h4[@class="programme titles"]/a[@class="br-blocklink__link"]')
            )
        )
    
        # 提取所有 href 属性,过滤掉 None 值(避免空链接)
        href_list = [elem.get_attribute("href") for elem in link_elements if elem.get_attribute("href")]
    
        print(f"成功提取 {len(href_list)} 个有效链接:")
        for i, url in enumerate(href_list, 1):
            print(f"{i}. {url}")
    
        # 后续可遍历处理每个链接,例如:
        # for url in href_list:
        #     driver.get(url)
        #     # ... 解析详情页内容
    
    finally:
        driver.quit()  # 确保资源释放

    关键要点说明:

    Sider
    Sider

    多功能AI浏览器助手,帮助用户进行聊天、写作、阅读、翻译等

    下载
    • XPath 精准性://li//h4[@class="programme titles"]/a[@class="br-blocklink__link"] 使用 // 跳过中间层级,@class 精确匹配,避免因多余空格或动态类名(如 xxx)导致误匹配;若 class 含多个值(如 "programme titles active"),建议改用 contains(@class, 'programme titles')。
    • 显式等待优于隐式等待:presence_of_all_elements_located 确保元素已加载进 DOM(不保证可见或可点击),适合链接提取;如需交互,可换用 element_to_be_clickable。
    • 健壮性增强:添加 if elem.get_attribute("href") 过滤空值,防止后续操作报错。
    • 资源管理:务必在 finally 块中调用 driver.quit(),避免浏览器进程残留。

    ⚠️ 注意:Selenium 不适用于大规模静态爬取(推荐 Requests + BeautifulSoup);若目标网站反爬严格,请配合 User-Agent 轮换、合理延时及遵守 robots.txt。

    立即学习Python免费学习笔记(深入)”;

  • 相关专题

    更多
    python开发工具
    python开发工具

    php中文网为大家提供各种python开发工具,好的开发工具,可帮助开发者攻克编程学习中的基础障碍,理解每一行源代码在程序执行时在计算机中的过程。php中文网还为大家带来python相关课程以及相关文章等内容,供大家免费下载使用。

    745

    2023.06.15

    python打包成可执行文件
    python打包成可执行文件

    本专题为大家带来python打包成可执行文件相关的文章,大家可以免费的下载体验。

    634

    2023.07.20

    python能做什么
    python能做什么

    python能做的有:可用于开发基于控制台的应用程序、多媒体部分开发、用于开发基于Web的应用程序、使用python处理数据、系统编程等等。本专题为大家提供python相关的各种文章、以及下载和课程。

    757

    2023.07.25

    format在python中的用法
    format在python中的用法

    Python中的format是一种字符串格式化方法,用于将变量或值插入到字符串中的占位符位置。通过format方法,我们可以动态地构建字符串,使其包含不同值。php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

    617

    2023.07.31

    python教程
    python教程

    Python已成为一门网红语言,即使是在非编程开发者当中,也掀起了一股学习的热潮。本专题为大家带来python教程的相关文章,大家可以免费体验学习。

    1259

    2023.08.03

    python环境变量的配置
    python环境变量的配置

    Python是一种流行的编程语言,被广泛用于软件开发、数据分析和科学计算等领域。在安装Python之后,我们需要配置环境变量,以便在任何位置都能够访问Python的可执行文件。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

    547

    2023.08.04

    python eval
    python eval

    eval函数是Python中一个非常强大的函数,它可以将字符串作为Python代码进行执行,实现动态编程的效果。然而,由于其潜在的安全风险和性能问题,需要谨慎使用。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

    577

    2023.08.04

    scratch和python区别
    scratch和python区别

    scratch和python的区别:1、scratch是一种专为初学者设计的图形化编程语言,python是一种文本编程语言;2、scratch使用的是基于积木的编程语法,python采用更加传统的文本编程语法等等。本专题为大家提供scratch和python相关的文章、下载、课程内容,供大家免费下载体验。

    705

    2023.08.11

    c++主流开发框架汇总
    c++主流开发框架汇总

    本专题整合了c++开发框架推荐,阅读专题下面的文章了解更多详细内容。

    25

    2026.01.09

    热门下载

    更多
    网站特效
    /
    网站源码
    /
    网站素材
    /
    前端模板

    精品课程

    更多
    相关推荐
    /
    热门推荐
    /
    最新课程
    最新Python教程 从入门到精通
    最新Python教程 从入门到精通

    共4课时 | 0.6万人学习

    Django 教程
    Django 教程

    共28课时 | 2.9万人学习

    SciPy 教程
    SciPy 教程

    共10课时 | 1.1万人学习

    关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
    php中文网:公益在线php培训,帮助PHP学习者快速成长!
    关注服务号 技术交流群
    PHP中文网订阅号
    每天精选资源文章推送

    Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号