当前位置:首页 > Python > 正文内容

Python 多线程基础与 ThreadPoolExecutor 实战

admin7个月前 (03-21)Python245

在 Python 中,多线程是实现并发的一种常见方式,尤其在处理 I/O 密集型任务时效果明显。本文从线程的基本概念入手,演示如何使用 threading.Thread 模块创建线程,并对比使用 ThreadPoolExecutor 进行更方便的任务调度。示例均为原创,可直接运行和修改。

1. 线程基础概念

线程是操作系统能调度的最小执行单元。与进程不同,同一进程内的线程共享进程的内存空间,因此线程间通信更直接,但也需要更小心地处理共享资源的同步。Python 的全局解释器锁(GIL)会限制同一时刻仅有一个线程在解释器内执行 Python 字节码,因此多线程更适合 I/O 密集型任务而非 CPU 密集型场景。

2. 使用 threading.Thread 创建线程

下面是一个简单示例,使用 threading.Thread 模拟 I/O 延迟并并行执行多个任务:

import threading
import time

def worker(name, delay):
    print(f"Worker {name} 开始,等待 {delay} 秒")
    time.sleep(delay)
    print(f"Worker {name} 完成")

threads = []
for i in range(3):
    t = threading.Thread(target=worker, args=(i, 1))
    threads.append(t)
    t.start()

for t in threads:
    t.join()
print("所有线程执行完毕")

运行时,线程几乎同时启动,每个线程的"开始"输出会相近,而"完成"输出会在各自等待时间结束后出现,展示了多线程的并行效果。

3. 使用 ThreadPoolExecutor 管理线程池

对于批量提交任务的情况,使用 concurrent.futures.ThreadPoolExecutor 更为方便。线程池会自动管理线程的生命周期,并能获取任务的返回值或异常:

from concurrent.futures import ThreadPoolExecutor, as_completed

def task(n):
    print(f"任务 {n} 开始")
    time.sleep(1)
    return f"结果 {n}"

with ThreadPoolExecutor(max_workers=3) as executor:
    futures = [executor.submit(task, i) for i in range(5)]
    for future in as_completed(futures):
        print(f"完成: {future.result()}")

上面的代码创建了一个最多 3 个工作线程的线程池,提交 5 个任务,使用 as_completed 按完成顺序获取结果。

4. 注意事项与 GIL 的影响

由于 GIL 的存在,Python 的多线程在 CPU 密集型计算中并不会带来性能提升,这种场景更推荐使用多进程或异步 I/O。此外,多个线程访问共享数据时需要使用锁等同步机制,避免数据竞争和不可预测的行为。在实际项目中,结合线程池和合理的任务拆分,能显著提升 I/O 密集型应用的吞吐量。

5. 总结

多线程是 Python 并发编程的重要组成部分。通过 threading.Thread 和 ThreadPoolExecutor,你可以轻松实现并发任务并提高程序响应速度。理解 GIL 的限制和线程安全的重要性,将帮助你编写更加高效和稳定的多线程程序。

相关文章

[Python 教程] OpenCV 绘图教程:图形与文本标注

OpenCV 绘图教程:图形与文本标注本文介绍如何在 OpenCV 中绘制各种图形和添加文本,用于图像标注和可视化。一、绘制基本图形1.1 创建画布import cv2 import&nb...

[Python 教程] Pandas 数据分析实战

Pandas 数据分析实战 Pandas 是 Python 数据分析的核心库,提供 DataFrame 和 Series 数据结构。本文介绍 Pandas 的实用技巧。 一、创建 DataFrame...

Python 上下文管理器实战:从 with 语句到自定义资源管理

在 Python 编程中,上下文管理器(Context Manager)是一个强大但常被低估的特性。当你使用 open() 函数读取文件时,那个熟悉的 with 语句背后,正是上下文管理器在默默工作。...

Python 上下文管理器实战:从 with 语句到自定义资源管理

在 Python 编程中,上下文管理器(Context Manager)是一个强大但常被低估的特性。当你使用 open() 函数读取文件时,那个熟悉的 with 语句背后,正是上下文管理器在默默工作。...

Python 装饰器进阶:从理解到实战

装饰器是 Python 中一个非常强大的特性,它允许你在不修改原函数代码的情况下,为函数添加额外的功能。很多开发者虽然用过装饰器,但对其底层原理和高级用法理解不深。本文将从基础出发,深入讲解装饰器的工...

Python 生成器进阶:理解 yield 与构建高效迭代器

在 Python 开发中,我们经常需要处理大量数据或流式数据,如果一次性将所有数据加载到内存中,不仅会占用大量内存空间,还可能导致程序运行缓慢甚至崩溃。生成器(Generator)正是解决这个问题的利...

发表评论

访客

看不清,换一张

◎欢迎参与讨论,请在这里发表您的看法和观点。