异步并发:限额、取消与结果关联
用事件同步观察四个任务的并发上限与取消清理,理解事件循环、TaskGroup、线程和进程的适用边界。
Agent 同时检索多个来源时,异步让一个请求等待 I/O 的时间可以被其他请求利用。它不保证每个函数自动并行,也不会让一个阻塞调用变成非阻塞。只在函数前加 async,却在里面执行长时间同步网络请求,仍可能卡住整个事件循环。
协程对象、任务与事件循环
调用 async 函数通常得到协程对象,不等于已经调度执行。await 等待它完成;create_task 将协程安排成任务,使它与其他任务交错执行。事件循环在可挂起点切换,普通 Python 代码连续执行时不会因为“是async函数”就自动让出控制。
因此 await a(); await b() 通常是先完成a再执行b;先创建两个任务再等待,才可能重叠等待时间。对纯CPU计算,协程并不会自然利用多核。常见CPython构建下,线程适合阻塞I/O或释放GIL的库调用,CPU密集工作可考虑进程;无GIL构建、扩展库行为与运行环境需要单独确认。
把同步I/O移到 asyncio.to_thread 可以避免直接阻塞事件循环,但取消等待者通常不能强制终止已经运行的线程函数。外部操作仍需超时与幂等处理,不能把“任务被取消”当作“服务器或线程停止执行”。
限额必须覆盖真正消耗资源的区间
Semaphore(2) 允许最多两个协程进入受保护区。把许可只包住创建请求对象,而实际网络await在外面,不会限制真正的上游并发。还要明确等待许可是否包含在超时预算中:排队五秒再调用两秒,对用户就是七秒,不能只报告两秒上游耗时。
信号量限制运行数,不限制一次创建几万个待执行任务的内存。大批数据应使用有界队列和固定worker,配合背压;单用户也不应占满全局额度。全局、供应商与租户限额可能需要分层设计,获取顺序一致以避免互相等待。
用事件而不是秒表验证行为
保存为 concurrency.py,运行 python -X utf8 concurrency.py。程序让两个任务先进入,再取消编号0,随后释放其他任务;不靠机器快慢比较运行秒数。
"""用事件同步验证并发上限、结果关联和协作取消,不比较不稳定墙钟时间。"""
import asyncio
async def run():
semaphore = asyncio.Semaphore(2)
gate = asyncio.Event()
full = asyncio.Event()
active, peak = 0, 0
cleaned = []
async def job(identifier):
nonlocal active, peak
async with semaphore:
active += 1
peak = max(peak, active)
if active == 2:
full.set()
try:
await gate.wait()
return {'id': identifier, 'value': identifier * 10}
finally:
active -= 1
cleaned.append(identifier)
tasks = [asyncio.create_task(job(i)) for i in range(4)]
await full.wait()
tasks[0].cancel()
try:
await tasks[0]
except asyncio.CancelledError:
cancelled = True
gate.set()
results = await asyncio.gather(*tasks[1:])
return peak, cancelled, results, sorted(cleaned), active
if __name__ == '__main__':
peak, cancelled, results, cleaned, active = asyncio.run(run())
print('峰值并发', peak, '取消已传播', cancelled)
print('按任务ID关联', results)
print('清理完成', cleaned, '仍在运行', active)峰值并发 2 取消已传播 True
按任务ID关联 [{'id': 1, 'value': 10}, {'id': 2, 'value': 20}, {'id': 3, 'value': 30}]
清理完成 [0, 1, 2, 3] 仍在运行 0任务在await处响应取消,finally仍执行,active减少,信号量退出后名额释放。等待被取消任务时捕获CancelledError,是调用方确认取消;任务内部若捕获取消做清理,通常应继续抛出,避免破坏上层超时或结构化并发逻辑。
结果中的id明确绑定输入。gather 按输入顺序返回结果,不代表实际完成顺序;使用 as_completed 时更需要携带id,不能按结果到达顺序与原输入位置强行配对。将测试中的取消目标改成任务1,结果应相应排除1并保留其他ID,不依赖某个工具“通常更快”。
一个任务失败,要不要取消其他任务
TaskGroup 将任务生命周期放在同一个作用域内,其中一个任务发生非取消异常时,通常会取消同组其他任务,等待清理后用异常组报告。这适合“全部成功才有意义”的并行子任务。独立检索源允许部分成功时,可以在每个任务边界把预期源失败转换为明确结果,再统一汇总。
gather 默认传播首个异常,并不自动等价于TaskGroup的全部兄弟取消语义;return_exceptions=True 则把异常放进结果,需要显式区分,不能把异常对象串成正常证据。选择组合工具前应先写清失败策略,而不是只选最短API。
Python超时通常通过协作取消实现。若协程吞掉取消,或在无await的循环中持续运行,截止时间就无法及时生效。必要的短清理可谨慎屏蔽取消,但长期后台操作应有任务归属、生命周期与可观测状态,不能靠shield把任务永久藏起来。
排查并发问题时看哪些证据
记录队列等待、许可获取、请求发送、首响应、完成/取消与清理完成时间。事件循环整体卡顿时,检查同步阻塞与CPU计算;上游429多时,检查有效并发而不是协程数量;用户取消后费用仍增长时,核对传输取消是否传到提供方以及服务端是否支持停止。
共享字典和列表也会被交错任务访问。无await的局部更新在特定实现中可能表现为连续执行,但跨await的“检查后修改”仍有竞争;需要锁、原子存储操作或把所有权集中到单一worker。异步不消除事务与一致性问题。
逐项情境追问与故障定位
以下为机制分析与手算情境。可先遮住回答独立判断,再核对输入、失败位置和选择条件;它们不代表真实模型、远端服务或设备实验记录。
事件循环:async函数里同步sleep两秒导致所有请求卡住,为什么?
事件循环在可挂起点切换,同步阻塞不让出控制。异步I/O用可等待接口,阻塞I/O可移线程,纯CPU重活考虑进程。线程迁移有调度开销且取消不能强杀函数;对照事件循环延迟与调用栈,替换后检查其他任务能推进。
协程与任务:创建协程后没有输出,是事件循环坏了吗?
调用async函数只产生协程对象,await才等待执行,create_task才安排并发任务。顺序await适合依赖任务,独立任务可先创建再等待。检查是否遗漏await或任务在主作用域退出时被取消,并保存任务生命周期,避免只创建后台任务就返回。
并发限额:Semaphore(2)但上游看到10个同时请求,哪里包错了?
许可必须覆盖实际发送到响应清理完成的资源区间,只包创建请求对象不会限制网络并发。窄区间提高利用率但若提前释放会低估占用。记录进入/退出与active最大值,确保异常和取消也释放,再用有界队列控制等待任务内存。
取消传播:取消检索任务后费用仍增加,是否取消API失效?
本地协程收到取消不证明远端执行停止,线程内同步调用也可能继续。先检查CancelledError是否被吞、finally是否结束,再核传输和提供方停止协议。取消传播利于收尾,必要短清理可受控屏蔽;所有外部副作用仍需幂等和状态查询。
线程进程:CPU循环改async后吞吐没提高,线程还是进程?
常见带GIL的CPython下纯PythonCPU任务不能靠协程利用多核,进程可并行但有序列化和内存成本;阻塞I/O或释放GIL扩展适合线程。先确认CPU占比和库行为,再用同输入测吞吐及总内存,不从线程数推断有效并行。
结果关联:as_completed结果按到达顺序写回输入数组,为什么错位?
完成顺序不等于输入顺序,每个任务须携带稳定id,按id归并。gather保留输入顺序方便但可能等慢项,流式到达能早展示却必须关联。让输入A故意更慢、B更快,断言B仍写入B槽并把失败关联同一id。
课后练习展开习题收起习题
先独立作答,再展开参考思路。检查自己的解释是否包含机制、条件和反例。
调用async函数就启动并发了吗?
参考思路与常见误区
通常只创建协程对象,需await或调度成任务。顺序await两个协程通常串行;先创建任务再等待可重叠I/O。async函数中的同步阻塞仍会阻塞事件循环。
常见误区:看到async关键字就认为里面所有代码自动并行。
Semaphore(2)能限制总排队任务只有两个吗?
参考思路与常见误区
不能,只限制进入受保护区的并发数量。大量预建任务仍消耗内存;应结合有界队列、固定worker和背压。许可区需覆盖真正的资源消耗过程。
常见误区:用信号量代替队列容量和内存控制。
任务取消后为什么还要等待它?
参考思路与常见误区
取消是协作请求,需等待任务在挂起点响应并完成finally清理。取消等待者也未必停止线程或远端动作,因此要分别管理外部超时、幂等与确认。
常见误区:调用cancel后立即假定所有资源和副作用已经停止。
gather和TaskGroup的失败策略能互换吗?
参考思路与常见误区
不能直接互换。TaskGroup通常在非取消异常时取消同组其他任务并等待清理,以异常组报告;gather默认传播异常但不具有完全相同的兄弟取消语义。允许部分成功时需显式把预期失败转结果。
常见误区:把所有并发收集API当成相同错误传播方式。
多个工具按完成顺序返回,怎样不串结果?
参考思路与常见误区
每个任务携带稳定调用ID,结果按ID关联原请求。gather返回输入顺序与实际完成顺序不同,as_completed更不能按位置硬配。测试应改变顺序和取消对象验证关联仍正确。
常见误区:凭工具通常的速度推断返回结果属于哪个请求。
行为依据 asyncio任务与取消 和 同步原语。