缓存标签_AI Agent技术社区

缓存

保持缓存的有效性

皮克丹科瓦峰海拔约6000米，向南正好是低洼的柴达木盆地沙漠，再远又是海拔6000米以上的昆仑山，因此，这两座相距几百公里的高山可以互相眺望。当用户长时间不操作、也不退出的时候，大多数 AI Agent 会每隔30秒，自动向服务器发送一个请求，让缓存保存激活状态。现在各家模型的实际缓存期限，最短也有5分钟，因此30秒一次的激活请求，似乎频率太高了。所以，最新的建议是，可以改成。但如果你的应用核心是

 mit6.824
2026-08-21 19:23:46

 224

 5

#缓存
Python 开发中整数缓存机制导致的 `is` 误用问题详解

Python中is和==的区别及整数缓存机制详解本文深入分析了Python中is和==运算符的本质区别，重点揭示了CPython的小整数缓存机制(-5到256)如何导致is误用问题。文章指出： is比较对象身份(内存地址)，==比较值相等 CPython会缓存小整数对象，导致a=256;b=256时a is b为True，而257以上则False 该机制是CPython实现细节，不同解释器行为可

 jjj_web
2026-04-20 09:30:00

 434

 9

#python #缓存 #开发语言
在Agent时代，成本与性能权衡成为首要考量：采用以内存缓存为中心的全新拓扑架构，还是坚持以不断提升算力为核心的计算中心架构？

关键在于推理引擎能够对外开放出更多的接口，让 Agent 应用能够按需干预，即让 Token 柔性工厂根据应用的实际需求来制造，而不是进行固定化生产。openFuyao社区前景广阔，凭借硬件与应用的亲和力，有望做出世界领先的成果。“计算是免费的，数据搬移是昂贵的”。未来会以KVcache等中间结果缓存为中心，算力提升要求缓存带宽同步增长，无论算力如何提升，只要缓存/IO的读取速度跟不上，整体性能就

 openFuyao
2026-06-04 19:45:12

 281

 8

#缓存
Python 缓存机制深度实战：从零打造带过期时间的记忆化装饰器

本文介绍了如何从零开始构建一个带过期时间的Python缓存装饰器。文章首先分析了标准库@lru_cache的局限性，包括缺乏过期时间控制、统计信息和主动清理功能。作者通过实现一个基础版缓存装饰器simple_cache展示了核心原理，然后进阶开发了完整的TTLCache类，包含过期检查、LRU淘汰策略和统计功能。这个缓存系统支持设置默认TTL、最大缓存大小，并能自动清理过期项，适用于生产环境。文章

 清水白石008
2026-02-15 07:41:01

 746

 17

#python #缓存 #spring
Python Deque：构建实时滑动窗口与高性能缓存的“隐藏高手”

Python标准库中的deque（双端队列）是处理实时流数据的高效工具。相比普通列表，deque支持固定容量(maxlen)和O(1)时间复杂度的两端操作，能自动淘汰旧数据。其核心优势包括：自动溢出机制、恒定时间性能、线程安全特性。典型应用场景包括：实时滑动窗口计算、轻量级任务队列、最近搜索记录存储。deque还提供旋转(rotate)和反转(reverse)等高级操作，是处理流式数据的理想选择，

Web极客码
2026-05-14 14:32:56

 291

 5

#python #缓存 #java
《Python 性能优化实战：多进程并行 vs C/Rust/Cython 扩展的对比决策与团队落地指南》

本文探讨Python性能优化策略，对比多进程并行与C/Rust/Cython扩展的优劣。多进程适合IO/CPU混合任务，开发成本低但性能提升有限（2-10倍）；Cython/Rust扩展适用于CPU密集型热点代码，性能可提升100倍以上，但需更高维护成本。通过电商推荐系统的实战案例，展示从多进程（45秒）到Cython（0.8秒）再到Rust（0.35秒）的优化路径。

清水白石008
2026-03-29 06:48:51

 537

 10

#python #缓存 #spring
【实战】黄金暴涨破 $4100 与 A 股深 V 大反弹！如何用 Python + QuantDash 实现跨市场（A股/美股/贵金属）联动套利监控

2026 年 7 月下旬，随着国际政治局势变化，现货黄金价格强势冲破 4100 美元/盎司大关，创下历史新高；与此同时，A 股黄金板块与科技板块在经历了前期的探底后，迎来了强劲的“深 V”大反弹。在瞬息万变的全球宏观环境下，单一市场的量化模型已难以捕捉超额收益。如何利用 Python 实时监控美股黄金 ETF、国际现货黄金与 A 股黄金龙头的盘中联动效应？本文将基于 QuantDash 统一行情

 weixin_45515140
2026-07-23 07:30:24

 314

 12

#python #开发语言 #缓存 +1
2026Python内存优化实战：布尔数组从1MB到100KB，从新手到高手

本文介绍了Python中存储大量布尔值的内存优化方案。从新手常用的list（占内存大）到numpy数组（省87%内存），再到稀疏数组和自动切换密集/稀疏模式的高阶优化，最终推荐使用开箱即用的BoolHybridArray库，可节省90%内存同时保持list的操作体验。该库支持位运算、二维数组、高性能队列等功能，在100万布尔值场景下仅占100KB内存，访问速度与list相当。适用于特征工程、布隆过

 BKsell
2026-07-26 18:31:11

 461

 10

#python #缓存 #开发语言 +3
【python】函数详解

实际开发中我们的一个通常的编程原则, 是 "逻辑和用户交互分离". 而第一种写法的函数中, 既包含了计算逻辑, 又包含了和用户交互(打印到控制台上). 这种写法是不太好的, 如果后续我们需要的是把计算结果保存到文件中, 或者通过网络发送, 或者展示到图形化界面里, 那么第一种写法的函数, 就难以胜任了.上述代码, a, b, c, d 函数中的局部变量名各不相同. 如果变量名是相同的, 比如都是

 辞旧 lekkk
2026-07-17 19:57:51

 320

 10

#python #算法 #开发语言 +4
Java实现异步工作流编排：AI Agent流水线与事件驱动

/ 背压 executor . initialize();} }// 背压 executor . initialize();} }// 背压 executor . initialize();} }// 背压 executor . initialize();} }Bean;import org// 背压 executor . initialize();} }

Leo_Wcg
2026-06-30 01:20:37

 196

 7

#java #人工智能 #开发语言 +3
如何为量化 API 编写“金刚不坏”的二次封装脚手架？基于 Python + Tenacity + Redis 的防限流、自适应重试与多线程行情采集实践

本文介绍了如何利用Tenacity库和Redis为QuantDashAPI构建高弹性多线程行情拉取系统。针对量化交易中常见的API限流（429报错）、网络抖动和重复请求三大痛点，提出了一种基于指数退避重试机制和本地热数据缓存的解决方案。通过Python代码示例展示了核心实现逻辑：1）使用Tenacity实现自适应重试（最多4次，间隔2-10秒）；2）采用带TTL的本地缓存避免重复请求；3）提供线程

 weixin_45515140
2026-07-21 06:52:50

 268

 8

#redis #数据库 #缓存 +1
Python 弱引用深度解析——让缓存不再成为内存泄漏的温床

本文深入解析了Python弱引用(weakref)的原理与应用场景，重点解决了缓存导致的内存泄漏问题。文章首先通过典型缓存示例展示强引用带来的内存问题，随后介绍Python引用计数机制和weakref模块的核心功能。主要应用场景包括：使用WeakValueDictionary实现自动清理的缓存、观察者模式中避免订阅者泄漏、以及利用finalize进行对象生命周期跟踪。最后提供了一个结合LRU淘汰策

 清水白石008
2026-03-14 07:12:54

 465

 8

#python #缓存 #java
腾讯面试官：说说 Agentic RAG 和普通 RAG 的区别？别只答“更智能“（附完整回答）

今天来讲一讲在实践中更常用的Agentic RAG，是一个非常常用的技术。

小马不会过河
2026-06-08 20:07:03

 229

 5

#人工智能 #缓存 #spring +2
Python functools.lru_cache 实战:一行加缓存、可变参数坑与手动失效

有个函数算得慢,或者要反复调远程接口,你想「同样的入参别重复算」。手写一个 dict 当缓存?几行就能踩三个坑:线程安全、缓存无上限撑爆内存、失效逻辑一堆。其实标准库的一行装饰器就搞定了大半——但它也有几个不看文档必踩的坑。这篇讲清楚怎么用、什么时候会翻车、怎么手动控制。

名字还没想好☜
2026-07-22 09:06:13

 199

 3

#python #缓存 #spring
Python多开浏览器缓存隔离完全指南

基础方案：使用独立的用户数据目录进阶方案：Docker化完全隔离高级方案：结合指纹伪装和行为模拟。

m0_74824496
2026-02-27 01:37:22

 594

 14

#python #缓存 #开发语言
「技术杂记」基于LLM的Agent架构组成

LLM调用是单纯的输入-输出，而Agent是具备规划、记忆、工具使用能力的自主系统。

程序猿李巡天
2026-03-21 20:55:38

 305

 2

#架构 #人工智能 #缓存 +4
Python操作Redis：高效缓存设计与实战

上个月帮一个创业团队排查线上事故，他们的电商活动页在大促高峰期整整卡了十分钟。监控显示数据库连接数直接打满，慢查询堆积了上千条。创始人盯着屏幕问我：“不就是展示一下商品详情吗，怎么就把数据库干崩了？我看了一眼代码，每次请求都直连MySQL查商品信息，热门商品被上千人同时刷，数据库扛得住才怪。其实这个问题有个标准解法——缓存。Redis作为业界主流的内存数据库，配合Python的redis-py库，

傻啦嘿哟
2026-03-19 11:09:43

 505

 10

#缓存 #python #redis
注意点：打开超大目录时，VSCode 会持续遍历目录内所有文件、构建索引和缓存，这个过程中进程处于高负载状态；此时强行关闭VSCode，系统**来不及回收正在工作的缓存进程/文件管理进程**

你打开超大目录时，VSCode 会持续遍历目录内所有文件、构建索引和缓存，这个过程中进程处于高负载状态；，残留进程占用了端口、文件句柄、内存锁等关键资源，导致新VSCode进程无法正常启动，清理进程后释放了这些资源，因此能重新打开。→ 残留进程占用端口/句柄/锁 → 重新打开VSCode，新进程资源申请失败→ 启动卡死/打不开 →。（包括主进程+所有残留的缓存、索引、远程服务进程），同时系统会自动

 m0_52935719
2026-02-05 17:41:10

 501

 3

#vscode #缓存 #ide
小白也能懂！LLM Token 输出慢半拍？KV 缓存揭秘与收藏技巧

KV cache 把自回归生成里的重复计算砍掉了。历史 Token 的 K、V 固定不变，只算一次并缓存；新 Token 只补自己的 Q、K、V，再拿完整 cache 做 attention。工程实践里常见到 5x 左右提速。代价是显存占用上升，而且在大规模服务时，这个约束经常比纯算力更先撞线。vLLM、TGI、TensorRT-LLM 这类主流服务栈，底层都建立在这套思路上。

冻感糕人~
2026-04-17 10:08:22

 342

 6

#缓存 #人工智能 #架构 +1
SaaS工作三年的一些有效摸鱼小tips！

互联网在职分享摸鱼放松的经验

 Rauser Mack
2026-04-27 11:25:40

 473

 16

#人工智能 #开源 #学习方法 +3
如何设置API-KEY的环境变量

摘要：本文介绍了如何安全存储API-KEY的方法。建议将API-KEY写入系统环境变量而非代码中，具体步骤包括：1)通过高级系统设置进入环境变量；2)在用户变量中新建变量；3)以模型名称为变量名、API-KEY为值添加；4)在CMD中用echo命令验证是否成功写入。这种方法能有效防止API-KEY泄露，确保代码安全性。

_ 川三西
2026-05-08 11:31:18

 556

 11

#缓存 #语言模型 #vscode
AI Agent从无到有23: 大模型速率限制应对与缓存机制实践

本文介绍了如何利用LangChain实现速率限制与缓存机制，以优化大模型API调用。主要内容包括：速率限制的必要性：商用大模型API普遍存在调用限制，需客户端主动控制请求频率。 LangChain内置速率限制器InMemoryRateLimiter的使用方法和核心参数配置。缓存机制原理：通过内存缓存(InMemoryCache)和持久化缓存(SQLiteCache)减少重复API调用。实战演

 Johnny丶me
2026-08-03 20:30:00

 343

 3

#人工智能 #缓存
Embedder 接口 + 缓存层源码：一个把 key 撑大 3 倍的实现（第71篇-E57）

本文揭示了企业级AI Agent实现中RAG模块的关键问题与优化点。主要内容包括：接口设计：Embedder接口仅保留核心功能，token用量等元数据通过回调机制获取，体现了最小接口原则。缓存架构：采用三接口分工模式（Embedder包装层/Cacher存取层/Generator键生成层），其中键生成策略被抽象为独立接口，支持灵活扩展。性能问题：实测发现HashGenerator生成的Red

李燚
2026-08-02 10:48:26

 487

 5

#缓存 #RAG
《大模型缓存详解：KV Cache、Prompt Cache、GQA、MLA 原理与实践（含图解）》

fill:#333;important;important;fill:none;color:#333;color:#333;important;fill:none;fill:#333;height:1em;持久化输入文本Tokenizer 切分为 token词嵌入 → 向量序列Prefill 阶段并行处理所有 token建立 KV Cache（每层每 token 的 K/V 向量）Decode 阶

 junying6
2026-06-15 17:36:45

 678

 18

#缓存 #人工智能
用阿里云镜像安装指定 CUDA 版本的 PyTorch + 本地 wheel 缓存复用

在国内装 PyTorch，最烦的两件事：一是想却总装错；二是同一个版本要在好几台机器、好几个虚拟环境里反复下载，既费时间又费流量。这篇教程解决两个问题：用阿里云镜像安装的 PyTorch；以及把常用版本的 wheel，之后在任意环境。赶时间的话，直接抄下面这一段三条命令即可；想知道每一步为什么这么写，再往下看详解。下面的export${VAR//./}等写法针对Windows 请把export换成

 Zy海浪
2026-06-17 21:11:53

 506

 3

#阿里云 #pytorch #缓存
深入理解 Subagent 实现原理：从同步委托到异步插件化生产架构

本文介绍了Subagent（子代理）在AI架构中的应用与实现。随着AI Agent在复杂任务中面临上下文膨胀、性能下降等问题，Subagent通过主从协同模式，将任务拆分委托给独立子代理执行，实现上下文隔离与专业化分工。文章从基础单体Agent出发，详细解析了OpenAI的Function Calling机制，并分三个阶段逐步升级：1）同步单层委托实现上下文隔离；2）异步消息驱动提升并发效率；3）

IT枫斗者
2026-07-27 05:30:00

 223

 7

#架构 #golang #游戏 +3
Agent 搜索栈正在替代 RAG

文章拆解为什么 2026 年的 AI Agent 搜索栈正在逐步抛弃传统向量检索，转向更动态的 agentic search 工作流。

朝阳区靓仔_James
2026-07-15 14:39:19

 279

 6

#oracle #数据库 #前端 +4
【高阶】【python网络编程技术初阶，中阶，高阶课程】Python 高阶网络编程：构建异步 DNS 解析器，实现缓存、并发与失败转移 - 提升应用性能的秘密武器

Python 异步 DNS 解析器实现摘要本文介绍如何构建高性能异步DNS解析器，核心功能包括：异步架构：基于asyncio实现非阻塞解析，避免同步阻塞问题缓存优化：集成TTL缓存机制，减少重复查询并发处理：支持同时解析多个域名，提升吞吐量容错机制：多DNS服务器轮询和自动故障转移性能控制：内置超时、重试和并发限制策略实现方案采用Python 3.12+asyncio+dnspyth

机器爱上学习
2025-08-23 08:00:00

 1159

 10

#python #网络 #缓存
【Java-MyBatis】MyBatis 一级缓存和二级缓存的区别？

本文详细对比了MyBatis一级缓存与二级缓存的区别。一级缓存是SqlSession级别的本地缓存，默认开启，生命周期随会话结束而销毁，适合高频短时效查询；二级缓存是Mapper级别的全局缓存，需手动配置，可跨会话共享，适合读多写少的场景。核心区别在于作用域、生命周期和数据共享性。使用时需注意脏读风险和适用场景，二级缓存通常需配合Redis实现分布式扩展。两者分别适用于不同的业务需求，一级缓存提供

 ZGW0513
2025-08-25 07:45:00

 490

 10

#java #mybatis #缓存
【Java-MyBatis】MyBatis 中的缓存机制有啥用？

MyBatis缓存机制通过两级缓存提升查询效率：一级缓存作用于SqlSession内，默认开启但会话结束即失效；二级缓存是Mapper级别的跨会话共享缓存，需显式配置。缓存机制能减少90%以上数据库查询，显著提升性能并降低负载，尤其适合读多写少场景。使用时需注意数据一致性，避免缓存大对象导致OOM，实时性要求高的数据不宜使用缓存。合理配置的MyBatis缓存可带来100倍于磁盘查询的内存读取速度，

ZGW0513
2025-08-25 07:45:00

 1097

 22

#java #mybatis #缓存
【LRU缓存淘汰算法】核心原理、多语言实现（Python/Java/C++）、复杂度优化及高频考点

本文全面解析了LRU缓存淘汰算法，涵盖核心原理、多语言实现、复杂度分析及面试考点。LRU基于"最近最少使用"原则，通过哈希表+双向链表实现O(1)时间复杂度的get/put操作。文章提供Python（OrderedDict）、Java（手写链表）和C++（STL）三种实现方案，并详细分析数据结构选择依据（双向链表支持O(1)节点删除）。高频考点包括：时间复杂度证明、边界处理、L

烟雨AC
2025-08-26 21:51:24

 907

 12

#缓存 #算法
JAVA:实现MRUCache缓存算法（附带源码）

JAVA:实现MRUCache缓存算法（附带源码）

m0_61840987
2025-08-27 00:15:00

 753

 17

#java #缓存 #算法