推荐阅读
WordPress 图片优化和压缩插件:Smush

WordPress 图片优化和压缩插件:Smush

优化图像,打开延迟加载,调整大小,压缩和提高您的Google页面速度,使用令人难以置信的强大且100%免费的WordPress图像扫描器,由WPMU DEV的超级团队带给您!文章源自知更鸟-https://zm
推荐阅读
判断 WordPress 文章中有特定短代码时加载脚本

判断 WordPress 文章中有特定短代码时加载脚本

短代码是WordPress常用的功能,虽然目前已被区块所取代,但还是普遍应用中。有些短代码会用到JS脚本,但又不想全局加载,可以用下面的代码实现,添加短代码时仅在当前页面加载JS脚本
从压缩到泄露:KVCacheCompression的选择性失忆与系统提示词风险" 网络安全文章

从压缩到泄露:KVCacheCompression的选择性失忆与系统提示词风险"

本文探讨KVCache压缩引发的选择性失忆与系统提示词泄露风险。研究发现压缩可能导致模型对系统指令的遵循能力非均匀退化,安全约束指令可能比普通业务指令更早失效,从而引发系统提示词泄露。泄露程度与压缩率并非线性关系,高压缩率下泄露分数下降可能因模型连指令内容都无法完整复现,而非安全防御恢复。
从原理到攻击:ApproximateCache安全问题与文生图缓存攻击实验" 网络安全文章

从原理到攻击:ApproximateCache安全问题与文生图缓存攻击实验"

本文研究文生图模型ApproximateCache的安全问题,指出其仅要求输入语义相似即可命中缓存,导致不同用户间产生间接联系。文章提出两种观察对象(响应时间差与生成图片相似性)并组合出三种攻击:RemoteCovertChannel利用时间差传递二进制信息、CacheExposer通过探针恢复受害者缓存中的原始Prompt、CachePoison污染缓存影响他人生成结果。实验证明攻击可行,提示共享缓存机制引入新的安全攻击面。
从DataLake到StateLake:面向Agent时代的存储基础设施重构" 网络安全文章

从DataLake到StateLake:面向Agent时代的存储基础设施重构"

火山引擎存储团队提出StorageAgentInfra概念,面向Agent时代将存储从DataLake升级为StateLake。核心围绕SandboxStore、ArtifactStore和Agent观测与评测三大能力方向,分别解决沙箱运行环境、任务产物流转和全链路可观测问题。通过EBS、EFS、TOS及MQ等产品组合,支撑Agent快速启动、状态保存、多沙箱协作与海量产物管理,为亿级Agent用户提供存储底座。
大模型探索系列:LLM缓存优化与KVCache时间侧信道攻击" 网络安全文章

大模型探索系列:LLM缓存优化与KVCache时间侧信道攻击"

本文探讨大模型API的PromptCaching缓存机制,包括其工作原理、缓存命中与未命中的区别,以及从请求侧提升命中率的策略,如按稳定性梯度组织提示词、规范化序列化等。文章还介绍了KVCache时间侧信道攻击,攻击者可通过观察缓存命中与否推断用户输入前缀,属于安全风险。可操作建议包括优化提示词结构、实施粘性路由,并注意缓存隔离。
Token的一生:RadixCache——Token前缀共享的秘密" 网络安全文章

Token的一生:RadixCache——Token前缀共享的秘密"

本文深入解析SGLang中RadixCache的核心机制,通过前缀树实现KVCache共享,显著提升大模型推理吞吐量2-5倍。文章详细介绍了TreeNode和RadixKey数据结构、match_prefix的指数搜索与二分查找加速、节点分裂、lock_ref引用计数保护、多种驱逐策略以及page对齐等关键技术,并展示了在RAG场景下的实际效果。
Token的一生:调度器详解" 网络安全文章

Token的一生:调度器详解"

本文解析SGLang调度器核心决策逻辑,包括Token预算的三个维度(rem_total_tokens、rem_chunk_tokens、rem_input_tokens)、PrefillAdder的请求准入控制与AddReqResult枚举、ChunkedPrefill将长prompt切块以降低短请求TTFT的机制、extend\\_range精确控制计算范围、Decode阶段批量打包、请求结束与KVCache释放,以及fcfs/lpm/dfs-weight等调度策略的适用场景。
从DataLake到StateLake:面向Agent时代的存储基础设施重构" 网络安全文章

从DataLake到StateLake:面向Agent时代的存储基础设施重构"

火山引擎存储团队提出StorageAgentInfra概念,面向Agent时代将存储从DataLake升级为StateLake。核心围绕SandboxStore、ArtifactStore和Agent观测与评测三大能力方向,分别解决沙箱运行环境、任务产物流转和全链路可观测问题。通过EBS、EFS、TOS及MQ等产品组合,支撑Agent快速启动、状态保存、多沙箱协作与海量产物管理,为亿级Agent用户提供存储底座。
大模型探索系列:LLM缓存优化与KVCache时间侧信道攻击" 网络安全文章

大模型探索系列:LLM缓存优化与KVCache时间侧信道攻击"

本文探讨大模型API的PromptCaching缓存机制,包括其工作原理、缓存命中与未命中的区别,以及从请求侧提升命中率的策略,如按稳定性梯度组织提示词、规范化序列化等。文章还介绍了KVCache时间侧信道攻击,攻击者可通过观察缓存命中与否推断用户输入前缀,属于安全风险。可操作建议包括优化提示词结构、实施粘性路由,并注意缓存隔离。
Token的一生:RadixCache——Token前缀共享的秘密" 网络安全文章

Token的一生:RadixCache——Token前缀共享的秘密"

本文深入解析SGLang中RadixCache的核心机制,通过前缀树实现KVCache共享,显著提升大模型推理吞吐量2-5倍。文章详细介绍了TreeNode和RadixKey数据结构、match_prefix的指数搜索与二分查找加速、节点分裂、lock_ref引用计数保护、多种驱逐策略以及page对齐等关键技术,并展示了在RAG场景下的实际效果。
Token的一生:调度器详解" 网络安全文章

Token的一生:调度器详解"

本文解析SGLang调度器核心决策逻辑,包括Token预算的三个维度(rem_total_tokens、rem_chunk_tokens、rem_input_tokens)、PrefillAdder的请求准入控制与AddReqResult枚举、ChunkedPrefill将长prompt切块以降低短请求TTFT的机制、extend\\_range精确控制计算范围、Decode阶段批量打包、请求结束与KVCache释放,以及fcfs/lpm/dfs-weight等调度策略的适用场景。
大模型探索系列:LLM缓存优化与KVCache时间侧信道攻击" 网络安全文章

大模型探索系列:LLM缓存优化与KVCache时间侧信道攻击"

本文探讨大模型API的PromptCaching缓存机制,包括其工作原理、缓存命中与未命中的区别,以及从请求侧提升命中率的策略,如按稳定性梯度组织提示词、规范化序列化等。文章还介绍了KVCache时间侧信道攻击,攻击者可通过观察缓存命中与否推断用户输入前缀,属于安全风险。可操作建议包括优化提示词结构、实施粘性路由,并注意缓存隔离。
Token的一生:RadixCache——Token前缀共享的秘密" 网络安全文章

Token的一生:RadixCache——Token前缀共享的秘密"

本文深入解析SGLang中RadixCache的核心机制,通过前缀树实现KVCache共享,显著提升大模型推理吞吐量2-5倍。文章详细介绍了TreeNode和RadixKey数据结构、match_prefix的指数搜索与二分查找加速、节点分裂、lock_ref引用计数保护、多种驱逐策略以及page对齐等关键技术,并展示了在RAG场景下的实际效果。
Token的一生:调度器详解" 网络安全文章

Token的一生:调度器详解"

本文解析SGLang调度器核心决策逻辑,包括Token预算的三个维度(rem_total_tokens、rem_chunk_tokens、rem_input_tokens)、PrefillAdder的请求准入控制与AddReqResult枚举、ChunkedPrefill将长prompt切块以降低短请求TTFT的机制、extend\\_range精确控制计算范围、Decode阶段批量打包、请求结束与KVCache释放,以及fcfs/lpm/dfs-weight等调度策略的适用场景。
从DataLake到StateLake:面向Agent时代的存储基础设施重构" 网络安全文章

从DataLake到StateLake:面向Agent时代的存储基础设施重构"

火山引擎存储团队提出StorageAgentInfra概念,面向Agent时代将存储从DataLake升级为StateLake。核心围绕SandboxStore、ArtifactStore和Agent观测与评测三大能力方向,分别解决沙箱运行环境、任务产物流转和全链路可观测问题。通过EBS、EFS、TOS及MQ等产品组合,支撑Agent快速启动、状态保存、多沙箱协作与海量产物管理,为亿级Agent用户提供存储底座。
Token的一生:RadixCache——Token前缀共享的秘密" 网络安全文章

Token的一生:RadixCache——Token前缀共享的秘密"

本文深入解析SGLang中RadixCache的核心机制,通过前缀树实现KVCache共享,显著提升大模型推理吞吐量2-5倍。文章详细介绍了TreeNode和RadixKey数据结构、match_prefix的指数搜索与二分查找加速、节点分裂、lock_ref引用计数保护、多种驱逐策略以及page对齐等关键技术,并展示了在RAG场景下的实际效果。
Token的一生:调度器详解" 网络安全文章

Token的一生:调度器详解"

本文解析SGLang调度器核心决策逻辑,包括Token预算的三个维度(rem_total_tokens、rem_chunk_tokens、rem_input_tokens)、PrefillAdder的请求准入控制与AddReqResult枚举、ChunkedPrefill将长prompt切块以降低短请求TTFT的机制、extend\\_range精确控制计算范围、Decode阶段批量打包、请求结束与KVCache释放,以及fcfs/lpm/dfs-weight等调度策略的适用场景。
从DataLake到StateLake:面向Agent时代的存储基础设施重构" 网络安全文章

从DataLake到StateLake:面向Agent时代的存储基础设施重构"

火山引擎存储团队提出StorageAgentInfra概念,面向Agent时代将存储从DataLake升级为StateLake。核心围绕SandboxStore、ArtifactStore和Agent观测与评测三大能力方向,分别解决沙箱运行环境、任务产物流转和全链路可观测问题。通过EBS、EFS、TOS及MQ等产品组合,支撑Agent快速启动、状态保存、多沙箱协作与海量产物管理,为亿级Agent用户提供存储底座。
大模型探索系列:LLM缓存优化与KVCache时间侧信道攻击" 网络安全文章

大模型探索系列:LLM缓存优化与KVCache时间侧信道攻击"

本文探讨大模型API的PromptCaching缓存机制,包括其工作原理、缓存命中与未命中的区别,以及从请求侧提升命中率的策略,如按稳定性梯度组织提示词、规范化序列化等。文章还介绍了KVCache时间侧信道攻击,攻击者可通过观察缓存命中与否推断用户输入前缀,属于安全风险。可操作建议包括优化提示词结构、实施粘性路由,并注意缓存隔离。
Token的一生:RadixCache——Token前缀共享的秘密" 网络安全文章

Token的一生:RadixCache——Token前缀共享的秘密"

本文深入解析SGLang中RadixCache的核心机制,通过前缀树实现KVCache共享,显著提升大模型推理吞吐量2-5倍。文章详细介绍了TreeNode和RadixKey数据结构、match_prefix的指数搜索与二分查找加速、节点分裂、lock_ref引用计数保护、多种驱逐策略以及page对齐等关键技术,并展示了在RAG场景下的实际效果。
Token的一生:调度器详解" 网络安全文章

Token的一生:调度器详解"

本文解析SGLang调度器核心决策逻辑,包括Token预算的三个维度(rem_total_tokens、rem_chunk_tokens、rem_input_tokens)、PrefillAdder的请求准入控制与AddReqResult枚举、ChunkedPrefill将长prompt切块以降低短请求TTFT的机制、extend\\_range精确控制计算范围、Decode阶段批量打包、请求结束与KVCache释放,以及fcfs/lpm/dfs-weight等调度策略的适用场景。