LLM 安全、评估与治理:Prompt Injection 防御、红队测试与合规框架
LLM 应用安全与治理全链路:Prompt Injection / Jailbreak 攻击分类与多层防御、输出内容审核(OpenAI Moderation / 自定义分类器)、Ragas / deepeval / TruLens 评估框架实战、红队测试方法论、PII 检测与数据隐私保护、EU AI Act / NIST AI RMF 合规框架概述。附带可复用的 Python 安全工具代码。
posts
LLM 应用安全与治理全链路:Prompt Injection / Jailbreak 攻击分类与多层防御、输出内容审核(OpenAI Moderation / 自定义分类器)、Ragas / deepeval / TruLens 评估框架实战、红队测试方法论、PII 检测与数据隐私保护、EU AI Act / NIST AI RMF 合规框架概述。附带可复用的 Python 安全工具代码。
LLM 推理部署全链路指南:vLLM(PagedAttention)vs TGI vs llama.cpp 选型与性能对比、GGUF/AWQ/GPTQ/FP8 量化技术详解、动态批处理与连续批处理、长上下文优化(KV Cache / FlashAttention)。附带 FastAPI + vLLM 完整服务端代码、Docker Compose 生产部署模板。
深度解析 Python 并发模型:GIL 内部机制与绕过策略、asyncio 事件循环与 Task 调度、async/await 最佳实践、multiprocessing 多核利用、concurrent.futures 线程池/进程池、cProfile/py-spy/flamegraph 性能分析。附带可运行代码与工作负载选型决策树。
四大主流 Agent 框架深度对比:LangChain(LCEL 表达式语言)、LlamaIndex(检索优先 Agent)、CrewAI(多 Agent 协作工作流)、AutoGen(对话式多 Agent)。覆盖工具调用(Tool Use / MCP 协议)、记忆管理(短期/长时/向量记忆)、多 Agent 协作模式。附 LangChain ReAct Agent 完整代码与流式思考过程展示。
系统性讲解 LLM 参数高效微调(PEFT):LoRA / QLoRA / DoRA 原理与超参数调优、HuggingFace PEFT + TRL (SFTTrainer/DPOTrainer) 完整训练流程、Unsloth 2x 加速训练、数据集准备(Alpaca/ShareGPT)、评估与模型合并、GGUF/AWQ/ONNX 部署转换。附带可运行的训练脚本与微调 vs RAG 决策树。
五大主流向量数据库深度对比:PostgreSQL PGVector、Qdrant、Chroma、Milvus、Weaviate。从延迟、吞吐、扩展性、云托管、Python SDK 等维度提供选型矩阵,附带每种数据库的完整 Python 集成代码与性能基准数据。
系统性讲解 RAG(检索增强生成)完整架构:Embedding 模型选型(text-embedding-3/GTE/E5)、文档分块策略(固定/语义/递归重叠)、混合检索(dense+BM25)、重排序(Reranker)、LangChain vs LlamaIndex 实现对比。附带端到端 FastAPI 服务代码,基于 Qdrant + sentence-transformers。
系统性讲解 Prompt Engineering 核心技术:Zero-shot / Few-shot / Chain-of-Thought / Tree of Thoughts / ReAct 模式。OpenAI Function Calling 与 JSON Schema 结构化输出、Pydantic 解析、提示词注入防御策略,以及 LLM-as-Judge 评估框架。
深度解析主流 LLM API(OpenAI、Anthropic Claude、Google Gemini)的核心差异:认证方式、流式输出、Token 计数与预算管理、多模态输入、错误重试策略。附带完整的 FastAPI + asyncio 服务端封装代码,支持并发流式推理。
Vue Router 4 深度实践:声明式路由与 Hash/History 模式、嵌套路由、动态路由匹配、导航守卫(全局/路由独享/组件内)、路由元信息、滚动行为、懒加载与代码分割、以及与 Vue 3 Composition API 的结合使用。
记录作者在孢子三部曲中尝试摆脱人类中心视角,理解孢子、菌丝、昆虫、树根和自然系统的非人逻辑。
Vue 3 Composition API 深度实践:setup 语法糖、ref/reactive 响应式原理、computed 计算属性、watch/watchEffect 侦听器、生命周期钩子、provide/inject 依赖注入、defineProps/defineEmits 组件通信,以及自定义 Composable 的开发与复用模式。
Vue.js 是渐进式 JavaScript 框架,以声明式渲染、响应式系统和组件化架构著称。本文系统讲解 Vue 3 的核心概念:Options API vs Composition API、响应式原理(Proxy + ref/reactive)、模板语法、计算属性与侦听器、生命周期、Teleport/Suspense、以及 Vue 与 React/Angular 的对比选型。
从生命循环、死亡、腐烂、分解和重生出发,记录作者在孢子三部曲写作中如何重新理解结局。
手把手讲解自定义域名接入 Cloudflare CDN 的完整流程:NS 接管、SSL/TLS 模式选择、橙云代理与灰云 DNS 的区别,并用 2024 年后的新 Cache Rules 引擎实战配置静态资源长缓存、HTML 不缓存、后台 Bypass,让边缘缓存命中率最大化。
一文搭好现代 Lua 开发环境:用 LuaLS 类型注解补齐动态类型短板,Stylua 统一代码风格,Luacheck 拦截隐患,busted 跑单测,再配一条开箱即用的 CI 流水线。
xLua 是腾讯开源的 Unity Lua 热更新方案,本文从接入安装讲起,覆盖 C# 与 Lua 互调、代码生成、[Hotfix] 热补丁、内存 GC、脚本打包发布全流程,并整理常见坑清单,帮你把 xLua 落到真实项目里。
深入 Redis Lua 脚本的原子执行机制,手把手实现固定窗口、滑动窗口与令牌桶限流、安全的分布式锁、秒杀防超卖与排行榜封装,并讲解 EVALSHA、脚本调试与性能陷阱。
从执行阶段、cosocket 非阻塞 IO、共享内存缓存讲起,用 Lua 在 OpenResty 上逐步实现限流、JWT 鉴权、动态路由与灰度分流,并对比 Kong、APISIX 等现成网关,给出性能调优与排错指南。
系统讲解 Neovim 的 Lua 配置体系:init.lua 与配置目录组织、vim API 速览、从 init.vim 迁移、lazy.nvim 插件管理、LSP/补全/语法高亮实战配置,以及自制 Lua 插件与发行版选型,帮你搭建现代化编辑器。