Blog
Articles are written in Markdown and automatically synced here after publishing.
All Articles调试技巧代码重构编程效率效率提升离线开发APSWLLM 编程神经网络GPU加速PyTorch屏幕截图计算机视觉混合架构代码评审逆向工程嵌入式开发显存管理模型量化AI 推理优化企业架构大模型集成API 安全前端可视化原生 JavaScriptSVG 图表源码分析链接器构建优化最佳实践数据隐私工作流设计自动化工作流MySQL所有权后端开发缓存穿透RedisAgent 工作流工具沙箱上下文优化MCP 协议乐高 CADPython 智能体LDraw 建模系统架构网络优化跨语言协作身份管理JWT 令牌OIDC 认证AI Agent 安全身份认证OIDCOAuth 2.0提示工程成本控制Token 优化Claude API成本优化模型部署AI 推理接口规范前后端联调Python实战知识管理RAG架构AI学习工作流编排LLVM二进制编译器Web性能数据抓取移动端开发自动化测试MCP系统编程高性能计算SIMD 优化本地优先架构桌面应用开发文档处理dream-numPrompt 注入安全防护企业知识库全栈工程化重构CLI 工具自动化开发GGUF 量化Ollama本地 AI大模型部署DevOpsCI/CD模型备份bitsandbytesGPTQ 量化
嵌入式逆向工程实战：如何在48MB内存设备上运行AI Agent
在48MB RAM的老旧设备上，通过逆向工程和模型量化，我成功部署了可自动化操作的轻量级AI Agent。
2026/10/93 min read
我们把Qwen3-7B压进A100显存时，INT4让准确率掉了2%
在兰屿星奇部署大模型时，我们试过FP16转INT8再冲INT4，结果OOM、延迟抖动、精度崩盘全遇到过。这篇文章记录真实踩坑：为什么FP8在vLLM里跑不通、bitsandbytes的INT8加载怎么修attention层，以及我们最终用FP16+PagedAttention折中的心路历程。
2026/10/94 min read