2026 年本地 AI 机器构建指南

译者:Carl Cui 听着,我懂。在 2024 年,每个人都在购买云端 API token,好像它们即将过时一样。“哦,直接调用 API 就行!”他们说。“太方便了!”他们说。好吧,如果你在 2026 年还在按 token 付费,恭喜你,你很可能在为不拥有自己的 AI 技术栈而支付溢价。 让我告诉你一件事:本地 AI 不再是奢侈品,而是生存策略。读完这篇文章,你会确切知道该构建什么样的机器,既不会超出预算,也不会让你发疯。 第一部分:为什么选择本地 AI? 在谈论 token 之前……先谈谈隐私 这里很少有人问的问题:你真的愿意把你的密码和信用卡信息交给某个第三方 API 吗? 想想看。每次你通过云端调用 LLM 时,你都在信任: 你的数据会发送给陌生人(AI 公司) 你的提示词可能被保存为“机密” 你的 agent 记忆存储在你不控制的服务器上 最要命的是:你自己的 agent 记忆是关键。 当你运行本地 AI 时,你的 agent 会随着时间的推移构建上下文——它会记住你在意什么、你之前问过什么、什么对你重要。使用云端 API 时,除非你明确告诉它们要记住,否则这些历史记录通常分散在不同的服务中。 使用本地 AI: 你的记忆保持属于你(不是租来的) 不需要每个月“重置”你的 agent 上下文 敏感数据不会泄露,因为……嗯,它根本不会泄露到任何地方!它就在那里,在你的机器里 现在让我们谈谈实际成本。因为是的,隐私很重要——但钱也很重要。 这是 2024–2025 年没人告诉你的:按 token 定价是个陷阱。 而且从那以后情况变得更糟。 问题不仅仅是模型说得更多(它们确实如此——现代 agent 喜欢滔滔不绝)。而是 你既要为输入 token 付费,又要为输出 token 单独付费。 这意味着: ...

April 26, 2026 · 5 min · Andrew Zhu

如何基于 .wit 文件生成 rust 代码

IronClaw 采用 wasm 沙箱隔离作为其安全机制,IronClaw 宿主和沙箱之间的交互接口是在 .wit 文件中定义的,例如 channel.wit of IronClaw。 这篇文章回答一个问题:如何基于定义好的 wit 文件生成 rust 代码? wit-bindgen 是 Bytecode Alliance 开发的官方工具,它能将 .wit 文件中定义的接口转换为 Rust 代码。它主要有两种使用方式: 在 build.rs 构建脚本中使用命令行工具 或在代码中使用 wit-bindgen 库的宏 方法一:在 build.rs 中使用 CLI 工具(wit-bindgen-cli) 这种方式在构建时生成一次绑定文件(例如 bindings.rs),之后可以作为常规 Rust 模块引入。 1. 添加依赖 在 Cargo.toml 中,将 wit-bindgen-cli 添加到 build-dependencies,并把生成的 bindings.rs 包含在 lib.rs 中: # Cargo.toml [package] # ... build = "build.rs" [lib] # 声明生成的 bindings 模块 path = "src/lib.rs" [build-dependencies] wit-bindgen-cli = "0.28.0" // src/lib.rs // 声明由 build.rs 生成的 bindings 模块 mod bindings; pub use bindings::*; 2. 编写构建脚本 (build.rs) 在项目根目录下创建 build.rs,使用 wit_bindgen_cli::generate! 宏处理 .wit 文件。 ...

April 15, 2026 · 2 min · Carl Cui

NotebookLM:给学习开个 AI 外挂

1. 什么是 NotebookLM NotebookLM 是谷歌推出的一款基于用户资料的 AI 辅助研究/学习工具。它不能像通用聊天机器人那样直接回答所有问题,而是需要用户先上传自己的资料,例如 PDF、网站、视频、音频、文档等等,然后它基于这些资料快速总结、整理笔记,变身成为用户最关注领域的个性化 AI 专家。这一切是基于 Gemini 的多模态理解能力实现的。 与其他 AI 辅助的记事应用不同,NotebookLM 的优势在于以来源为依据。用户可以放心地使用 NotebookLM 的回答,因为它会严格参考上传的来源,从而降低 AI 生成不实信息的风险。 除用户控制来源外,NotebookLM 还有下面这些优势: 信息整合效率:NotebookLM 可理解、整合海量文字,并显著加快从中挖掘分析洞见的过程 个性化学习:NotebookLM 会根据用户的具体需求和内容,为用户营造高度个性化的学习和研究环境 并且,NotebookLM 还能根据上传的资料生成不同内容,例如播客风格的音频概览、幻灯片等等,激发用户的灵感,辅助打造创意项目。 2. 如何使用 NotebookLM 安卓和苹果用户可以下载 NotebookLM 应用: 电脑用户目前需要通过浏览器使用 NotebookLM: NotebookLM 目前支持 4 种使用方案,免费的试用版本即可满足大部分人的需求。 Plus、Pro 和 Ultra 版本会限制地区,国内用户肯定是受到限制的。 3. NoteBookLM 使用场景 在日常工作中,用户可以这样使用 NotebookLM: 开工前的文档审核助理 - 开始工作前,上传会议记录、报告等资料,让 NotebookLM 帮助分析并为全天工作做好准备 促进高效研究的得力助手 - NotebookLM 不仅能节省“搜索答案”的时间,还能根据来源帮助厘清概念、辅助撰写邮件、准备提案,并汇总相关分析洞见 助力学习和规划的智能伙伴 - 关键概念、定义和事实会自动转化为抽认卡,NotebookLM 也会根据上传的资料生成测验,完成测验后生成动态报告,辅助用户应对会议或考试 进行每日复盘和规划的贴心管家 - NotebookLM 可梳理当日笔记要点,并生成待办事项清单等材料 ...

April 7, 2026 · 1 min · Carl Cui

个人站点安全防护

在个人服务器上搭建网站,对于计划长期运行的站点,有一个问题是必须要考虑的,那就是站点的安全问题。这里介绍一些基本的防护手段。防护的核心原则是:在保持服务可访问的前提下,最大限度地缩小攻击面,并建立多层防御。 1. 核心端口功能与风险 通常 Web 服务器会开放 22/80/443 这三个端口,我们了解下每个端口的主要风险点: 22 (SSH):管理的大门。主要风险是暴力破解和弱口令。一旦被攻破,服务器就易主了; 80/443 (Web):服务的脸面。主要风险是Web应用漏洞(如SQL注入)、DDoS攻击和CC攻击; 所有端口:都存在基于软件漏洞的0-day攻击风险,以及系统配置不当带来的隐患; 2. 个人服务器分层防护 第一层:访问控制与最小化原则(最基础也最有效) 这部分是必须做的,能挡住绝大多数自动化攻击。 SSH 端口安全(关键!) 禁用密码登录,改用密钥对:这是最重要的一步。 密码很容易被暴力破解,而密钥对几乎无法被暴力枚举。 操作:修改 /etc/ssh/sshd_config,设置 PasswordAuthentication no。 更改默认端口(可选但推荐): 将 SSH 服务从默认端口 22 改为一个高位端口(如2222)。 这并不能防住定向攻击,但能瞬间避开 99% 的自动化扫描和攻击脚本。 操作:修改 /etc/ssh/sshd_config,设置 Port 2222。 安装 Fail2ban:这是一个必备工具。 它会监控 SSH 日志,当发现同一个 IP 多次登录失败后,自动将其加入防火墙黑名单一段时间,能有效遏制暴力破解。 配置:重点监控SSH服务,设置合适的maxretry(重试次数)和bantime(封禁时间)。 防火墙配置 只开放必要端口:使用防火墙,只放行你需要对外提供的端口(80, 443, 22(或你修改后的 SSH 端口))。 通常,云服务提供商会提供默认的防火墙功能,通过云服务控制台即可完成配置。如果需要手动配置服务器防火墙(一般是 ufw 或者 firewalld),可以将默认策略配置为“DROP”,然后只放行需要对外提供的端口。命令示例(ufw): sudo ufw default deny incoming sudo ufw default allow outgoing sudo ufw allow 80/tcp sudo ufw allow 443/tcp sudo ufw allow 2222/tcp # 假设SSH改到了2222端口 sudo ufw enable 注意:优先选择云服务厂商提供的防火墙,而非 ufw,具体原因下面会提到。 ...

March 4, 2026 · 2 min · Carl Cui

Hugo 主题 PaperMod 配置

为 hugo 站点设置默认主题后,需要在配置文件中对主题进行配置,以定制 hugo 站点显示内容。hugo 配置文件位于站点根目录下,可以是 hugo.toml, hugo.yaml, config.yaml 其中之一。hugo 可选的主题比较丰富,可以在 https://themes.gohugo.io/ 选择自己喜欢的主题。不同的 hugo 主题,对 content 目录下文章组织有不同的要求,并且配置选项也各不相同,配置时还需要参考主题各自的文档。 我的博客配置了 PaperMod 主题,这篇文章主要对该主题的初始配置做一个记录。 1. PaperMod 初始配置 为 hugo 站点下载 PaperMod 主题: # 将 PaperMod 项目设置为 git 仓库的子模块,并下载 PaperMod 主题 git submodule add --depth=1 \ https://github.com/adityatelange/hugo-PaperMod.git themes/PaperMod PaperMod 下载到 theme 目录后,将站点默认主题配置为 PaperMod,此时 hugo 配置文件如下: baseURL: "https://examplesite.com/" title: ExampleSite languageCode: 'us-en' theme: PaperMod 这样,hugo 站点已经具备了 PaperMod 主题的雏形,但是站点处于“毛坯”阶段,需要进行一定的“装修”。 注意:hugo 支持本地预览,主题配置过程中可以通过下面的命令实时查看站点“装修”效果: # -D include content marked as draft # --disableFastRender enables full re-renders on changes # --gc enable to run some cleanup tasks (remove unused cache files) after the build hugo server -D --disableFastRender --gc 2. PaperMod 进阶配置 2.1 一些简便的配置 参考 PaperMod 示例站点配置,以下是 hugo 配置文件中一些便利性的配置: ...

March 3, 2026 · 2 min · Carl Cui

基于 Caddy 展示个人静态博客

基于 hugo 生成的个人静态网站,有多种上线方式可以选择(参考 Host and deploy with hugo)。如果你和我一样,打算将个人博客部署在自己的 VPS 服务器上,那么 VPS 服务器需要运行 HTTP 服务,可以是 nginx,也可以是 caddy。这里我选择 caddy,因为它的文档完整,安装配置简单。 1. 安装 caddy caddy 支持多种安装方式,可以直接下载 caddy 二进制文件: from releases on GitHub (expand “Assets”) Refer to Verifying Asset Signatures for how to verify the asset signature from our download page by building from source (either with go or xcaddy) 也可以通过操作系统各自的包管理器进行安装,通常这种方式会为 caddy 自动创建用户和用户组,还会为 caddy 配置 systemd service。 生产环境下,十分建议将 caddy 配置为 systemd service。 Debian, Ubuntu, Raspbian # Debian, Ubuntu, Raspbian sudo apt install -y debian-keyring debian-archive-keyring apt-transport-https curl curl -1sLf 'https://dl.cloudsmith.io/public/caddy/stable/gpg.key' | sudo gpg --dearmor -o /usr/share/keyrings/caddy-stable-archive-keyring.gpg curl -1sLf 'https://dl.cloudsmith.io/public/caddy/stable/debian.deb.txt' | sudo tee /etc/apt/sources.list.d/caddy-stable.list chmod o+r /usr/share/keyrings/caddy-stable-archive-keyring.gpg chmod o+r /etc/apt/sources.list.d/caddy-stable.list sudo apt update sudo apt install caddy Installing this package automatically starts and runs Caddy as a systemd service named caddy. It also comes with an optional caddy-api service which is not enabled by default, but should be used if you primarily configure Caddy via its API instead of config files. ...

March 2, 2026 · 3 min · Carl Cui

基于 Github Actions 自动更新博客

这篇文章介绍一种将博客自动更新到 HTTP 服务器的方式。 假设你有一个 VPS 服务器,并且上面已经运行 HTTP 服务器(可以是 nginx,也可以是 caddy)。那么将 Hugo 站点提交到 GitHub 后,可以借助 GitHub Actions 将站点自动部署到 VPS 服务器,核心思路是:在 GitHub 的虚拟环境中安装 Hugo、生成静态文件,然后通过 SSH 将public目录的内容同步到你的 VPS 上。 整个过程配置一次,之后你只要git push,网站都会自动更新。 下面是一个经过实践检验的自动化部署方案,包含配置步骤和完整的 YAML 代码。 1. 配置 GitHub Actions 第一步:准备工作——在 GitHub 仓库中配置密钥 为了让 GitHub Actions 能安全地登录你的 VPS,你需要将 VPS 的登录凭证存储在 GitHub 仓库的“Secrets”中。 在你的 GitHub 仓库页面,点击 Settings → Secrets and variables → Actions。 点击 New repository secret,添加以下两个密钥: SERVER_IP:你的VPS公网IP地址(或者可解析的网址亦可)。 SSH_PRIVATE_KEY:你的VPS登录私钥。 如果你没有密钥对,可以在本地通过ssh-keygen -t rsa -b 4096 -f ${private_key_path}生成: ...

March 2, 2026 · 2 min · Carl Cui

基于 hugo 构建个人博客

基于 hugo 构建个人技术博客剥离了数据库和动态脚本的复杂性,让你能完全专注于写作和技术分享。另外,hugo 的工作方式可以非常自然地借助 git 对文章进行版本管理,特别适合有一定命令行基础的人。 1. 准备工作,安装必要工具 需要安装两个基础软件: Git:用于文档版本管理和后续的主题安装。 Hugo (扩展版):核心的静态网站生成器。建议安装带有“extended”后缀的版本,以确保支持Sass/SCSS等现代主题特性。 macOS用户:brew install hugo 国内用户可能需要为 brew 配置 proxy,例如为 brew 配置 SOCKS5 代理: export all_proxy=socks5://$HOST:$PORT 或者为 brew 配置 HTTP 代理: export http_proxy=http://$HOST:$PORT Windows用户:可以使用 scoop install hugo-extended,或从Hugo GitHub Releases页面下载。 安装完成后,在终端输入 hugo version 验证是否成功。 注意:不同 hugo 主题对 hugo 的版本有一定需求,可以从 Hugo GitHub Releases 页面下载特定版本 2. 搭建博客骨架 在终端执行以下命令,Hugo会为你生成一个包含所有必要目录的站点骨架。 # 创建一个名为 "my-blog" 的站点(可替换为你喜欢的名字) hugo new site my-blog Congratulations! Your new Hugo site was created in ./my-blog. Just a few more steps... 1. Change the current directory to ./my-blog. 2. Create or install a theme: - Create a new theme with the command "hugo new theme <THEMENAME>" - Or, install a theme from https://themes.gohugo.io/ 3. Edit hugo.toml, setting the "theme" property to the theme name. 4. Create new content with the command "hugo new content <SECTIONNAME>/<FILENAME>.<FORMAT>". 5. Start the embedded web server with the command "hugo server --buildDrafts". See documentation at https://gohugo.io/. # 进入站点目录 cd my-blog # 目录下生成了 `archetypes`、`content`、`themes`等文件夹和 `hugo.toml` 配置文件 tree . ├── archetypes │ └── default.md ├── assets ├── content ├── data ├── hugo.toml ├── i18n ├── layouts ├── static └── themes 8 directories, 2 files # 初始化Git仓库,方便后续管理主题和代码 git init # 为项目配置 .gitignore 文件 .gitignore 文件示例: # 构建输出目录 /public/ # 本地构建缓存与锁文件 /resources/ /.hugo_build.lock # 编辑器/IDE辅助文件 /assets/jsconfig.json /hugo_stats.json # 操作系统无关文件 .DS_Store Thumbs.db 3. 选择并配置主题 Hugo本身不带默认样式,你需要选择一个主题。 ...

March 2, 2026 · 2 min · Carl Cui