Posts
Browse all posts
Filter posts:
Categories
Tags
20264 篇文章
我主力用微信输入法,但使用过程中经常莫名其妙切回 ABC。为了把 ABC 从输入源列表里移除,我和 AI 来回排查了一轮,最后确认:重启之后,ABC 没有再出现。
这次最值得记录的,是中途差点把一个猜测当成了原因:看到重启后 ABC 还在,就认定 macOS 把它加回来了,却没有先确认修改是否真正写进了目标文件。
1. 想移除的是输入源
我要做的是从当前用户...
Read more →⏱️ 8 min read
前段时间在一个群里,因为某个东西到底好不好看,大家争论了起来。具体是什么其实不重要,这种争论大概谁都遇到过。有人觉得好看,有人觉得丑,争到最后总会有人说一句几乎无法反驳的话:“审美是主观的。”
这句话当然没什么问题。我喜欢这个,你不喜欢这个,本来就是很正常的事情。有人喜欢极简,有人喜欢繁复,有人喜欢古典,有人喜欢现代,甚至一个大家普遍都觉得很丑的东西,也完全...
Read more →⏱️ 4 min read
LLM
Agent 走到哪了——从 2026 年回头看《LLM Powered Autonomous Agents》
这两年 AI 发展得越来越快了,就像别人开玩笑说的,AI 时代里,只要你学得慢,你就可以不用学了。
回头再看 Lilian Weng 在 2023 年写的《LLM Powered Autonomous Agents》,我反而觉得有些东西没有那么快...
Read more →⏱️ 11 min read
LLM
摘要 (Abstract)
随着大语言模型 (LLM) 在企业级应用中的普及,传统的“朴素 RAG (Naive RAG)”(即:用户提问 -> 向量检索 -> 拼接提示词 -> LLM 生成)面临着严重的瓶颈:检索质量不可控、模型盲目相信检索结果导致幻觉、以及对不同复杂度问题的“一刀切”处理导致资源浪费。
为了突破这些极限,RAG 架构正...
Read more →⏱️ 5 min read
20256 篇文章
随记思考
最近突然想到一个问题,如果我在每一步都选择了当时最好的选项,那么这些选择最后加起来,不就应该得到一个最好的结果吗?
“局部最优不等于全局最优”,这句话我当然知道。但是知道归知道,仔细想想,还是觉得有点奇怪。假如每一次选择都没有选错,最后怎么会走到一个并不那么好的地方呢?反过来说,假如最后的结果不好,那么到底是哪一步出了问题?
拿爬山来想,这件事倒是很容易理解...
Read more →⏱️ 4 min read
打翻了牛奶,哭也没有用,因为宇宙间的一切力量都在处心积虑地打翻它。
翻看我以前记的笔记时,突然看到了我之前记录的这句话,已经不记得当初记录下这句话时的心情了,但是现在看到却有些莫名的感触。
这句话颇有点决定论和宿命论的意思,那时候的我可能确实有点偏向这种想法,认为或许世间的一切都是决定好了的,所有的事情都是必然会发生的,我们能做的只有选择接受或者不接受...
Read more →⏱️ 2 min read
问题复现与分析
场景描述
在 test-git 仓库内进行问题复现。该库目前仅含有 main.py 文件。初始代码如下(省略无关内容):
def print_hi(name):
print(f'Hi, {name}') # Press Ctrl+F8 to toggle the breakpoint.
if __name__ ==...
Read more →⏱️ 4 min read
LLM
本文在《DeepSeek R1》论文解读的基础上对一些问题进行补充,分析Deepseek如何做到的低成本,高性能。
原文地址:DeepSeek-R1: Incentivizing Reasoning Capability in LLMs via Reinforcement Learning
强化学习
强化学习(reinforcement learning,R...
Read more →⏱️ 3 min read
LLM
1. 前置知识
阅读本文需要了解Transformer的基本结构和原理
2. KV Cache
如图所示是GPT模型的基本结构。这是一个自回归生成模型,意味着模型会逐token进行生成,生成的token会进一步参与下一步的计算。例如初始prompts是“I love you, do you love”,模型当前步骤生成的token可能是"me&qu...
Read more →⏱️ 2 min read
Agent 不只是一个更长的 Prompt——读《LLM Powered Autonomous Agents》
原文:Lilian Weng, LLM Powered Autonomous Agents链接:https://lilianweng.github.io/posts/2023-06-23-agent/
这篇文章主要是我读完原文之后的整理和理解...
Read more →⏱️ 11 min read
20248 篇文章
RAPIDS Accelerator for Apache Spark
什么是RAPIDS Accelerator for Apache Spark
RAPIDS Accelerator for Apache Spark是RAPIDS项目的一个重要组件,旨在为Apache Spark提供GPU加速功能。它通过将数据处理任务和算法移至GPU上执行,以实现Spa...
Read more →⏱️ 8 min read
LLMRAG
GraphRAG 是微软 2024 年 7 月开源的知识图谱增强检索方案,用来弥补传统 RAG 在全局性、总结性问题上的短板。本文从 RAG 与知识图谱两个前置概念讲起,再梳理 GraphRAG 的构建流程与检索方式。
前置知识
RAG
检索增强生成(Retrieval-augmented generation, RAG)是指对大型语言模型输出进行优化,使其...
Read more →⏱️ 11 min read
KubernetesRBAC
本文记录 Kubernetes 中 ServiceAccount 的创建、token 获取以及通过 Role/RoleBinding 授权的完整过程,以 shield 命名空间的实际配置为例。
注意:在v1.24版本之后,创建serviceaccount之后将不会再自动创建secret和token,需要手动进行。本文介绍创建过程和权限赋予。
1.创建serv...
Read more →⏱️ 5 min read
大数据
Spark中内存分配相关的参数通过SparkConf进行配置,如下示例:
val conf = new SparkConf()
.setAppName("MyApp")
.setMaster("local[2]") // 两个CPU核心
.set("spark.executor.mem...
Read more →⏱️ 5 min read
Kubernetes
Deployment 和 StatefulSet 是 Kubernetes 里最常用的两种工作负载控制器,长得像但脾气完全不同。这篇从适用场景、存储和命名几个角度,把两者的区别梳理清楚。
适用场景
Deployment适用场景
无状态的应用
1.pod之间没有顺序
2.所有pod共享存储
3.pod名字包含随机数字
4.service都有ClusterIP,...
Read more →⏱️ 10 min read
KubernetesNetwork
参考文献:
Kubernetes修炼⼿册/(英)奈吉尔·波尔顿(Nigel Poulton)著;刘康,李瑞丰译.--北京:⼈⺠邮电出版社,2021.5
概述
本文实际上讲述的是服务发现是如何在namespace之间和之内work的。
总的来说,每一个集群中都有一个基于DNS domain地址空间,称为cluster domain,默认名称是cluster.l...
Read more →⏱️ 4 min read
DockerDevOps
Rootless 模式允许以非 root 用户身份运行 Docker 守护进程(dockerd)和容器,以缓解 Docker 守护进程和容器运行时中潜在的漏洞。Rootless 模式是在 Docker v19.03 版本作为实验性功能引入的,在 Docker v20.10 版本 GA。
Rootless 模式目前对 Cgroups 资源控制,Apparmor...
Read more →⏱️ 4 min read
Kubernetes
本文旨在帮助非专业人员快速了解Kubernetes,因此不会使用太多专业术语,尽量使用通俗易懂的语言进行讲解。专业技术人员请参考官方文档
场景模拟
不知道大家有没有玩过城市建造的游戏,类似于《城市·天际线》,我们首先来看看这个例子。
假设你是一个市长,开局只有你自己和若干块土地,你现在需要从头开始建造自己的城市,我们首先需要对城市进行规划,让我们来看看我们需...
Read more →⏱️ 3 min read
20214 篇文章
我们俩
  在最开始建立这个网站的时候我就写了一句签名:Love life, love technology, love you! 我想给这个网站定下一个基调,也就是我要用它来记录生活,记录我学习研究的内容,当然还有记录我们俩。建站的时候我和她还没有正式在一起,自然不好明说,所以藏在里面的小心思大概没多少人能够看到吧。所以这就是第一篇了,关于我们...
Read more →⏱️ 4 min read
Author: E. Bagdasaryan, A. Veit, Y. Hua, D. Estrin and V. Shmatikov
Title: How To Backdoor Federated Learning
BookTitle: Proceedings of the Twenty Third International Conference on...
Read more →⏱️ 2 min read
Author: B. McMahan, E. Moore, D. Ramage, S. Hampson and B. A. y. Arcas
Title: Communication-Efficient Learning of Deep Networks from Decentralized Data
BookTitle: Proceedings of th...
Read more →⏱️ 2 min read
Author: Fenglin Liu, X. W., Shen Ge, Wei Fan, Yuexian Zou
Title: Federated Learning for Vision-and-Language Grounding Problems
BookTitle: The Thirty-Fourth AAAI Conference on Arti...
Read more →⏱️ 2 min read
20202 篇文章
  2020年已经过去了一大半,这段时间以来确实发生了不少的事,这篇随笔写来不是为了总结我的2020,而是一些关于我自己的反思,通过一些事情,逐渐能够发现我自己的一些缺点,一些以前完全没有意识到的缺点。
  其一是优柔寡断,这是某个朋友对我的评价,我不知道这个词用来评价我自己是否合适,我总觉得不是这样的,却又想不出...
Read more →⏱️ 2 min read
  这段时间实在闲得无聊,决定记录一下我的2019。
  其实元旦和除夕的时候我都有想过总结一下我的2019,但是到了那两天又感觉似乎没有什么必要,毕竟我的2019可以说没有一件事是顺利的(指大方向),嗯,话说到这里我还真仔细想了一下,确实如此。
  虽然2019并不顺利,但奇怪的是,我现在回想...
Read more →⏱️ 2 min read
20191 篇文章
写在前面:这一段话我本来是想放在最后面的,但是又怕有些人没有看到后面就怀疑我有什么不正常的想法,索性就写在前面了。
  我会写这些是因为我最近做梦梦到了一些相关的事,然后醒过来又想起了一些其他事。况且思考死亡其实并不是一件消极的事,思考之后也许能够更清楚哪些是非做不可的事,所谓向死而生,我觉得大概就是这个意思吧。
 &ems...
Read more →⏱️ 2 min read