Posts

打翻了牛奶，哭也没有用，因为宇宙间的一切力量都在处心积虑地打翻它。 翻看我以前记的笔记时，突然看到了我之前记录的这句话，已经不记得当初记录下这句话时的心情了，但是现在看到却有些莫名的感触。 这句话颇有点决定论和宿命论的意思，那时候的我可能确实有点偏向这种想法，认为或许世间的一切都是决定好了的，所有的事情都是必然会发生的，我们能做的只有选择接受或者不接受...

问题复现与分析 场景描述 在 test-git 仓库内进行问题复现。该库目前仅含有 main.py 文件。初始代码如下（省略无关内容）： def print_hi(name): print(f'Hi, {name}') # Press Ctrl+F8 to toggle the breakpoint. if __name__ ==...

本文在《DeepSeek R1》论文解读的基础上对一些问题进行补充，分析Deepseek如何做到的低成本，高性能。 原文地址：DeepSeek-R1: Incentivizing Reasoning Capability in LLMs via Reinforcement Learning 强化学习 强化学习（reinforcement learning，R...

1. 前置知识 阅读本文需要了解Transformer的基本结构和原理 2. KV Cache 如图所示是GPT模型的基本结构。这是一个自回归生成模型，意味着模型会逐token进行生成，生成的token会进一步参与下一步的计算。例如初始prompts是“I love you, do you love”，模型当前步骤生成的token可能是"me&qu...

RAPIDS Accelerator for Apache Spark 什么是RAPIDS Accelerator for Apache Spark RAPIDS Accelerator for Apache Spark是RAPIDS项目的一个重要组件，旨在为Apache Spark提供GPU加速功能。它通过将数据处理任务和算法移至GPU上执行，以实现Spa...

Spark中内存分配相关的参数通过SparkConf进行配置，如下示例： val conf = new SparkConf() .setAppName("MyApp") .setMaster("local[2]") // 两个CPU核心 .set("spark.executor.mem...

  在最开始建立这个网站的时候我就写了一句签名：Love life, love technology, love you! 我想给这个网站定下一个基调，也就是我要用它来记录生活，记录我学习研究的内容，当然还有记录我们俩。建站的时候我和她还没有正式在一起，自然不好明说，所以藏在里面的小心思大概没多少人能够看到吧。所以这就是第一篇了，关于我们...

Author: E. Bagdasaryan, A. Veit, Y. Hua, D. Estrin and V. Shmatikov Title: How To Backdoor Federated Learning BookTitle: Proceedings of the Twenty Third International Conference on...

Author: B. McMahan, E. Moore, D. Ramage, S. Hampson and B. A. y. Arcas Title: Communication-Efficient Learning of Deep Networks from Decentralized Data BookTitle: Proceedings of th...

Author: Fenglin Liu, X. W., Shen Ge, Wei Fan, Yuexian Zou Title: Federated Learning for Vision-and-Language Grounding Problems BookTitle: The Thirty-Fourth AAAI Conference on Arti...

  2020年已经过去了一大半，这段时间以来确实发生了不少的事，这篇随笔写来不是为了总结我的2020，而是一些关于我自己的反思，通过一些事情，逐渐能够发现我自己的一些缺点，一些以前完全没有意识到的缺点。   其一是优柔寡断，这是某个朋友对我的评价，我不知道这个词用来评价我自己是否合适，我总觉得不是这样的，却又想不出...

  这段时间实在闲得无聊，决定记录一下我的2019。   其实元旦和除夕的时候我都有想过总结一下我的2019，但是到了那两天又感觉似乎没有什么必要，毕竟我的2019可以说没有一件事是顺利的（指大方向），嗯，话说到这里我还真仔细想了一下，确实如此。   虽然2019并不顺利，但奇怪的是，我现在回想...

写在前面：这一段话我本来是想放在最后面的，但是又怕有些人没有看到后面就怀疑我有什么不正常的想法，索性就写在前面了。   我会写这些是因为我最近做梦梦到了一些相关的事，然后醒过来又想起了一些其他事。况且思考死亡其实并不是一件消极的事，思考之后也许能够更清楚哪些是非做不可的事，所谓向死而生，我觉得大概就是这个意思吧。  &ems...