Jack's Blog

0. 引言想象这样一个场景：你让 Agent 帮你调研一个开源项目。第一轮，你告诉它「只关注 Python 实现，忽略 JS 版本」。第三轮，它兴高采烈地给你推荐了一个 Node.js 库。你纠正了它。到了第五轮，它又忘了。 你忍不住问：你的记性为什么这么差？ 这个问题背后，是 AI Agent 领域一个被严重低估的核心挑战——上下文工程（Context Engineering）。大多数人以为，只要上下文窗口足够大（比如 Gemini 的 1M tokens），Agent 就能「记住一切」。但真实情况是：上下文窗口是 Agent 的 RAM，记忆系统才是 Agent 的硬盘——两者缺一不可，且各自有各自的工程难题。 本文将系统性地拆解 Agent 记忆系统，从问题定义到工程方案，分为六个层次逐步深入。 1. 问题定义：上下文窗口的幻觉长上下文是必要条件，但它带来的问题远比解决的问题多。我们来看四个核心挑战： 1.1 注意力稀释：Lost in the Middle2023 年，Liu 等人在论文 Lost in the Middle: How Language Models Use ...

在 Python 开发中，使用好的包和项目管理工具，相当于打好基础。这年头，来自 Astral (即 Ruff 和 Black 的开发者) 的新工具UV，一上线就很受欢迎，在企业场景也广泛使用，以 Rust 高性能实现，目标是替代 pip，virtualenv，poetry 等组合，成为 Python 最新一代的包管理栏杆。 为什么要使用uv现在的包管理工具有很多，conda，pip，poetry，pipenv 等等，功能各有千秋，但都存在一些问题，而uv则可以在很大程度上解决了这些问题。 自从接触到uv之后我几乎不再使用其他包管理工具，只有部分情况是例外的，比如个别仓库默认的包管理工具是conda或者poetry，而且这个项目用uv会存在bug，比如ComfyUI，使用uv就会有问题，这种就会使用conda。或者个别比较老的代码，有些时候就存在一些问题，这种还是求稳定最好。 uv的优势 极致性能 安装速度提升：这是非常重要的一点，UV 在无缓存的冷启动情况下，安装速度比 pip 快约 8～10 倍；uv在已有缓存的情况下，速度提升可达 80～100 倍。这一点看似不明显，但是亲身 ...

秋招基本也结束了，这里对整个过程进行复盘和总结，也是提前备战明年的春招。 这次秋招前期一直0offer，直到11月多才逐渐有差不多几家，最后开出来了一些，最终还是决定去钱多的地方，毕竟现在工作都不稳，钱多才是王道。 面试前的内容算法 vs 开发对于算法和开发的选择，我还是选择了算法，他们都说算法要有顶会，但是其实这个因素影响没有那么大的，我觉得不一定需要顶会，但是论文还是要有的，毕竟算法岗。没有顶会的情况下最重要的就是实习了，实习一定要把握住，这个可比顶会好拿到多了。我看往前几届的师兄师姐都去的开发岗，基本都是Java，但是这块我又不擅长，突击几个月还不一定有本科生学的好，干脆all in 算法了。毕竟算法还是比开发高很多的，还是可以冲下的。 另外一个选择的区别就是个人选择和未来规划，如果本科双非，同时没有科研论文，还没有实习，而且不打算后面卷，而是打算过几年回老家附近的地方，或者直接一步到位去二线城市，肯定直接Java，毕竟选择面非常广，Java的岗位数量遥遥领先，而且去国企银行运营商都好找工作。 如果还更有些追求，打算去大厂干几年，算法还是更好的，只是本科双非其实不算主要的问题，前 ...

一面今天9.30面的金山，金山这个面试基本是我面试过程最难的几个了，本来面试计划时间半小时，结果面了一个小时，面试官非常深挖项目，问的非常细，而且非常的耐心，里面就问了两个八股，看来要准备的还真的需要很多。 首先是自我介绍，然后问了下我的实习，第一部分主要是针对实习的具体内容展开，我先讲完做了啥， 用了什么模型，参数是多少，量级是多少，为什么用千问，盘古智子，千问大模型版本，结构，最大上下文长度是多少，怎么评测，选取哪个大模型。大模型训练出来的结果如何评价，用的什么指标。 LoRA微调原理，训练哪些层，都哪些超参数，超参数怎么设置的。 前面这块我了解的不是特别深入，然后就开始讲Prompt这块关于具体任务的内容，数据集怎么构造的，为什么这么构建，标注数据有什么问题，数据量多少，这个项目最终的好坏如何评价。 后面上线需要解决什么问题，是效果达不到，还是速度达不到，还是其他问题，千问的模型是否可以上线，解决方案是什么，后续怎么做。 还问了大模型的分布式这块了解不，我问是不是deepspeed这种，是，这块说了两句，不是特别懂。 然后问我后面哪个项目感觉做的比较深入，然后我说了第一个项目做的 ...

一面11.1下午这次面的是中金所的子公司，总共就面了15分钟，几乎没问技术。 过去首先自我介绍，然后问了下华为实习是不是能转正，我说不能，然后说现在华子秋招还没开。 然后问我是否了解这个公司，我说是金融方面的，具体还不是很了解。 问我最近在看什么书，我说最近秋招，所以在看人工智能方面的书，根据不不同的阶段和任务看书。 然后问我找工作有多个offer的时候看重什么，我说第一看公司的发展，第二个人能力的培养，第三个是薪资福利。 然后让我找一个印象深刻的经历，展开讲讲，我就讲了下实习的内容，讲完他都没问问题，直接就到了反问环节。 我就反问部门具体是什么业务，哪方面的，他说前沿技术岗，一个是跟踪行业发展，探索落地，各种大模型区块链都有涉及，这个部门是运维的，就是前沿技术在这块的应用。 然后我问了下后面还有几面，他说如果一面过了的话二面是具体岗位相关的技术，三面是HR面。 总体来说还是太简短了，相比上午面一个小时还是差很多。

一面这次面的是蔚来，开始面试官很热情，上来介绍他们部门是自动驾驶的芯片的，然后我自我介绍，然后就开始问问题了。这次面了一个小时，可以说底裤都被扒的干干净净，好多问题都没回答上来，感觉是要G了。 这次没问实习，毕竟实习是做大模型的，这边完全不做大模型了，纯视觉，所以问的我的项目。 首先第一个项目，这个是我研究生做的第一个项目，讲完问了效果误差如何，是否满足需要，我说误差1%差不多是可以用了，而且成本低，这块简单问了下，还问了整个过程都用了哪些模型。又问了我用的MMPose框架内部是怎么实现的，这个框架我还真不是特别了解，只是用过，所以回答的不是很好。然后问我这块目标检测用的模型，这块是项目中很小的一个点，我都没准备，结果问到了，我就回答不好了。 然后第二个项目，这个讲完主体后，让我讲下这个过程用了什么模型，我讲了下还有效果。然后问实时性什么的是否满足需要，我就讲了下整体的流程架构。然后问这个项目的难点是什么，我说主要应该是解决具体的问题。然后问我有没有做边缘部署，我说这个本来有这个需求，但是后面没谈好，就没做了。还问了项目指标到多少，评价指标如何设计的，这块也是回答了个大概。 然后问第三 ...

一面 30下午面试的广联达，这是个做建筑设计的公司，过去自我介绍完，他们好像主要是偏视觉一些，所以先问了我第一个项目，讲完之后追问了一些细节，包括问用的什么模型，模型的结构是什么。然后其他的问了下实习的内容，我就把实习的内容讲了一遍，他就问了下相比之前的效果如何，我说主要是业务流程上的改进，用大模型来完成这些事情。 之后他想问八股，我说计组计网操作系统编译原理都没学过，他就问了下如何处理类别不均的问题，这个我举了我实习时候的例子，再结合了之前做一般小模型时候的一些处理方法，给出了一些回答。 然后是问他们部门，他介绍了下他们公司主要偏视觉一些，是建筑信息化方面的公司，涉及图文生成和3DGS之类的，我也聊了下先关的内容。

一面AI面虽然是AI面试，但是还是记录一下，面试的内容，这个相当于是综合面试的题提前到了技术面之前了。这些内容还是需要总结一下，也是后面面试可能会问的问题。 具体有7个题分别需要录制两分钟的视频，第一个是自我介绍，包含学校、实习、项目、技能、兴趣爱好这些部分。 后面有印象最深的项目是什么，具体哪个？ 第五个题目是如何促成他人意见和自己达成一致，会因此感到压力吗？ 第六个题目是你制定过最成功的计划是什么？ 最后一个题目是简述自己的优势和劣势和未来的职业规划？ 这些题目有30秒的思考时间，难度有一些的，还是要提前准备一下的。 二面人工面这次面试大概35分钟，基本问的也算全，不过后面的都没问。线上腾讯会议面试，有两个面试官，第一个面的时候第二个听。 第一个面试官，过去先自我介绍，然后讲实习做的啥，先讲了背景，然后按照要求说了输入输出和目的，只讲了一个点，中间问了很多细节，数据多少条，正负样本配比是否合适。用的啥模型训练的，现在主流的大模型结构是什么样的，这个我都没回答完，就打断了。然后问我大模型在银行场景中如何应用，我就说了下目前主要在知识库和智能客服结合RAG和Agent这块做的，其他倒是 ...

一面这次面试是电话面试，大概40分钟。 首先自我介绍，然后问实习，讲完问的问题有，大模型相比传统业务的优势， 样本的评测标准是否和之前的一样，这个项目后面是否可以做成纯大模型提取学习，等等之类的。问了这些就是八股了，现在主流都有哪些大模型，他们的结构是啥样的，我介绍完问ChatGLM为什么不是纯Decoder的，具体是采用了什么结构，这块我就答不上来了。 然后是问后面的第一个项目，有论文这个，把大致的内容讲了下，这块没怎么问。 然后就问到最后一个项目，说其中的量化剪枝这块怎么做的，这块我讲的不太清楚，涉及CPP的这块讲了下，还有部署和服务这块怎么做的大致讲了下。 然后反问，问具体部门做啥，具体是大模型的工程应用团队，然后就结束了。

一面这次面了33分钟，过去他先简单介绍他们情况，搜广推部门啥的，自我介绍完，先问了实习做的啥，然后我讲完了点，然后面试官说后面不用讲了，然后开始问，相对之前相比的优点，也问了一些里面的细节，主要还是业务流程方面的，没有仔细问模型本身相关的东西。然后是关于后面是否能上线，有啥问题。还问了大模型实际提高速度如何做，我说选用性能足够的小模型，量化剪枝蒸馏。 后面的项目好像没问，毕竟确实也不怎么相关。 然后说既然是搜广推，出个算法题，模型预测的一个排序和实际的排序，如[1,3,2,5,4]和实际的顺序[1,2,3,4,5]，设计一个函数给模型的输出打分，这块我大致思考了下，说了个思路，然后让实现，我就开始写 12345678910111213def main(): n = len(rank1) rank1_dict = {value: idx for idx, value in enumerate(rank1)} rank2_dict = {value: idx for idx, value in enumerate(rank2)} ...