本文对于参加技术面试的人来说可能有些用，并不一定适用于某个特定的职位或者工作类型，也没有排序。

陆续一个月了，腾讯、阿里云、淘天、高德、拼多多、字节、美团... 能投的都投了。建议多刷面经，可以快速积累场景题、设计题、多线程题，而且能快速 get 到高频八股，比如 oom、cpu 使用率高、慢查询治理... 找暑期哪有不疯的，运气也是非常重要。最后祝各位早日 oc（也祝我能 oc），无需过度焦虑，才四月初，正是发力期，过段时间一堆鸽穿的。

本小册始于求职，却不止步于求职，虽然未曾包罗职场所有的软技能，但是对于技术人职场这个板块，许多方面都有所涉及。同时，尽管整个小册未牵扯任何技术内容，看着学起来难度不大，但其中无一不是实用的技巧分享，重要性远超你去学习某个单一的技术，能得到的回报也绝对会远超你所花费的成本～

Self-Attention 是 Transformer 中最核心的思想，我们在阅读 Transformer 论文的过程中，最难理解的可能就是自注意力机制实现的过程和繁杂的公式。

在 ChatGPT 计算处理完之后，也需要将结果再做逆转换，形成文字形式，反馈给用户。这种转换包括 Tokenizer 和 Embedding，本文要介绍这两个模块。