你好,我是
刘芷溢
电子科技大学 · 2024 级硕士研究生
我在电子科技大学计算机科学与工程学院攻读计算机体系结构方向硕士,所在实验室为 NDSL。主要关注大语言模型推理、CUDA、数据库与分布式系统,喜欢从系统实现和性能瓶颈出发理解问题,并把学习与实践记录在这里。
正在寻找大模型推理加速、机器学习系统相关的秋招机会。如果你有相关岗位或线索,欢迎通过邮件或社交平台联系我!
工作邮箱:lzy [underline] CS [underline] LN [at] 163 [dot] com
个人邮箱:tomlzy213 [at] gmail [dot] com
简历:点击查看
很高兴在互联网上与你相遇!欢迎交流系统实现和性能优化,也欢迎来信讨论博客中的问题。我在成都,平时喜欢音乐、篮球和阅读;如果你也在这里,可以一起聊天、学习。
研究方向
- 大语言模型推理与优化:推理框架、KV Cache、调度、并行与推测解码。
- GPU 系统与 CUDA:Kernel 优化、内存层次与软硬件协同。
- 数据库与分布式系统:存储引擎、向量检索、事务与一致性协议。
教育经历
- 电子科技大学 · 硕士,计算机科学与工程学院,2024 年 9 月至今。
- 电子科技大学 · 本科,计算机科学与工程学院,2020 年 9 月至 2024 年 6 月。
项目经历与近况
- 大模型推理与 GPU 优化:维护教学型推理框架 MiniInfer,实践调度、KV Cache 和 CUDA Graph;在 SGLang 的个人 feature 分支探索混合批次与推测解码,并在 cuda-learn 中记录算子实现与基准测试。
- Nebula Graph 开源之夏(2025 年 7—10 月,11 月结题):参与原生向量类型、nGQL DDL/DML 扩展和 ANN 索引接入,打通向量存储与相似度查询。实现复盘见 Nebula 向量检索系列。
- BusTub 数据库内核(2025 年 3—6 月):实现缓冲池、并发 B+ 树、查询执行和 MVCC/OCC 事务等课程模块,记录于 BusTub 通关指北。
- TinyKV 分布式存储(2024 年 12 月—2025 年 2 月):实践 Raft、Multi-Raft、Region 分裂,以及 BadgerDB 上的日志、状态与快照管理。
荣誉奖项
GitHub 项目
以下卡片覆盖主页置顶项目,并补充数据库与存储方向的实践。架构图依据项目源码、设计文档和站内复盘整理,只展示核心模块;点击卡片进入对应仓库。
SGLang · EAGLE 混合批次
MixedWorker 职责拆分与模型内 attention 融合。
feature/eagle-mixed-fa3-cuda-graphcuda-learn
手写 CUDA 算子、统一绑定、正确性校验与性能测试。
MiniInfer
教学型推理框架:连续批处理、分页缓存与 CUDA Graph。
Nebula · 原生向量检索
向量类型、查询语言扩展与 HNSW / IVF 索引接入。
个人博客 · Quartz
以本地 Markdown 和图解积累可检索的系统学习笔记。
BusTub
关系型数据库内核:存储、索引、执行与事务。
TinyKV
Raft 共识、Region 分片与分布式键值存储。
MiniLSM
Rust 存储引擎学习:Memtable、SST 与合并迭代器。