这段时间，Bruno酱和Aspirant学长温柔耐心地教了我很多东西，我超级感激。我要及时记录这些笔记。
天啊这图根本就是我
Flow Matching（流匹配）学习笔记
在开始学习 Flow Matching 之前，我需要回顾以前的学习内容，并明确学习目的。
回顾
有这样的几类主要生成模型：
VAE（变分自编码器，Variational Auto-encoder）。VAE 通过编码器将输入数据映射到潜在变量$z$的潜在空间（latent space），再用解码器重建原始输入。
输入$x$对应的真实后验分布$p(z∣x)$是潜在变量$z$的分布，是一个连续的多维概率分布，人们常常假设它为高斯分布（因此，人们设置训练的近似分布$q_ϕ(z∣x)$是高斯分布）。编码器想学习出来的，就是这个分布，或者说，就是输入对应的潜在变量$z$的分布参数（高斯分布的均值、方差），而不是$z$自己。我的学习笔记是VAE学习笔记 | Palind’s Blog为什么不是$z$自己？因为如果学习的是$z$自己，模型就退化为了一个常见的 Auto-encoder，潜在空间是不连续的。
VAE 名字中的“Variational”来自变分推断（Variational Inference），通过训练变分分布$q_ϕ(z∣x)$来接近真实的$p(z∣x)$后验。
学习后验分布，使得模型的潜在空间是连续的。模型泛化能力更强，编码器输出的是分布，那我们就可以从中采样$z$输入解码器，使模型生成多样性的输出。此外，还可以进行插值变换。
VAE学习笔记
参考
我的学习资料：
ML Lecture 18: Unsupervised Learning - Deep Generative Model (Part II) - YouTube
From Autoencoder to Beta-VAE | Lil’Log
[1312.6114] Auto-Encoding Variational Bayes
我的学习笔记中引用的截图出处都在上面的资料里。
笔记
概念与名词
先回顾一下 auto-encoder。auto-encoder 是一个以无监督的方式自学压缩和还原数据的神经网络结构，用于从数据中学习其本质特征，发掘更高效的压缩表示。
Flow-based Generative Model学习笔记
参考
Flow-based Generative Model - YouTube
How I Understand Flow Matching
Flow-based Deep Generative Models | Lil’Log
[1605.08803] Density estimation using Real NVP
笔记中的截图、部分公式来自以上资源。
笔记
数学回顾
雅可比行列式
上学期，我刷高等数学题目时，常常利用雅可比行列式，对重积分的变量进行换元。
我的理解是把一个坐标系下的小方块变形成另一个坐标系下的小方块时，雅可比行列式告诉我们新的小方块体积是原来小方块的多少倍。
KL散度（KL Divergence）学习笔记
参考
Fantastic KL Divergence and How to (Actually) Compute It
笔记
我们用欧几里得距离衡量两个点之间的远近，那如何衡量两个概率分布的相似程度呢？
概率分布（Probability Distribution） 是用于描述随机变量 在各个可能取值上出现概率的数学函数或规则。对于离散随机变量，概率分布由概率质量函数（PMF）给出；对于连续随机变量，概率分布由概率密度函数（PDF）给出，其在全体定义域上的积分等于 1。
这两种分布都可以用 KL 散度来衡量：
写给Traceless的Git简明教程！
前言
这是 Palind 写给他的朋友 Traceless 的 Git 简明教程 ！
Traceless 是北京理工大学的一名优秀的本科生。聊天时，他提到想学习 Git 和 Github。
于是，Palind 想要给他写一份 Git 的简明教程。
本文章将主要按照第二人称 的形式，来为 Traceless 介绍 Git 的最基本的 用法。除了 Traceless，你也可以阅读本文一起学习！笔者也是新手哦，希望读者多多包涵。
参考资料
简介 - Git教程 - 廖雪峰的官方网站（主要参考）
写给 Traceless 的 Git 简明教程
Diffusion Model学习笔记
现在，参考 DDPM 的论文和李宏毅老师 的课程，我会深入浅出地记录我学习 Diffusion Model 的笔记。
先简略学习diffusion model的概念
以下主要学习知名的 Denoising Diffusion Probabilistic Model，DDPM。它是 diffusion model 的奠基之作，论文在arxiv的地址是 Denoising Diffusion Probabilistic Models 。
先从高斯分布 中，sample出一个都是杂讯的图片。接下来，通过denoise 的神经网络，去除杂讯，得到清晰的图片。denoise 的次数是事先定好的。这个步骤就是Reverse Process 。
重学：Missing Semester
生日攻势期间，由于任务较多，我有一些地方没有认真学习。现在，我需要重新学习一遍Missing Semester。
（未完结）
友情链接
这些博客很值得学习与参考！😉我很推荐你来看看：
一位共同学习机器学习的网友
383494’s Site
"欢迎访问 383494 的博客！"
一位优秀的
兰州大学本科生，他对 NLP、生物学、数学、多模态感兴趣
兰州大学本科生，他对 NLP、生物学、数学、多模态感兴趣
追云之帆's Blog
"We are the best!"
一位优秀的
同济大学极客，他对 web 后端开发、Jpop感兴趣
同济大学极客，他对 web 后端开发、Jpop感兴趣
wendaining's Homepage
"你好，我是wendaining，你也可以叫我Kiriao/切青"
一位优秀的同济大学前辈，对 Linux 系统、AI 架构、国际象棋感兴趣
同济大学前辈，对 Linux 系统、AI 架构、国际象棋感兴趣
Chesszyh's Blog
"Welcome to Chesszyh's Blog!"
一位优秀的
天津大学本科生，他对计算机视觉感兴趣
天津大学本科生，他对计算机视觉感兴趣
Modesty's Blog
"Stay hungry, stay foolish"
一位优秀的
电子科技大学本科生，他对 LLMs 感兴趣
电子科技大学本科生，他对 LLMs 感兴趣
Platus-L's 柏拉图书馆
"这里是柏拉的图书馆，一个赛博茶馆~"
一位优秀的同济大学本科生，他对深度学习、多模态视觉评估感兴趣
同济大学本科生，他对深度学习、多模态视觉评估感兴趣
tewrabbit's Blog
"没有未来的未来，不是我要的未来"
一位优秀的同济大学本科生，他对深度学习感兴趣
同济大学本科生，他对深度学习感兴趣
ShinN's Blog
"The brain is wider than the sky."
一位优秀的
上海交通大学
医学生，她积极参与研究
上海交通大学医学生，她积极参与研究
Bella-daidai's Blog
"热爱运动，热爱读书，热爱生活"
于同济大学获得计算机科学的学士学位后，Ryan Ming 学长在
卡内基梅隆大学读研
同济大学获得计算机科学的学士学位后，Ryan Ming 学长在卡内基梅隆大学读研
Fries on the pier
"想去码头整点薯条"
野人洞：科学/技术/工程/随想
野人洞
"须信百年俱是梦，天地阔，且徜徉。"
一位优秀的
中国人民大学本科生，他对 Visual SLAM 感兴趣
中国人民大学本科生，他对 Visual SLAM 感兴趣
Maliketh's Homepage
"programming is the art of adding bugs to an empty text file."
于同济大学获得计算机科学的学士学位后，FACEONG 学长在上海交通大学读博
同济大学获得计算机科学的学士学位后，FACEONG 学长在上海交通大学读博
FACEONG's Homepage
"Embodied Intelligence, Robotic Manipulation, Multi-Agent System."
一位优秀的卡内基梅隆大学本科生，诺诺对具身智能感兴趣
卡内基梅隆大学本科生，诺诺对具身智能感兴趣
Nybchen's Homepage
"Welcome to Nybchen's Homepage!"
一位优秀的同济大学本科生，他对 MLLM 感兴趣
同济大学本科生，他对 MLLM 感兴趣
Jambity's Blog
"Just Relax"
于
吉林大学获得软工学士学位后，Kisechan 前辈在上海交通大学读研
吉林大学获得软工学士学位后，Kisechan 前辈在上海交通大学读研
Kisechan's Blog
"Non est ad astra mollis e terris via"
