EvoHead笔记，方便之后回忆。

现在生成式 AI（特别是视觉和动作生成领域）有一个大趋势：把连续的物理信号（如pixel、3D关节坐标）变成像“文字”一样的离散符号（Token），然后再用大语言模型（如 Transformer/GPT）来生成它们。

VQ-VAE 和 Codebook 就是完成这第一步“文字化（Tokenization）”的魔法。

Diffusion Model 和 Flow Matching的简单理解与相关论文。

VoxelMorph是很经典的无监督学习图像配准，可以用来分割，但效果并不好，因为没有对图像内部结构进行特征提取，无法做到内部的对齐配准，CLMorph解决了这一问题.

2025年8月31日，于山西省忻州市代州古城完成了人生中的第一场半马比赛。

Transformer 是一种基于自注意力机制（Self-Attention）的深度学习架构，最初由 Google 在 2017 年的论文《Attention is All You Need》中提出，主要用于自然语言处理（NLP）任务，后来被广泛应用于计算机视觉（如图像分类、分割）等领域。它的核心优势是能高效捕捉输入数据中的长距离依赖关系（如文本中上下文的关联、图像中不同区域的关联性），且并行计算能力远超传统的循环神经网络（RNN）。

贝叶斯神经网络（Bayesian Neural Network, BNN）

贝叶斯神经网络（BNN）是传统人工神经网络（ANN）与贝叶斯概率理论结合的产物。传统神经网络通过“点估计”学习模型参数（如权重和偏置），而BNN则将参数视为随机变量，学习其概率分布（而非单一固定值），从而天然具备量化不确定性的能力，是解决“模型不确定性”问题的核心方法之一。

总结一些torch.nn的常见函数。

论文链接：CUTS: A Deep Learning and Topological Framework for Multigranular Unsupervised Medical Image Segmentation

此论文并不是基于迁移学习，理论基础是扩散映射。扩散映射（Diffusion Maps）是由 Coifman 和 Lafon 于 2006 年提出的一种非线性降维和数据结构分析方法，其核心思想是通过模拟高维数据上的 “热扩散过程”，捕捉数据的内在几何结构（如流形结构），并将高维数据映射到低维空间以保留关键的拓扑和几何信息。

高斯核（Gaussian Kernel）是一种常用的核函数（Kernel Function），广泛应用于支持向量机（SVM）、核主成分分析（KPCA）、聚类等机器学习任务中，尤其擅长处理非线性问题。其核心原理是通过“隐式映射”将低维空间中线性不可分的数据转换到高维空间，从而在高维空间中实现线性可分，同时避免了直接计算高维空间的复杂运算。