lora 1: 初识lora

lora学习笔记

基本概念

基本公式

\[W = W_{0} + AB, \qquad A \in \mathbb{R}^{d_{in} \times r}, B \in \mathbb{R}^{r \times d_{out}}\]