摘要：
Layer Normalization（层归一化）和 Batch Normalization（批量归一化）都是深度学习中常用的归一化技术，用于加速训练过程和改善模型性能。它们的主要区别在于归一化的方式和应用的场景。 Batch Normalization（批量归一化）： 归一化方式：Batch No 阅读全文
摘要：
llm的接入： https://blog.csdn.net/orientharp/article/details/139884688 embedding模型的接入： https://inference.readthedocs.io/zh-cn/latest/models/builtin/embedd 阅读全文
摘要：
https://inference.readthedocs.io/zh-cn/latest/models/builtin/llm/glm4-chat.html#model-spec-1-pytorch-9-billion 阅读全文
摘要：
https://zhuanlan.zhihu.com/p/692383624 阅读全文
摘要：
https://blog.csdn.net/sinat_37574187/article/details/137842571 阅读全文
摘要：
import numpy as np def softmax(x, axis=-1): """Softmax函数，用于计算注意力权重""" e_x = np.exp(x - np.max(x, axis=axis, keepdims=True)) return e_x / e_x.sum(axis= 阅读全文
摘要：
https://blog.csdn.net/weixin_38314865/article/details/107568686 阅读全文
摘要：
/atuotuo/p/9272368.html 阅读全文
摘要：
https://zhuanlan.zhihu.com/p/390510404 阅读全文
vqgan的报错问题解决（cusolver error: CUSOLVER_STATUS_INTERNAL_ERROR, when calling `cusolverDnCreate(handle)）
摘要：
https://github.com/nerdyrodent/VQGAN-CLIP/issues/164 阅读全文