相关文章
-神经网络参数初始化之自注意力机制)
面试常问系列(二)-神经网络参数初始化之自注意力机制
目录
（一）、transformer中的自注意力机制为什么要除以根号d？
1. 点积的方差问题
2. 缩放的作用
3. 类比初始化方法
4. 实验验证
5.总结 （一）、transformer中的自注意力机制为什么要除以根号d？
在Tra…
建站知识
2025/3/24 5:17:14
蓝桥杯 之 第27场月赛总结
文章目录 习题1.抓猪拿国一2.蓝桥字符3.蓝桥大使4.拳头对决5.未来竞赛6.备份比赛数据 习题
比赛地址
1.抓猪拿国一 十分简单的签到题
print(sum(list(range(17))))2.蓝桥字符 常见的字符匹配的问题，是一个二维dp的问题，转化为对应的动态规划求解
力扣…
建站知识
2025/3/25 10:10:54
算法 | 优化算法比较
===================================================== github：https://github.com/MichaelBeechan CSDN：https://blog.csdn.net/u011344545
===================================================== 优化算法 一、主流优化算法分类1、传统梯度类算法2、启发式算…
建站知识
2025/3/25 17:02:03
python-selenium 爬虫 由易到难
本质 python第三方库 selenium 控制 浏览器驱动 浏览器驱动控制浏览器 推荐 edge 浏览器驱动（不容易遇到版本或者兼容性的问题） 驱动下载网址：链接: link
1、实战1
（1）安装 selenium 库
pip install selenium&#…
建站知识
2025/3/25 10:48:56
Unity Shader 的编程流程和结构
Unity Shader 的编程流程和结构
Unity Shader 的编程主要由以下三个核心部分组成：Properties（属性）、SubShader（子着色器） 和 Fallback（回退）。下面是它们的具体作用和结构：
1. Pr…
建站知识
2025/3/25 1:17:38
用 pytorch 从零开始创建大语言模型（六）：对分类进行微调
用 pytorch 从零开始创建大语言模型（六）：对分类进行微调 6 微调用于分类6.1 微调的不同类别6.2 准备数据集6.3 创建数据加载器6.4 使用预训练权重初始化模型6.5 添加分类头部6.6 计算分类损失和准确率6.7 在监督数据上微调模型6.8 使用LLM进…
建站知识
2025/3/25 6:30:31
JVM垃圾回收笔记02-垃圾回收器
文章目录 前言1.串行(Serial 收集器/Serial Old 收集器)Serial 收集器Serial Old 收集器相关参数-XX:UseSerialGC 2.吞吐量优先(Parallel Scavenge 收集器/Parallel Old 收集器)Parallel Scavenge 收集器Parallel Old 收集器相关参数-XX:UseParallelGC ~ -XX:UseParallelOldGC-…
建站知识
2025/3/25 7:09:33
LangChain 基础
一、LangChain 模块和体系
LangChain 是一个用于开发由大型语言模型（LLMs）驱动的应用程序的框架。
官方文档：https://python.langchain.com/docs/introduction/
LangChain 简化了LLM应用程序生命周期的每个阶段：
开发…
建站知识
2025/3/24 22:52:24
