图神经网络
邻接矩阵 资料:
https://www.bilibili.com/video/BV1iT4y1d7zP/?spm_id_from=333.337.search-card.all.click&vd_source=99babd80fd00a8cf96fc562811962382…
图神经网络
邻接矩阵 资料:
https://www.bilibili.com/video/BV1iT4y1d7zP/?spm_id_from=333.337.search-card.all.click&vd_source=99babd80fd00a8cf96fc562811962382…
XGBoost 中二阶泰勒展开与 CART 分裂机制:从数学到直觉的完整理解
本文系统总结了 XGBoost 中二阶泰勒展开、梯度 / 海森矩阵、CART 回归树以及分裂增益(Gain) 的核心思想,重点解决三个常见困惑: 二阶泰勒展开在 XGBoost 中到底在做什么
多元泰勒公式中的线性代数符号(如转置)是什么意思
XGBoost 与传统…
梯度优化器
下面写一篇结构清晰、逻辑严谨,涵盖: SGD(随机梯度下降)
Mini-batch SGD(小批量随机梯度下降)
Adam 优化器
AdamW 优化器
三者之间的联系与区别
计算直觉 + 数学公式 + 实践经验
深度学习优化器全面理解:SGD…
训练并行
自己写 训练并行的原因
单个 GPU 计算有上限,通过并行处理多 GPU 协同工作,提升训练效率。
训练并行维度
数据并行(DP)
对于 mp_size = 1 ,batch = 64 ,dp_size = 4
相当于把一个 batch 分为 4 块,每一块处理 16 个样本…
时隔接近五个月-恢复记录
成长痛 自己心中总有一个观念:经历越痛,成长越快。
现在感觉自己体验了一波,感觉还是不断成长,但不要太痛。
在这五个月期间,自己的胆识在变大,但自己对学习的专注在下降。
通过这篇笔记,记录自己近期发生的一些事情,我觉得这是人生的一次历练,一次奇妙体验,一次换环境的冲击…
人工智能
低级人工智能 鹦鹉学舌,重复、模仿 高级人工智能 乌鸦喝水,因果驱动的人工智能
做自己的特色,相当于拿自己的专业知识去 “抢地盘”: 不同背景的人,在同一件事情时,大家各自有各种的优势,做为科学背景出身的人,不要想着去抢计算机出身该做的事情,原因有二,一如果这么做…
名言
"在这个发展速度越来越快的时代,我们需要先到‘目的地 ' 去看一下,然后回来再审视要走的路。" ---MFY
读博规范
小红书上刷到,可以作为自己博士期间的行为准则,养成好的习惯,早日毕业。 打字写博客,代替手写笔记。
读博不是靠天赋爆发赢下的短跑,而是一场靠耐力与节奏完成的长跑。在这条路上,真正让人稳步前进的,往往不是大动作,而是一些看似普通的小习惯。
1. 每周写一页【科研周总结】
每周五晚上…
回来休假
明天就开始一场说走就走,简单规划的旅行,回家简单调整一下,接下来 4 年,拿出自己最好的状态去迎接新的挑战和生活,加油 xiang x zi ji!做自己想做的事情!平平安安,见自己的知心朋友❤️
时光的河入海流,终于走到分别的路口...
两年时间真就是一眨眼就过去了,前几天或许还沉浸在可能读博的喜悦,但是离别接近,心中还是不舍,我不喜欢离别的戒断反应。。我不喜欢。。今晚上床时间有些晚,睡了一会都感觉睡的不舒服,还是起来刷一会视频。 看大家在抖音上都在发毕业照片。我一直以为自己离毕业很远,离拿到那一直证书还有几年…
CNN
1、nn.Conv2d PyTorch 中用于实现 二维卷积层(2D Convolutional Layer)的类
重要参数
in_channels
输入数据的通道数(例如 RGB 图像是 3,灰度图是 1)
out_channels
输出的通道数,表示 卷积核的个数。
Co…
Autoluon自动机器学习
自动化流程: 模型选择
特征工程
调参
模型融合
TobularDateset
Tobular 表格化的
Copy
from autogluon.tabular import TabularDataset, TabularPredictor
data_root = 'https:…
模型评价指标
1、常用的模型分类评价指标 准确率 Accuracy
准确率:预测正确的结果占总样本的百分比
code
Copy
from sklearn.metrics import accuracy_score
y_pred = [0, 2, 1, 3]
y_true = [0, 1, 2,…
数据处理
1、数值较大 如果都是正数的情况下,可以取 log,压缩,还可以继续做均值为 0,方差为 1
2、处理文本特征
Softmax回归code
需要知道代码实现细节 这些模块在 NN 中是通用的,后面的学习是在此基础上的拓展
轮次总训练函数
Copy
##### %matplotlib inline
import torch
import torchvision
from torch.utils import data…
深势科技----zlf(论坛学习)
“读,算,做” “AI 是带来克服维数灾难的工具”
合适的问题:大的搜索空间,清晰的目标,好的数据或者好的模拟
悲喜交加
读博需要有强大的自制力和强大的内心。昨天晚上感觉总有些心里不舒服,一是要善于去分析问题;二是要转移注意力,不要内耗;三是要不忘初心。生活中会发生很多误解,很多别人不理解你的事情,不要做讨好型人格,不要刻意去树造自己的某种形象,即使别人发现您的缺点,发现您在做不是那么好的事情…

