torch.randperm

FredNormer: 非平稳时间序列预测的频域正则化方法

时间序列预测是一个具有挑战性的任务,尤其是在处理非平稳数据时。现有的基于正则化的方法虽然在解决分布偏移问题上取得了一定成功但仍存在局限性。这些方法主要在时间域进行操作,可能无法充分捕捉在频域中更明显的动态模式,从而导致次优的结果。FredNormer论文的研究目的主要包括:理论分析现有正则化方法如何...

深度学习中的欠拟合与过拟合区别是?

1.模型选择、欠拟合和过拟合在前几节基于Fashion-MNIST数据集的实验中，评价了机器学习模型在训练数据集和测试数据集上的表现。如果你改变过实验中的模型结构或者超参数，你也许发现了：当模型在训练数据集上更准确时，它在测试数据集上却不一定更准确。这是为什么呢？1.1训练误差和泛化误差在解释上...

PyTorch常用5个抽样函数（numpy抽样）

PyTorch是一个开源的深度学习框架，它提供了一个用于高级特性的Python包。在本文中，我们将介绍PyTorch中的常见抽样函数。抽样是一个统计过程，它从总体中提取一个子集，通过子集来研究整个总体。torch.bernoulli()伯努利分布是一个离散分布，有两个结果，即成功和失败。如果成功的概...

神经网络可视化新工具:TorchExplorer

TorchExplorer是一个交互式探索神经网络的可视化工具，他的主要功能如下：TorchExplorer是一款创新的人工智能工具，专为使用非常规神经网络架构的研究人员设计。可以在本地或者wandb中生成交互式Vega自定义图表，提供网络结构的模块级可视化。在左边的面板可以模块级方式展现神经网络架...

loss乘以100等价于learning rate乘以100?

导读看到这个问题的时候，可能你会很直观地认为是等价的，其实等价不等价这个应该取决于在更新参数时所选择的优化算法。因为无论是缩放loss还是learningrate最终的影响都是对更新参数时偏移量(Δ)的影响，而不同的优化算法会导致这个偏移量存在差别，下面我们来讨论一下不同优化算法之间的差别。...

比较CPU和GPU中的矩阵计算（cpu对比gpu）

GPU计算与CPU相比能够快多少？在本文中，我将使用Python和PyTorch线性变换函数对其进行测试。以下是测试机配置：CPU：英特尔i76700k(4c/8t)GPU：RTX3070TI（6,144个CUDA核心和192个Tensor核心）内存：32G操...

本文重点 如图表所示，这几个方法可以理解为索引函数

本文重点如图表所示，这几个方法可以理解为索引函数，有些函数在切片和索引一章进行了简单的介绍，本文将再次进行介绍，温故知新。index_select通过特殊的索引来获取数据index_select，这个这样来理解，第一个参数表示a的第几维度，第二个参数表示获取该维度的哪部分。我们把16，3，28，28...

Day236:addmm()和addmm_()的用法详解

函数解释在...

Einops张量操作快速入门（张量分析简明教程）

张量，即多维数组，是现代机器学习框架的支柱。操纵这些张量可能会变得冗长且难以阅读，尤其是在处理高维数据时。Einops使用简洁的符号简化了这些操作。NSDT工具推荐：Three.jsAI纹理开发包-YOLO合成数据生成器-GLTF/GLB在线编辑-3D模型格式在线转换-可编程3...

torch.mak/torch.topk（torch是什么意思）

torch.maxtorch.max()这个函数是用来消去维度的，被消去的维度只保留最大值。torch.max函数原型如下："""input(Tensor)–theinputtensor.dim(int)–thedimensiontoreduce....