pytorch判断是否cuda 判断变量类型方式
我就废话不多说了，那就直接看代码吧~inputs = Variable(torch.randn(2,2))inputs.is_cuda # will return falseinputs = Variable(torch.randn(2,2).cuda())inputs.is_cuda # returns true判断：torch.is_tensor() #如果是pytorch的tensor类型返回truetorch.is_storage() # 如果是pytorch的storage类型返回ture这里还有...
2024-01-10PyTorch中的model.train（）有什么作用？
它调用forward()的nn.Module？我以为我们在调用模型时forward会使用方法。为什么我们需要指定train（）？回答：model.train()告诉模型您正在训练模型。因此，在训练和测试过程中表现不同的有效层（如辍学，batchnorm等）可以知道发生了什么，因此可以相应地表现。更多详细信息：它设置训练模式（请参阅源...
2024-01-10
为什么 pytorch 转成 onnx 的时候，需要固定输出形状？
最近在把 pytorch 训练出来的模型，部署到生产环境中去9.1 使用ONNX进行部署并推理使用类似下面的 demo 代码，可以把 pytorch 的模型转成 onnx 的模型import torch.onnx # 转换的onnx格式的名称，文件后缀需为.onnxonnx_file_name = "xxxxxx.onnx"# 我们需要转换的模型，将torch_model设置为自己的模型m...
2024-02-13为什么PyTorch中的嵌入实现为Sparse Layers？在PyTorch
Embedding图层“图层疏”中列出的限制：为什么PyTorch中的嵌入实现为Sparse Layers？在PyTorch请记住，只有优化的数量有限支持稀疏梯度：目前它的optim.SGD（CUDA和CPU），和Optim .Adagrad（cpu）这是什么原因？例如在Keras中，我可以使用任何优化器来训练带有嵌入层的体系结构。回答：在上曲面嵌入仔细检查...
2024-01-10
为什么 pytorch 的 transforms.Compose 的 CPU 最大利用率是 117% ，可以超过单核限制？
下面这段代码，跑起来的时候，CPU 利用率从 htop 中看到，可以在 116-117% 之间from torchvision import transformsfrom PIL import Imagefrom torch import Tensorfrom numpy import ndarrayimport numpyimport timepreprocess = trans...
2024-02-08
1. PyTorch概述
1. 课程目标使用PyTorch实现学习系统理解神经网络/深度学习的基本概念 2. 所需基础线性代数、概率论Python 3. 机器学习算法与数据结构算法的区别之前的算法有穷举、贪心、动规、分治等等。当遇到一个问题的时候，需要基于这些思维方法，人工设计出一套计算的过程。但是在机...
2024-01-10pytorch加载自定义网络权重的实现
在将自定义的网络权重加载到网络中时，报错：AttributeError: 'dict' object has no attribute 'seek'. You can only torch.load from a file that is seekable. Please pre-load the data into a buffer like io.BytesIO and try to load from it instead.我们一步一步分析。模型网络权重保存额代码是：torch.save(net.st...
2024-01-10基于Python安装pyecharts所遇的问题及解决方法
最近学习到数据可视化内容，老师推荐安装pyecharts，于是pip install 了一下，结果...掉坑了，下面是我的跳坑经验，如果你有类似问题，希望对你有所帮助。第一个坑:这个不难理解，缺少pyecharts-jupyter-installer嘛，那就安一个呗。可能有人注意到，我使用的是python2 -m pip ...（这种写法是为了解决python 2和...
2024-01-10Pytorch DataLoader 变长数据处理方式
关于Pytorch中怎么自定义Dataset数据集类、怎样使用DataLoader迭代加载数据，这篇官方文档已经说得很清楚了，这里就不在赘述。现在的问题：有的时候，特别对于NLP任务来说，输入的数据可能不是定长的，比如多个句子的长度一般不会一致，这时候使用DataLoader加载数据时，不定长的句子会被胡乱切分，...
2024-01-10pytorch获取模型某一层参数名及参数值方式
1、Motivation：I wanna modify the value of some param;I wanna check the value of some param.The needed function:2、state_dict() #generator typemodel.modules()#generator typenamed_parameters()#OrderDict typefrom torch import nnimport torch#creat a simple model...
2024-01-10pytorch 指定gpu训练与多gpu并行训练示例
一. 指定一个gpu训练的两种方法：1.代码中指定import torchtorch.cuda.set_device(id)2.终端中指定CUDA_VISIBLE_DEVICES=1 python 你的程序其中id就是你的gpu编号二. 多gpu并行训练：torch.nn.DataParallel(module, device_ids=None, output_device=None, dim=0)该函数实现了在module级别上的数据并行使用，注意batch size要大于GPU的数量。...
2024-01-10Python中pyecharts安装及安装失败的解决方法
pyecharts 是一个用于生成 Echarts 图表的类库。Echarts 是百度开源的一个数据可视化 JS 库。这篇文章重点给大家介绍pyecharts安装失败的处理方法，具体详情如下：pyecharts库的安装1.正常安装首先在打开终端输入以下命令：pip install pyecharts 在终端输入pip list查看是否安装成功测试程序：from pyecharts.charts imp...
2024-01-10Win10+GPU版Pytorch1.1安装的安装步骤
安装cuda更新nvidia驱动打开GeForce Game Ready Driver或在GeForce Experience中下载符合自己gpu的程序。选择cuda打开nvidia控制面板点击帮助、点击系统信息、在点击组件在3D设置中可以看到cuda信息在我升级过nvidia驱动后，cuda的版本更新到了10.1。接下来下载cuda .cuda10.1安装完毕。安装cuDNN在安装了cuda10.1后选...
2024-01-10
【博客搭建】Typecho个人博客搭建，快速安装，超小白（很简单的）
使用Typecho框架一个月又十二天了，就目前感觉来说，整体还不错，很多方面都支持个性化，二次开发，但是目前MD编辑器有一丢丢问题，不能同步滚动条滚动，就是编辑器区域滚动，预览区域没有动静，需要两边都操作，不知道这个问题是主题的还是官方的，而且还有一个图片多了会出现抖动。。。其...
2024-01-10从Artifactory安装作用域npm软件包
我正在尝试使范围限定的npm软件包与Apache背后的Artifactory一起使用。我可以将范围界定的包发布到Artifactory，它会在npm-local存储库中创建以下路径：@scopename/packagename/-/@scopename/packagename-version.tgz尝试安装此软件包时出现了我的问题。我得到一个404 Not Found:@scopename/packagename。查看调试日志，我可以发现它...
2024-01-10Pytorch实现各种2d卷积示例
普通卷积使用nn.Conv2d()，一般还会接上BN和ReLu参数量NNCin*Cout+Cout(如果有bias，相对来说表示对参数量影响很小，所以后面不考虑)class ConvBNReLU(nn.Module): def __init__(self, C_in, C_out, kernel_size, stride, padding, affine=True): super(ConvBNReLU, self).__init__() self.op = nn.Sequential( nn.Con...
2024-01-10解决Pytorch训练过程中loss不下降的问题
在使用Pytorch进行神经网络训练时，有时会遇到训练学习率不下降的问题。出现这种问题的可能原因有很多，包括学习率过小，数据没有进行Normalization等。不过除了这些常规的原因，还有一种难以发现的原因：在计算loss时数据维数不匹配。下面是我的代码：loss_function = torch.nn.MSE_loss()optimizer.zero_grad()...
2024-01-10pytorch对梯度进行可视化进行梯度检查教程
目的： 在训练神经网络的时候，有时候需要自己写操作，比如faster_rcnn中的roi_pooling，我们可以可视化前向传播的图像和反向传播的梯度图像，前向传播可以检查流程和计算的正确性，而反向传播则可以大概检查流程的正确性。实验可视化rroi_align的梯度1.pytorch 0.4.1及之前，需要声明需要参数，这里将...
2024-01-10typecho插件编写教程（一）:Hello World
最近老高正在编写一个关于typecho的插件，由于typecho不像wordpress，有那么多的文档参考，写一个插件还是遇到了很多的坑，不过随着研究的不断深入，老高也慢慢上手了，于是总结出此篇编写教程分享给大家！I. 从HelloWorld说起基本信息想必想要开发typecho的你一定阅读过官方示例插件HelloWorld的源码吧...
2024-01-10pytorch实现CNN卷积神经网络
本文为大家讲解了pytorch实现CNN卷积神经网络，供大家参考，具体内容如下我对卷积神经网络的一些认识 卷积神经网络是时下最为流行的一种深度学习网络，由于其具有局部感受野等特性，让其与人眼识别图像具有相似性，因此被广泛应用于图像识别中，本人是研究机械故障诊断方面的，一般利...
2024-01-10
PycharmAutopep8配置教程
简介Python语言的编码遵从PEP8规范，Autopep8工具能够依据PEP8规范，快速对代码文件进行规范检查并自动排版。对于变量名，类名，函数名等，会给出提示信息，需要工程师手动修改。安装pip install autopep8在Pycharm中集成Autopep8File -> Settings… ->Tools -> External Tools -> 点击“+”号添加在添加界面，有5处...
2024-01-10pytorch梯度剪裁方式
我就废话不多说，看例子吧！import torch.nn as nnoutputs = model(data)loss= loss_fn(outputs, target)optimizer.zero_grad()loss.backward()nn.utils.clip_grad_norm_(model.parameters(), max_norm=20, norm_type=2)optimizer.step()nn.utils.clip_grad_norm_ 的参数：parameters – 一个基于变量的...
2024-01-10C# GroupBy的基本使用教程
起因今天在公司做一个需求的时候，写的是面条代码，一个方法直接从头写到尾，其中用到了GroupBy，且GroupBy的KeySelector是多个属性而不是单个属性。但是公司最近推行Clean Code，要让代码有可读性。且作为一个有追求的程序员，肯定是不能写面条代码的，要对代码进行拆分。重构前GroupBy大概是这样...
2024-01-10将Pytorch模型从CPU转换成GPU的实现方法
最近将Pytorch程序迁移到GPU上去的一些工作和思考环境：Ubuntu 16.04.3Python版本：3.5.2Pytorch版本：0.4.00. 序言大家知道，在深度学习中使用GPU来对模型进行训练是可以通过并行化其计算来提高运行效率，这里就不多谈了。最近申请到了实验室的服务器来跑程序，成功将我简陋的程序改成了“高大上”GPU...
2024-01-10
流程图控件GoJS教程：内置GraphObject类各指数介绍(三)
GoJS是一款功能强大，快速且轻量级的流程图控件，可帮助你在JavaScript 和HTML5 Canvas程序中创建流程图，且极大地简化您的JavaScript / Canvas 程序。点击下载GoJS最新版相关内容推荐流程图控件GoJS教程：内置GraphObject类各指数介绍(一)流程图控件GoJS教程：内置GraphObject类各指数介绍(二)fromMaxLinks : number获...
2024-01-10
