pytorch判断是否cuda 判断变量类型方式
我就废话不多说了，那就直接看代码吧~inputs = Variable(torch.randn(2,2))inputs.is_cuda # will return falseinputs = Variable(torch.randn(2,2).cuda())inputs.is_cuda # returns true判断：torch.is_tensor() #如果是pytorch的tensor类型返回truetorch.is_storage() # 如果是pytorch的storage类型返回ture这里还有...
2024-01-10PyTorch中的model.train（）有什么作用？
它调用forward()的nn.Module？我以为我们在调用模型时forward会使用方法。为什么我们需要指定train（）？回答：model.train()告诉模型您正在训练模型。因此，在训练和测试过程中表现不同的有效层（如辍学，batchnorm等）可以知道发生了什么，因此可以相应地表现。更多详细信息：它设置训练模式（请参阅源...
2024-01-10
为什么 pytorch 转成 onnx 的时候，需要固定输出形状？
最近在把 pytorch 训练出来的模型，部署到生产环境中去9.1 使用ONNX进行部署并推理使用类似下面的 demo 代码，可以把 pytorch 的模型转成 onnx 的模型import torch.onnx # 转换的onnx格式的名称，文件后缀需为.onnxonnx_file_name = "xxxxxx.onnx"# 我们需要转换的模型，将torch_model设置为自己的模型m...
2024-02-13为什么PyTorch中的嵌入实现为Sparse Layers？在PyTorch
Embedding图层“图层疏”中列出的限制：为什么PyTorch中的嵌入实现为Sparse Layers？在PyTorch请记住，只有优化的数量有限支持稀疏梯度：目前它的optim.SGD（CUDA和CPU），和Optim .Adagrad（cpu）这是什么原因？例如在Keras中，我可以使用任何优化器来训练带有嵌入层的体系结构。回答：在上曲面嵌入仔细检查...
2024-01-10
为什么 pytorch 的 transforms.Compose 的 CPU 最大利用率是 117% ，可以超过单核限制？
下面这段代码，跑起来的时候，CPU 利用率从 htop 中看到，可以在 116-117% 之间from torchvision import transformsfrom PIL import Imagefrom torch import Tensorfrom numpy import ndarrayimport numpyimport timepreprocess = trans...
2024-02-08
PythonScrapy安装
安装 Scrapy 与安装其他 Python 包没有区别，同样使用如下命令来安装：pip install scrapy如果在命令行窗口中运行该命令，将会看到程序并不立即下载、安装 Scrapy，而是不断地下载大量第三方包。如果在命令行窗口中提示找不到 pip 命令，则也可以通过 python 命令运行 pip 模块来安装 Scrapy，例如 python...
2024-01-10pytorch-RNN进行回归曲线预测方式
任务通过输入的sin曲线与预测出对应的cos曲线#初始加载包 和定义参数import torchfrom torch import nnimport numpy as npimport matplotlib.pyplot as plt torch.manual_seed(1) #为了可复现 #超参数设定TIME_SETP=10INPUT_SIZE=1LR=0.02DOWNLoad_MNIST=True定义RNN网络结构from torch.autograd import Variableclass RNN(...
2024-01-10基于pytorch的保存和加载模型参数的方法
当我们花费大量的精力训练完网络，下次预测数据时不想再（有时也不必再）训练一次时，这时候torch.save(),torch.load()就要登场了。保存和加载模型参数有两种方式：方式一：torch.save(net.state_dict(),path):功能：保存训练完的网络的各层参数（即weights和bias)其中：net.state_dict()获取各层参数，path是文件存...
2024-01-10Pytorch 实现冻结指定卷积层的参数
python代码 for i, para in enumerate(self._net.module.features.parameters()): if i < 16: para.requires_grad = False else: para.requires_grad = True # Solver. # self._solver = torch.optim.SGD( # self._net.parameters(), lr=...
2024-01-10PyTorch预训练Bert模型的示例
本文介绍以下内容：1. 使用transformers框架做预训练的bert-base模型；2. 开发平台使用Google的Colab平台，白嫖GPU加速；3. 使用datasets模块下载IMDB影评数据作为训练数据。transformers模块简介transformers框架为Huggingface开源的深度学习框架，支持几乎所有的Transformer架构的预训练模型。使用非常的方便，本文基...
2024-01-10pytorch 预训练层的使用方法
pytorch 预训练层的使用方法将其他地方训练好的网络，用到新的网络里面加载预训练网络1.原先已经训练好一个网络 AutoEncoder_FC()2.首先加载该网络，读取其存储的参数3.设置一个参数集cnnpre = AutoEncoder_FC()cnnpre.load_state_dict(torch.load('autoencoder_FC.pkl')['state_dict'])cnnpre_dict =cnnpre.state_dict()加载新网络1.设...
2024-01-10如何将图像转换为 PyTorch 张量？
PyTorch 张量是一个 n 维数组（矩阵），包含单一数据类型的元素。张量就像一个 numpy 数组。numpy 数组和 PyTorch 张量之间的区别在于张量利用 GPU 来加速数值计算。对于加速计算，图像被转换为张量。要将图像转换为 PyTorch 张量，我们可以采取以下步骤 -脚步导入所需的库。所需的库是torch、torchvision、Pill...
2024-01-10如何在Docker上安装mcrypt
我有一个带有Phalcon3和php 7的Docker容器。我正在尝试安装php扩展名Mcrypt，但不走运。如果我对容器执行ssh并执行：apt-get updateapt-get install php7.0-mcrypt我得到以下内容：E: Unable to locate package php7.0-mcryptE: Couldn't find any package by regex 'php7.0-mcrypt'有没有办法安装它？回答：让我们看一下php docker镜像的 官方...
2024-01-10基于Python安装pyecharts所遇的问题及解决方法
最近学习到数据可视化内容，老师推荐安装pyecharts，于是pip install 了一下，结果...掉坑了，下面是我的跳坑经验，如果你有类似问题，希望对你有所帮助。第一个坑:这个不难理解，缺少pyecharts-jupyter-installer嘛，那就安一个呗。可能有人注意到，我使用的是python2 -m pip ...（这种写法是为了解决python 2和...
2024-01-10
1. PyTorch概述
1. 课程目标使用PyTorch实现学习系统理解神经网络/深度学习的基本概念 2. 所需基础线性代数、概率论Python 3. 机器学习算法与数据结构算法的区别之前的算法有穷举、贪心、动规、分治等等。当遇到一个问题的时候，需要基于这些思维方法，人工设计出一套计算的过程。但是在机...
2024-01-10
流程图控件GoJS教程：内置GraphObject类各指数介绍(三)
GoJS是一款功能强大，快速且轻量级的流程图控件，可帮助你在JavaScript 和HTML5 Canvas程序中创建流程图，且极大地简化您的JavaScript / Canvas 程序。点击下载GoJS最新版相关内容推荐流程图控件GoJS教程：内置GraphObject类各指数介绍(一)流程图控件GoJS教程：内置GraphObject类各指数介绍(二)fromMaxLinks : number获...
2024-01-10
五个简单的 Torch 例子
上一讲我们已经安装好了 Torch，接下来我们将会列出 5 个简单的 Torch 入门操作案例：require 'torch'自动引入 Torch，代替你引入 th1、定义正定二次型rand() 产生均匀分布的拉张量t() 调换一个张量（注意，它返回一个新的视图）dot() 执行2张量之间的点积eye() 返回一个单位矩阵* 运算符对矩阵（执行矩阵...
2024-01-10
利用PHP扩展Xhprof分析项目性能实践教程
一、背景项目即将上线，想通过一些工具来分析代码的稳定性和效率，想起在上个团队时使用过的xhprof扩展；因为换了新电脑，所以需要重新编译此扩展，现将安装与实际排查过程完整记录下来，方便自己回顾和帮助更多的读者。XHProf 是 FaceBook 开发的一个函数级别的 PHP 分层分析器。数据收集部分...
2024-01-10pytorch加载语音类自定义数据集的方法教程
前言 pytorch对一下常用的公开数据集有很方便的API接口，但是当我们需要使用自己的数据集训练神经网络时，就需要自定义数据集，在pytorch中，提供了一些类，方便我们定义自己的数据集合torch.utils.data.Dataset：所有继承他的子类都应该重写 __len()__ ， __getitem()__ 这两个方法 __len()__ ：返回数...
2024-01-10pytorch自定义二值化网络层方式
任务要求：自定义一个层主要是定义该层的实现函数,只需要重载Function的forward和backward函数即可,如下:import torchfrom torch.autograd import Functionfrom torch.autograd import Variable定义二值化函数class BinarizedF(Function): def forward(self, input): self.save_for_backward(input) a = torch.ones...
2024-01-10
MAC怎么升级MacOS Monterey，5个简单教程
您对在 Mac 上安装 macOS Monterey 感到兴奋吗？MacOS Monterey 的发布日期是 10 月 25 日星期一，无论您是想立即安装它，还是过了一段时间后，您都可能需要提前采取一些措施，让您的 Mac 为新系统做好准备软件发布。在 Mac 上安装 macOS Monterey（版本 12）之前，我们将介绍一些程序和注意事项。如何通过 5 个简单步骤为 MacOS Mo...
2024-02-09Pytorch实现各种2d卷积示例
普通卷积使用nn.Conv2d()，一般还会接上BN和ReLu参数量NNCin*Cout+Cout(如果有bias，相对来说表示对参数量影响很小，所以后面不考虑)class ConvBNReLU(nn.Module): def __init__(self, C_in, C_out, kernel_size, stride, padding, affine=True): super(ConvBNReLU, self).__init__() self.op = nn.Sequential( nn.Con...
2024-01-10解决Pytorch训练过程中loss不下降的问题
在使用Pytorch进行神经网络训练时，有时会遇到训练学习率不下降的问题。出现这种问题的可能原因有很多，包括学习率过小，数据没有进行Normalization等。不过除了这些常规的原因，还有一种难以发现的原因：在计算loss时数据维数不匹配。下面是我的代码：loss_function = torch.nn.MSE_loss()optimizer.zero_grad()...
2024-01-10pytorch对梯度进行可视化进行梯度检查教程
目的： 在训练神经网络的时候，有时候需要自己写操作，比如faster_rcnn中的roi_pooling，我们可以可视化前向传播的图像和反向传播的梯度图像，前向传播可以检查流程和计算的正确性，而反向传播则可以大概检查流程的正确性。实验可视化rroi_align的梯度1.pytorch 0.4.1及之前，需要声明需要参数，这里将...
2024-01-10typecho插件编写教程（一）:Hello World
最近老高正在编写一个关于typecho的插件，由于typecho不像wordpress，有那么多的文档参考，写一个插件还是遇到了很多的坑，不过随着研究的不断深入，老高也慢慢上手了，于是总结出此篇编写教程分享给大家！I. 从HelloWorld说起基本信息想必想要开发typecho的你一定阅读过官方示例插件HelloWorld的源码吧...
2024-01-10
