1. PyTorch概述
1. 课程目标使用PyTorch实现学习系统理解神经网络/深度学习的基本概念 2. 所需基础线性代数、概率论Python 3. 机器学习算法与数据结构算法的区别之前的算法有穷举、贪心、动规、分治等等。当遇到一个问题的时候，需要基于这些思维方法，人工设计出一套计算的过程。但是在机...
2024-01-10
pytorch加载自定义网络权重的实现
在将自定义的网络权重加载到网络中时，报错：AttributeError: 'dict' object has no attribute 'seek'. You can only torch.load from a file that is seekable. Please pre-load the data into a buffer like io.BytesIO and try to load from it instead.我们一步一步分析。模型网络权重保存额代码是：torch.save(net.st...
2024-01-10基于Python安装pyecharts所遇的问题及解决方法
最近学习到数据可视化内容，老师推荐安装pyecharts，于是pip install 了一下，结果...掉坑了，下面是我的跳坑经验，如果你有类似问题，希望对你有所帮助。第一个坑:这个不难理解，缺少pyecharts-jupyter-installer嘛，那就安一个呗。可能有人注意到，我使用的是python2 -m pip ...（这种写法是为了解决python 2和...
2024-01-10Pytorch DataLoader 变长数据处理方式
关于Pytorch中怎么自定义Dataset数据集类、怎样使用DataLoader迭代加载数据，这篇官方文档已经说得很清楚了，这里就不在赘述。现在的问题：有的时候，特别对于NLP任务来说，输入的数据可能不是定长的，比如多个句子的长度一般不会一致，这时候使用DataLoader加载数据时，不定长的句子会被胡乱切分，...
2024-01-10pytorch获取模型某一层参数名及参数值方式
1、Motivation：I wanna modify the value of some param;I wanna check the value of some param.The needed function:2、state_dict() #generator typemodel.modules()#generator typenamed_parameters()#OrderDict typefrom torch import nnimport torch#creat a simple model...
2024-01-10pytorch 指定gpu训练与多gpu并行训练示例
一. 指定一个gpu训练的两种方法：1.代码中指定import torchtorch.cuda.set_device(id)2.终端中指定CUDA_VISIBLE_DEVICES=1 python 你的程序其中id就是你的gpu编号二. 多gpu并行训练：torch.nn.DataParallel(module, device_ids=None, output_device=None, dim=0)该函数实现了在module级别上的数据并行使用，注意batch size要大于GPU的数量。...
2024-01-10Python中pyecharts安装及安装失败的解决方法
pyecharts 是一个用于生成 Echarts 图表的类库。Echarts 是百度开源的一个数据可视化 JS 库。这篇文章重点给大家介绍pyecharts安装失败的处理方法，具体详情如下：pyecharts库的安装1.正常安装首先在打开终端输入以下命令：pip install pyecharts 在终端输入pip list查看是否安装成功测试程序：from pyecharts.charts imp...
2024-01-10Win10+GPU版Pytorch1.1安装的安装步骤
安装cuda更新nvidia驱动打开GeForce Game Ready Driver或在GeForce Experience中下载符合自己gpu的程序。选择cuda打开nvidia控制面板点击帮助、点击系统信息、在点击组件在3D设置中可以看到cuda信息在我升级过nvidia驱动后，cuda的版本更新到了10.1。接下来下载cuda .cuda10.1安装完毕。安装cuDNN在安装了cuda10.1后选...
2024-01-10
【博客搭建】Typecho个人博客搭建，快速安装，超小白（很简单的）
使用Typecho框架一个月又十二天了，就目前感觉来说，整体还不错，很多方面都支持个性化，二次开发，但是目前MD编辑器有一丢丢问题，不能同步滚动条滚动，就是编辑器区域滚动，预览区域没有动静，需要两边都操作，不知道这个问题是主题的还是官方的，而且还有一个图片多了会出现抖动。。。其...
2024-01-10从Artifactory安装作用域npm软件包
我正在尝试使范围限定的npm软件包与Apache背后的Artifactory一起使用。我可以将范围界定的包发布到Artifactory，它会在npm-local存储库中创建以下路径：@scopename/packagename/-/@scopename/packagename-version.tgz尝试安装此软件包时出现了我的问题。我得到一个404 Not Found:@scopename/packagename。查看调试日志，我可以发现它...
2024-01-10
五个简单的 Torch 例子
上一讲我们已经安装好了 Torch，接下来我们将会列出 5 个简单的 Torch 入门操作案例：require 'torch'自动引入 Torch，代替你引入 th1、定义正定二次型rand() 产生均匀分布的拉张量t() 调换一个张量（注意，它返回一个新的视图）dot() 执行2张量之间的点积eye() 返回一个单位矩阵* 运算符对矩阵（执行矩阵...
2024-01-10
利用PHP扩展Xhprof分析项目性能实践教程
一、背景项目即将上线，想通过一些工具来分析代码的稳定性和效率，想起在上个团队时使用过的xhprof扩展；因为换了新电脑，所以需要重新编译此扩展，现将安装与实际排查过程完整记录下来，方便自己回顾和帮助更多的读者。XHProf 是 FaceBook 开发的一个函数级别的 PHP 分层分析器。数据收集部分...
2024-01-10pytorch加载语音类自定义数据集的方法教程
前言 pytorch对一下常用的公开数据集有很方便的API接口，但是当我们需要使用自己的数据集训练神经网络时，就需要自定义数据集，在pytorch中，提供了一些类，方便我们定义自己的数据集合torch.utils.data.Dataset：所有继承他的子类都应该重写 __len()__ ， __getitem()__ 这两个方法 __len()__ ：返回数...
2024-01-10pytorch自定义二值化网络层方式
任务要求：自定义一个层主要是定义该层的实现函数,只需要重载Function的forward和backward函数即可,如下:import torchfrom torch.autograd import Functionfrom torch.autograd import Variable定义二值化函数class BinarizedF(Function): def forward(self, input): self.save_for_backward(input) a = torch.ones...
2024-01-10
MAC怎么升级MacOS Monterey，5个简单教程
您对在 Mac 上安装 macOS Monterey 感到兴奋吗？MacOS Monterey 的发布日期是 10 月 25 日星期一，无论您是想立即安装它，还是过了一段时间后，您都可能需要提前采取一些措施，让您的 Mac 为新系统做好准备软件发布。在 Mac 上安装 macOS Monterey（版本 12）之前，我们将介绍一些程序和注意事项。如何通过 5 个简单步骤为 MacOS Mo...
2024-02-09Pytorch实现各种2d卷积示例
普通卷积使用nn.Conv2d()，一般还会接上BN和ReLu参数量NNCin*Cout+Cout(如果有bias，相对来说表示对参数量影响很小，所以后面不考虑)class ConvBNReLU(nn.Module): def __init__(self, C_in, C_out, kernel_size, stride, padding, affine=True): super(ConvBNReLU, self).__init__() self.op = nn.Sequential( nn.Con...
2024-01-10解决Pytorch训练过程中loss不下降的问题
在使用Pytorch进行神经网络训练时，有时会遇到训练学习率不下降的问题。出现这种问题的可能原因有很多，包括学习率过小，数据没有进行Normalization等。不过除了这些常规的原因，还有一种难以发现的原因：在计算loss时数据维数不匹配。下面是我的代码：loss_function = torch.nn.MSE_loss()optimizer.zero_grad()...
2024-01-10pytorch对梯度进行可视化进行梯度检查教程
目的： 在训练神经网络的时候，有时候需要自己写操作，比如faster_rcnn中的roi_pooling，我们可以可视化前向传播的图像和反向传播的梯度图像，前向传播可以检查流程和计算的正确性，而反向传播则可以大概检查流程的正确性。实验可视化rroi_align的梯度1.pytorch 0.4.1及之前，需要声明需要参数，这里将...
2024-01-10typecho插件编写教程（一）:Hello World
最近老高正在编写一个关于typecho的插件，由于typecho不像wordpress，有那么多的文档参考，写一个插件还是遇到了很多的坑，不过随着研究的不断深入，老高也慢慢上手了，于是总结出此篇编写教程分享给大家！I. 从HelloWorld说起基本信息想必想要开发typecho的你一定阅读过官方示例插件HelloWorld的源码吧...
2024-01-10pytorch实现CNN卷积神经网络
本文为大家讲解了pytorch实现CNN卷积神经网络，供大家参考，具体内容如下我对卷积神经网络的一些认识 卷积神经网络是时下最为流行的一种深度学习网络，由于其具有局部感受野等特性，让其与人眼识别图像具有相似性，因此被广泛应用于图像识别中，本人是研究机械故障诊断方面的，一般利...
2024-01-10pytorch实现从本地加载 .pth 格式模型
可以从官网加载预训练好的模型：import torchvision.models as models model = models.vgg16(pretrained = True)print(model)但是经常会出现因为下载速度太慢而出现requests.exceptions.ConnectionError: ('Connection aborted.', TimeoutError(10060, '由于连接方在一段时间后没有正确答复或连接的主机没有反应，连接尝试失败。', None, 10060, Non...
2024-01-10
Pytorch模型转换成GPU模型出现错误
因为目前还没有PyTorch标签，所以就用了TensorFlow了，麻烦盛誉值高的大大加上这个标签好吗，Thanks♪(･ω･)ﾉ我最近准备使用VGG模型来训练数据，然后想用GPU，但是在将VGG模型转化成VGG.cuda()时老是报错，我刚开始以为是数据集的问题，但是后来我啥都没弄直接先将VGG转化成.cuda()形式，但也还是报错，...
2024-01-10pytorch 使用单个GPU与多个GPU进行训练与测试的方法
如下所示：device = torch.device("cuda:0" if torch.cuda.is_available() else "cpu")#第一行代码model.to(device)#第二行代码首先是上面两行代码放在读取数据之前。mytensor = my_tensor.to(device)#第三行代码然后是第三行代码。这句代码的意思是将所有最开始读取数据时的tersor变量copy一份到device所指定的GPU上去，之后的运算...
2024-01-10使用pytorch搭建AlexNet操作(微调预训练模型及手动搭建)
本文介绍了如何在pytorch下搭建AlexNet，使用了两种方法，一种是直接加载预训练模型，并根据自己的需要微调（将最后一层全连接层输出由1000改为10），另一种是手动搭建。构建模型类的时候需要继承自torch.nn.Module类，要自己重写__ \_\___init__ \_\___方法和正向传递时的forward方法，这里我自己的理解是，...
2024-01-10Pytorch 保存模型生成图片方式
三通道数组转成彩色图片 img=np.array(img1) img=img.reshape(3,img1.shape[2],img1.shape[3]) img=(img+0.5)*255##img做过归一化处理，【-0.5，0.5】 img_path='/home/isee/wei/image/imageset/result.jpg' img=cv2.merge(img) cv2.imwrite(img_path,img)单通道数组转化成灰度图 Img_mask...
2024-01-10pytorch 限制GPU使用效率详解(计算效率)
问题用过 tensorflow 的人都知道， tf 可以限制程序在 GPU 中的使用效率，但 pytorch 中没有这个操作。思路于是我想到了一个代替方法，玩过单片机点灯的同学都知道，灯的亮度是靠占空比实现的，这实际上也是计算机的运行原理。 那我们是不是也可以通过增加 GPU 不工作的时间，进而降低 GPU 的使用效...
2024-01-10Pytorch加载部分预训练模型的参数实例
前言自从从深度学习框架caffe转到Pytorch之后，感觉Pytorch的优点妙不可言，各种设计简洁，方便研究网络结构修改，容易上手，比TensorFlow的臃肿好多了。对于深度学习的初学者，Pytorch值得推荐。今天主要主要谈谈Pytorch是如何加载预训练模型的参数以及代码的实现过程。直接加载预选脸模型如果我们...
2024-01-10如何使用Pytorch搭建模型
1 模型定义 和TF很像，Pytorch也通过继承父类来搭建模型，同样也是实现两个方法。在TF中是__init__()和call()，在Pytorch中则是__init__()和forward()。功能类似，都分别是初始化模型内部结构和进行推理。其它功能比如计算loss和训练函数，你也可以继承在里面，当然这是可选的。下面搭建一个判别MNIST手...
2024-01-10pytorch permute维度转换方法
permuteprediction = input.view(bs, self.num_anchors, self.bbox_attrs, in_h, in_w).permute(0, 1, 3, 4, 2).contiguous()转置：import torchx = torch.linspace(1, 9, steps=9).view(3, 3)b=x.permute(1,0)print(b)print(b.permute(1,0))以上这篇pytorch permute维度转换方法就是小编分享给大家...
2024-01-10
