在linux中使用A卡进行ai模型训练吐槽使用的设备配置2022-10-24 23:21:50一键部署工具发布安装GPU驱动添加path安装MIopenRDNA2架构安装pytorchRX580(gfx803)用户安装这个运行stable-diffusion-webui提示cuda错误，解决方法疑难杂症解决rocm-gdb依赖libpython3.8解决rocm-llvm依赖python但无法安
转载
2023-11-10 20:39:12
133阅读
【Win11+RTX3050显卡】cuda+cudnn+tensorflow 环境配置CUDA 11.5 cudnn 8.3.3 tensorflow-gpu 2.61、名词解释CUDA：CUDA 即英伟达的显卡并行计算框架 nvidia-smi 可以查看，每个版本的CUDA都是基于一定版本的驱动建立的，所以它对驱动的最低版本是有要求的cudnn：cudnn 是基于CUDA架构的神经网络库 是专门
深度学习训练与神经网络计算架构配置分析目录 1 深度学习训练平台与理想计算
转载
2023-12-26 11:06:10
162阅读
由前面的学习内容知道，建立深度学习的三个步骤是 ①选择函数集②评估函数③选择最好的函数 做完三个步骤之后会得到自己的神经网络，这时候需要检查神经网络的表现，检查哪些方面呢？ 1)首先是神经网络在训练集上是否得到了好的结果，如果没有，可以回顾前面的步骤进行调整和修改。 2)如果在训练集上有好的效果，再看神经网络在测试集上的表现，如果在测试集上效果不好，说明网络出现了过拟合。 （值得说明的是，只有当网
转载
2023-12-24 10:43:55
36阅读
怎样让ChatGPT在其内部训练神经网络？这个话题有点超乎大多数人的理解。步骤是这样的:1. 先让它伪装成 Ubuntu 18.04，给它说你安装了 Python 3.9, Pytorch 1.8, CUDA 11.3 和其他训练一个 pytorch 模型所需要的库。让 ChatGPT 伪装成 Linux 终端，这个梗在外网有过讨论，这里需要让他额外安装（让它自己认为安装了）Python, Pyt
转载
2023-12-06 17:00:07
4阅读
找资料的时候感觉现在写30XX系显卡深度学习环境配置的文章还不太完善，所以记录了自己的采坑经历。Why？下面这张图非常直观，TITAN性能比2080ti强，3080的CUDA核心数差不多是TITAN的两倍，内存少一些。目前3080显卡7000出头可以拿下，性价比非常不错。1 准备工作上半年配了台支持4GPU的机器，原计划下半年训练任务上来以后再加卡。但是30XX显卡出来以后，2个3080理论上和4
1.GPU TFLOPS（teraFLOPS FLoating-point Operations Per Second每秒浮点运算次数）单精度也就是运算性能，决定了运算速度，首选1080ti、2080ti、Titan V,不过性能最强的titan V的价格是2080ti的三倍VRAM（显存）:显存大小决定了我们的网络模型能不能执行，大型的卷积神经网络会使用超过8G以上的显存，因此购买具有
转载
2023-11-18 22:50:30
184阅读
卷积神经网络（LeNet） 注意：当GPU和显示器相连时，对每个GPU函数的运行有几秒的限制，因为当GPU进行计算时无法与显示器相连。如果不做限制，显示冻结较长时间而使人误以为是电脑死机。可以通过降低批次规模来解决超时问题。诱因 卷积神经网络（CNN）是MLP的仿生变异。从Hubel and Wiesel早期关于猫的视觉皮质研究，我们知道视觉皮质由一系列细胞通过复杂的排列组成。这些细胞对于视觉域的
转载
2023-12-26 20:57:36
88阅读
图神经网络入门：搭建GNN环境本教程是在Windows10下安装Pytorch(GPU版本，CPU版本比较简单，不需要CUDA、cudnn) ,CUDA ,cudnn,pyG 许多初学者，开始以为直接安装好上述的软件或者包就直接能用了，我一开始也是这么干的。但是是错误的。注意：上述软件或包版本要求一一对应！！！不能出错。 查询的连接在Pytorch官网Pytorch 如下图所示torch torc
已经很久没有写下些什么东西了，除了不知道写些什么之外，还有一个很重要的原因是不想在自己的某一段时间记录下一些东西。而这些东西很可能在自己以后看来会是件很痛苦的事情！今天说不上是心情的好与坏，我想也该写些什么了，至少我该纪念一下这段日子！
用“五月”这样的字眼来作为这篇文章的标题，其实没有什么特殊的意义，之所以会用它，是因为我在为这篇文章写标题时，耳边响起的是最近我常在练习的钢琴曲《五月》——一首
推荐
原创
2008-03-24 19:12:08
892阅读
2评论
神经网络模型的训练过程其实质上就是神经网络参数的设置过程在神经网络优化算法中最常用的方法是反向传播算法，下图是反向传播算法流程图：从上图可知，反向传播算法实现了一个迭代的过程，在每次迭代的开始，先需要选取一小部分训练数据，这一小部分数据叫做一个batch。然后这一个batch会通过前向传播算法得到神经网络的预测结果。计算出当前神经网络的预测答案与正确答案之间的差距（有监督学习，在训练时有一个标注好
转载
2023-07-05 22:14:52
205阅读
深度神经网络是如何训练的？Coursera的Ng机器学习，UFLDL都看过。没记错的话Ng的机器学习里是直接给出公式了，虽然你可能知道如何求解，但是即使不知道完成作业也不是问题，只要照着公式写就行。反正我当时看的时候心里并没能比较清楚的明白。我觉得想了解深度学习UFLDL教程-Ufldl是不错的。有习题，做完的话确实会对深度学习有更加深刻的理解，但是总还不是很清晰。后来看了LiFeiFei的Sta
完整的 PyTorch 模型训练的过程：1、数据预处理：首先，需要加载和准备数据。这可以通过使用 torchvision 和 torch.utils.data 中的数据加载器来完成。同时要进行数据预处理，例如缩放、裁剪、旋转、填充等。2、构建模型：接下来，需要定义神经网络模型。PyTorch 提供了一个 nn 模块来快速构建神经网络。该模块包括各种层（例如全连接层、卷积层、池化层等），可以使用它们
转载
2023-08-21 11:37:58
222阅读
有一个训练了12个小时的神经网络，各方面看起来都不错：梯度缓慢下降、损失也在逐渐降低，但是预测结果却不好：输出全是0值（全都预测为背景），没有检测出任何标签。“到底是什么地方出错了？”——叫天天不应叫地地不灵╮(╯▽╰)╭ 对于上述情况，或者另一种垃圾输出的情况——预测值只是所有标签的平均值，再或者更差的情况，模型准确率非常低…我们应该从什么地方开始检查模型呢？如何使用这个指南网络训练效
本文涉及到的是中国大学慕课《人工智能实践：Tensorflow笔记》第四讲第六节的内容，通过tensorflow实现神经网络参数的acc/loss可视化，从而查看网络的训练效果。准确率acc与损失值loss的保存在下面所示的代码中，model.fit执行网络的训练时，已经同步记录了acc和loss的信息，保存在history中。# 第五步，执行训练
history=model.fit( 训练集数据
转载
2023-10-27 17:00:52
79阅读
在面对模型不收敛的时候，首先要保证训练的次数够多。在训练过程中，loss并不是一直在下降，准确率一直在提升的，会有一些震荡存在。只要总体趋势是在收敛就行。若训练次数够多（一般上千次，上万次，或者几十个epoch）没收敛，再考虑采取措施解决。一、数据与标签没有对数据进行预处理。数据分类标注是否准确？数据是否干净？没有对数据进行归一化。由于不同评价指标往往具有不同的量纲和量纲单位，这样的情况会影响到数
作者： Alberto Quesada 译者： KK4SBB 责编：何永灿， 神经网络模型的每一类学习过程通常被归纳为一种训练算法。训练的算法有很多，它们的特点和性能各不相同。
问题的抽象 人们把神经网络的学习过程转化为求损失函数f的最小值问题。一般来说，损失函数包括误差项和正则项两部分。误差项衡量神经网络模型在训练数据集上的拟合程度，而正
神经网络纯小白入门学习笔记一、概述二、神经网络的例子三、激活函数3.1 sigmoid函数3.2 阶跃函数的实现3.3 阶跃函数的图形3.4 sigmoid函数的实现3.5 sigmoid函数和阶跃函数的比较3.6 ReLU函数四、多维数组的运算4.1 多维数组的概述五、神经网络的设计5.1 神经网络的内积5.2 三层神经网络的实现5.2.1 符号确认5.2.2 各层神经元之间的实现5.2.3
转载
2023-08-30 16:36:49
126阅读
以前一直知道神经网络划分数据集时要分为训练集，测试集和验证集，但不知道并且一般以6：2：2的比例划分，到头来不知道这三者各是啥，以及他们的作用是什么。本片文档解释一下三者的作用。重点在于验证集和测试集的区别以及用处。1. 三者的功能简述在机器学习中，我们的模型一般包括以下几点：（1）模型设计；（2）模型架构（模型多少层，每层神经元个数）；（3）神经元内置参数；（4）模型训练的参数：超参数（模型外置
转载
2023-08-11 17:49:46
146阅读
神经网络的学习学习：从训练数据中自动获取最优权重参数的过程指标：损失函数目的：以损失函数为基准，找到能使损失函数的值达到最小的权重参数机器学习的方案
从图像中提取特征量（可以从输入数据中准确提取本质数据的转换器）用机器学习技术学习特征量的模式CV领域常用的特征量包括SIFT，SURF和HOG深度学习有时也成为端到端机器学习（end-to-end machine learning),从原始数据中获得
转载
2023-12-07 19:29:51
57阅读
