乐胖代购免代理版

RALLM 检索增强LLM架构

import copy import os import sys dir_path = os.path.dirname(os.path.realpath(__file__)) sys.path.insert(0, dir_path) import rch.ut

压缩率

CUDA

线性变换

原创 7月前 70 阅读

lora_adapter 模型和原模型合并成一个模型

lora 部分合并到原模型参数上 import torch from peft import PeftModel from transformers import AutoTokenizer, AutoModelForCausalLM, LlamaTokenizer from transformer

lora

原创 7月前 296 阅读 1收藏

策略梯度玩 cartpole 游戏，强化学习代替PID算法控制平衡杆

cartpole游戏，车上顶着一个自由摆动的杆子，实现杆子的平衡，杆子每次倒向一端车就开始移动让杆子保持动态直立的状态，策略函数使用一个两层的简单神经网络，输入状态有4个，车位置，车速度，杆角度，杆速度，输出action为左移动或右移动，输入状态发现至少要给3个才能稳定一会儿，给2个完全学不明白，给

神经网络

计算策略

sed

原创精选 8月前 220 阅读

DQN玩cartpole游戏

import gym import torch import torch.nn as nn import torch.optim as optim import random import pygame import sys from collections import deque # 定义DQN

ci

.net

原创 8月前 28 阅读

actor critic 玩carpole游戏

import gym import torch import torch.nn as nn import torch.optim as optim import pygame import sys # 定义Actor网络 class Actor(nn.Module): def __init__(se

Soft

原创 8月前 35 阅读

PPO近端策略优化玩cartpole游戏

这个难度有些大，有两个policy，一个负责更新策略，另一个负责提供数据，实际这两个policy是一个东西，用policy1跑出一组数据给新

sed

数据

初始化

原创 8月前 55 阅读

Q-learning 玩maze游戏

import pygame import numpy as np import random import sys # 定义迷宫环境 class Maze: def __init__(self): self.size = 10 self.maze = np.zeros((self.size, sel

import

原创 8月前 7 阅读

PPO-KL散度近端策略优化玩cartpole游戏

其实KL散度在这个游戏里的作用不大，游戏的action比较简单，不像LM里的action是一个很大的向量，可以直接用su

sed

初始化

Soft

原创 8月前 29 阅读

deepspeed 训练多机多卡报错 ncclSystemError Last error

最近在搞分布式训练大模型，踩了两个晚上的坑今天终于爬出来了我们使用 2台 8*H100 遇到过错误1 10.255.19.85: ncclSystemError: System call (e.g. socket, malloc) or external library call failed

3d

4s

json

原创精选 9月前 847 阅读

如何实现图像搜索，文搜图，图搜图，CLIP+faiss向量数据库实现图像高效搜索

如何实现图像搜索，文搜图，图搜图，CLIP+faiss向量数据库实现图像高效搜索这是AIGC的时代，各种GPT大模型

json

Image

搜索

原创 2023-12-12 12:11:17 549 阅读

使用单卡qlora混合精度训练大模型chatGLM2-6b，解决qlora loss变成nan的问题！

最近新换了工作，以后的工作内容会和大模型相关，所以先抽空跑了一下chatGLM2-6b的demo，使用Qlora或lora微调模

json

服务器

数据集

原创精选 2023-11-28 11:33:50 676 阅读

我用numpy实现了VIT，手写vision transformer, 可在树莓派上运行，在hugging face上训练模型保存参数成numpy格式，纯numpy实现

先复制一点知乎上的

numpy

Python

计算机视觉

人工智能

ci

原创 2023-07-16 00:44:19 385 阅读

我用numpy实现了GPT-2，GPT-2源码，GPT-2模型加速推理，并且可以在树莓派上运行，读了不少hungging face源码，手动实现了numpy的GPT2模型

之前分别用numpy实现了mlp，cnn，lstm和bert模型，这周顺带搞一下GPT-2，纯numpy实现，最重要的是可在树莓派上或其他不能安装pytorch的板子上

nlp

numpy

Python

pytorch

人工智能

原创 2023-07-10 00:23:22 260 阅读

我在树莓派上跑通了bert模型，使用numpy实现bert模型，使用hugging face 或pytorch训练模型，保存参数为numpy格式，然后使用numpy加载模型推理

之前分别用numpy实现了mlp，cnn，lstm，这次搞一个大一点的模型bert，纯numpy实现，最重要的是可在树莓派上或其他不能安装pytorch的板子上运行，推理数据本次模型是随便在hugging face上找的一个新闻评论的模型，7分类看这些模型参数，这并不重要，模型占硬盘空间都要400+Mbert.embeddings.word_embeddings.weight torc

nlp

Python

pytorch

人工智能

树莓派

原创 2023-07-01 05:30:21 194 阅读

树莓派和esp8266之间使用tcp协议通信

树莓派代码： from flask import Flask, render_template import socket import threading app = Flask(__name__) adc_value = 0 # 接收tcp数据 def receive_tcp_data(): g

Python

物联网

智能家居

树莓派

html

原创 2023-06-10 01:04:20 370 阅读

树莓派和esp8266在局域网下使用UDP通信，esp8266采集adc数据传递给树莓派，树莓派在web上显示结果

树莓派和esp8266需要在同一局域网下 esp8266使用arduino开发：接入一个电容土壤湿度传感器，采集湿度需要使用adc #include <ESP8266WiFi.h> #include <WiFiUdp.h> const char* ssid = "litianmenzhenbu";

树莓派

物联网

智能家居

html

数据

原创 2023-06-03 03:29:01 217 阅读

在树莓派上实现numpy的LSTM长短期记忆神经网络做图像分类，加载pytorch的模型参数，推理mnist手写数字识别

这几天又在玩树莓派，先是搞了个物联网，又在尝试在树莓派上搞一些简单的神经网络，这次搞得是LSTM识别mnist手写数字识别训练代码在电脑上，cpu就能训练，很快的：import torch import torch.nn as nn import torchvision import numpy as np import os from PIL import Image # 定义LSTM模型 c

Python

pytorch

计算机视觉

人工智能

树莓派

原创 2023-06-03 03:28:55 259 阅读

在树莓派上实现numpy的conv2d卷积神经网络做图像分类，加载pytorch的模型参数，推理mnist手写数字识别，并使用多进程加速

这几天又在玩树莓派，先是搞了个物联网，又在尝试在树莓派上搞一些简单的神经网络，这次搞得是卷积识别mnist手写数字识别训练代码在电脑上，cpu就能训练，很快的：import torch import torch.nn as nn import torch.optim as optim from torchvision import datasets, transforms import numpy

Python

计算机视觉

人工智能

树莓派

ide

原创精选 2023-06-03 03:28:43 524 阅读

在树莓派上使用numpy实现简单的MLP神经网络推理，pytorch在服务器或PC上训练好模型保存成numpy格式的数据，推理在树莓派上加载模型

这几天又在玩树莓派，先是搞了个物联网，又在尝试在树莓派上搞一些简单的神经网络，这次搞得是mlp识别mnist手写数字识别训练代码在电脑上，cpu就能训练，很快的： 1 import torch 2 import torch.nn as nn 3 import torch.optim as opti

Python

pytorch

人工智能

树莓派

计算机视觉

原创 2023-06-03 03:28:12 311 阅读

macbook苹果m1芯片训练机器学习、深度学习模型,resnet101在mnist手写数字识别上做加速，torch.device("mps")

apple的m1芯片比以往cpu芯片在机器学习加速上听说有15倍的提升，也就是可以使用apple mac训练深度学习pytorch模型！！！惊呆了安装apple m1芯片版本的pytorch 然后使用chatGPT生成一个resnet101的训练代码，这里注意，如果网络特别轻的话是没有加速效果的，

Python

人工智能

apple

apple m1

pytorch

原创 2023-05-28 00:27:26 1761 阅读

huggingface vit训练CIFAR10数据集代码，可以改dataset训练自己的数据

vit 训练CIFAR10数据集，冻结所有层，只保留全连接层 from transformers import ViTImageProcessor, ViTForImageClassification f.n

pytorch

人工智能

git

lua

数据集

原创 2023-05-28 00:27:20 965 阅读

使用树莓派远程控制灯继电器开关，dht11温湿度网页显示，树莓派物联网

前段时间使用esp8266搞了个智能家居，通过网页控制，但是没有办法实现远程控制，只能局域网控制，因为我没有平台，使用机制云

Python

html

引脚

flask

原创 2023-05-28 00:27:09 168 阅读

pandas 数据处理一些常用操作

读取csv文件，打印列名称： import pandas as pd # data = pd.read_csv("guba_fc_result_202304

Python

pandas

数据

字符串长度

字符串

原创 2023-05-20 08:34:19 89 阅读

esp8266，arduino，网页显示dht11温湿度，控制继电器开关，局域网智能家居

不说了，上代码，用arduino实现esp8266代码 #include <ESP8266WiFi.h> #include <WiFiCli

单片机

html

#include

引脚

原创 2023-05-20 08:34:08 259 阅读

python 多进程jieba分词，高效分词，multiprocessing

自然语言任务经常使用jieba分词，数据量大时怎么加速，jieba分词不支持使用asyncio异步加速，使用multiprocessing还是可以的 import jieba import jieba.analyse import multiprocessing # 加载自定义词典 jieba.lo

Python

人工智能

文本处理

自然语言处理

测试文本

原创 2023-05-13 01:24:26 347 阅读

python异步字符串查找，asyncio和marisa_trie

自然语言处理当中经常需要字符串的查找操作，比如通过查找返回字串在文本当中的位置，比如通过匹配实现的ner import pandas as pd import asyncio # data = pd.read_csv("guba_fc_result_20230413.csv") data = pd.

Python

异步asyncio

自然语言处理

字符串

原创 2023-05-13 01:24:21 125 阅读

python异步正则字符串替换，asyncio异步正则字符串替换re

自然语言处理经常使用re正则模块进行字符串替换，但是文本数量特别大的时候，需要跑很久，这就需要使用asyncio异步加速

Python

人工智能

异步asyncio

自然语言处理

估值

原创 2023-05-13 01:24:11 235 阅读

pid循迹小车的实现，arduino

帮我写一个Arduino循迹小车的程序，小车前面有并列8个红外发射接收传感器，每个红外发

PID算法

引脚

i++

红外

原创 2023-04-29 22:28:26 546 阅读

(一)asyncio的基本使用框架，python高效处理数据，asyncio.gather(),asyncio. create_task(),asyncio.run(main())

asyncio 是 Python 3.4 引入的标准库，是一个基于事件循环的异步 I/O 并发库。它

Python

异步a s y n ci o

事件循环

并发处理

非阻塞

原创 2023-04-29 22:28:20 474 阅读

(二)asyncio的简单使用，python异步高效处理数据，asyncio.get_event_loop()，loop.run_until_complete(main())，loop.close()

Asyncio 是一个基于事件循环的异步I/O框架，它提供了高效的

Python

异步a s y n ci o

异步asyncio

事件循环

ci

原创 2023-04-29 22:28:15 444 阅读

官方博客	全部文章	热门标签	班级博客
了解我们	网站地图	意见反馈

鸿蒙开发者社区	51CTO学堂
51CTO	软考资讯

51CTO博客

qq6125b85a71dfb的博客

RALLM 检索增强LLM架构

lora_adapter 模型和原模型合并成一个模型

策略梯度玩 cartpole 游戏，强化学习代替PID算法控制平衡杆

DQN玩cartpole游戏

actor critic 玩carpole游戏

PPO近端策略优化玩cartpole游戏

Q-learning 玩maze游戏

PPO-KL散度近端策略优化玩cartpole游戏

deepspeed 训练多机多卡报错 ncclSystemError Last error

如何实现图像搜索，文搜图，图搜图，CLIP+faiss向量数据库实现图像高效搜索

使用单卡qlora混合精度训练大模型chatGLM2-6b，解决qlora loss变成nan的问题！

我用numpy实现了VIT，手写vision transformer, 可在树莓派上运行，在hugging face上训练模型保存参数成numpy格式，纯numpy实现

我用numpy实现了GPT-2，GPT-2源码，GPT-2模型加速推理，并且可以在树莓派上运行，读了不少hungging face源码，手动实现了numpy的GPT2模型

我在树莓派上跑通了bert模型，使用numpy实现bert模型，使用hugging face 或pytorch训练模型，保存参数为numpy格式，然后使用numpy加载模型推理

树莓派和esp8266之间使用tcp协议通信

树莓派和esp8266在局域网下使用UDP通信，esp8266采集adc数据传递给树莓派，树莓派在web上显示结果

在树莓派上实现numpy的LSTM长短期记忆神经网络做图像分类，加载pytorch的模型参数，推理mnist手写数字识别

在树莓派上实现numpy的conv2d卷积神经网络做图像分类，加载pytorch的模型参数，推理mnist手写数字识别，并使用多进程加速

在树莓派上使用numpy实现简单的MLP神经网络推理，pytorch在服务器或PC上训练好模型保存成numpy格式的数据，推理在树莓派上加载模型

macbook苹果m1芯片训练机器学习、深度学习模型,resnet101在mnist手写数字识别上做加速，torch.device("mps")

huggingface vit训练CIFAR10数据集代码，可以改dataset训练自己的数据

使用树莓派远程控制灯继电器开关，dht11温湿度网页显示，树莓派物联网

pandas 数据处理一些常用操作

esp8266，arduino，网页显示dht11温湿度，控制继电器开关，局域网智能家居

python 多进程jieba分词，高效分词，multiprocessing

python异步字符串查找，asyncio和marisa_trie

python异步正则字符串替换，asyncio异步正则字符串替换re

pid循迹小车的实现，arduino

(一)asyncio的基本使用框架，python高效处理数据，asyncio.gather(),asyncio. create_task(),asyncio.run(main())

(二)asyncio的简单使用，python异步高效处理数据，asyncio.get_event_loop()，loop.run_until_complete(main())，loop.close()

欢迎