从0开始的ResNet
123456789101112131415161718192021222324import torchimport torchvisionimport torchvision.transforms as transformsimport torch.nn as nntransform_train=transforms.Compose([ transforms.RandomCrop(32,padding=4), transforms.RandomHorizontalFlip(), transforms.ToTensor(), transforms.Normalize((0.4914, 0.4822, 0.4465), (0.2023, 0.1994, 0.2010)),])transform_test=transforms.Compose([ transforms.ToTensor(), transforms.Normalize((0.4914, 0.4822, 0.4465), (0.2023, 0.1994,...
从0开始的Transformer
基于pytorch,从底层实现transformer1234import torchfrom torch import nnimport mathimport re 1device=torch.device('mps') 读取数据集,这里使用”time machine” 12345def read_time_machine(): # 这里假设你已经有了 txt 文件,或者直接从网络下载 with open('timemachine.txt', 'r') as f: lines = f.readlines() return [re.sub('[^A-Za-z]+', ' ', line).strip().lower() for line in lines] 下面开始实现模型 123456789101112131415161718192021222324252627282930313233343536373839404142#多头注意力class...
BlogGuide
本文采用Hexo+Git+Nodejs+Github+Aliyun+Vercel方式搭建个人博客网站 一,必备工具的安装下载Git,Nodejs,Hexo 官网下载git,nodejs并安装 测试是否下载成功:打开cmd,输入:123node -vnpm -v(这个是node附带的)git -v 出现版本号即为安装成功 下载Hexo:在cmd中输入:1npm install hexo-cli -g git与github的账户配置(如果你已有git和github账号,请忽略此步) 进入任意文件夹,右键空白处然后点击Git Bash Here,输入:12git config --global user.email "你的邮箱"git config --global user.name "你的名字" 进入GitHub网站,注册一个账号 二,创建GitHub仓库 进入GitHub网站,点击Create a new repository进入新建仓库页面,仓库名输入: 1用户名.github.io 勾选 Public 勾选 Add a...