欢迎Star⭐⭐⭐

使用PyTorch实现MLP、CNN，并在MNIST数据集上验证。

• 环境配置
• 代码编写
• 实验验证，在MNIST数据集上进行实验验证

# 预处理数据
python3 ./Experiment1/Code/dataprocessed.py
# 训练模型
python3 train.py

ACC:

Loss:

confusion matrix:

ACC:

Loss:

confusion matrix:

• 基于PyTorch实现AlexNet结构
• 在Caltech101数据集上进行验证
• 使用tensorboard进行训练数据可视化，Loss曲线
• 如有条件，尝试不同参数的影响，尝试其他网络结构
• 请勿使用torchvision.models.AlexNet

• AlexNet
• VGG16
• ResNet50(torchvision.models)
• InceptionV3(torchvision.models)
• DenseNet121(torchvision.models)

使用AlexNet对Caltech101分类。

# 训练AlexNet
python3 ./Experiment2/Code/train.py
# 训练VGG16
python3 ./Experiment2/Code/trainVGG.py
# 训练ResNet50
python3 ./Experiment2/Code/trainResNet.py
# 训练InceptionV3
python3 ./Experiment2/Code/trainInception.py
# 训练DenseNet121
python3 ./Experiment2/Code/trainDenseNet.py

基于PyTorch实现VGG/ResNet/SENet等结构:

• 自己实现VGG(11)：要求Conv部分参照论文，可动态调整结构；
• 自己实现ResNet(18)：要求基于残差块，参照论文，可动态调整；
• 在ResNet基础上，添加SE block，对比其性能表现。
• 要求基于CUDA实现，可设定是否使用GPU，通过argparse包实现，默认参数设定为GPU

• 公共部分（选用一个上述最优的模型）

1.进行优化器(SGD与Adam)对比； 2.进行data augmentation（翻转、旋转、移位等操作）对比。

• 自选部分

引入新的模块/换用更好的模型，内容不限，可有效提升性能即可

• 实现VGG16
• 实现ResNet18、34、50、101、152
• 实现SE-ResNet18、34、50、101、152

使用Swin Transformer模型，基于预训练模型训练。

Plant Seedlings Classification

python3 ./Experiment3/Code/main.py --mode train --model VGG --opt Adam --aug rot --epoch 100 --bs 128 --lr 1e-5 --dev cuda 

测试阶段会使用训练阶段训练好的模型测试。

python3 ./Experiment3/Code/main.py --mode test --model VGG

利用Pytorch自己实现RNN、GRU、LSTM和Bi-LSTM不可直接调用nn.RNN(), nn.GRU(), nn.LSTM()。
利用上述四种结构进行文本多分类，计算测试结果的准确率、召回率和F1值，对比分析四种结构的实验结果。
任选上述一种结构进行温度预测，使用五天的温度值预测出未来两天的温度值；给出与真实值的平均误差和中位误差。

将以下数据下载后放入Dataset文件夹下对应名字目录下。
online_shopping_10_cats
jena_climate_2009_2016

训练FastText词向量模型。

python3 ./Experiment4/Code/pretrained.py

数据预处理后即可训练。例如:

python3 ./Experiment4/Code/main.py --data Text --model RNN --bs 512 

python3 ./Experiment4/Code/main.py --data Weather --model LSTM

在该数据集上训练各种网络的效果

测试集上各个类别的结果

测试集上各个类别的结果，对应的confusion matrix如下图所示。

测试集上各个类别的结果，对应的confusion matrix如下图所示。

测试集上各个类别的结果，对应的confusion matrix如下图所示。

• 生成式对抗网络实现
• 隐空间语义方向搜索

./Dataset/points.mat

通过可视化，可以发现其为M。

蓝色线条为D的决策面，红色点为points.mat中点的分布，蓝色点为生成的点。

笔记：SeFa，高效提取GAN隐空间的语义信息

实验选题为kaggle上Featured Code Competition，题目为U.S. Patent Phrase to Phrase Matching.

训练数据如下图所示，对于给定的anchor和target，给出其相匹配的程度，例如，如果一项发明声称是“电视机”，而先前的出版物描述了“电视机”，那么理想情况下，模型会识别出这两者是相同的，并帮助专利律师或审查员检索相关文件。

测试数据如下图所示，需要给出anchor和target的相关程度，并给出了相关的上下文的符号。

将test中的anchor和target连接到Cooperative Patent Classification Codes Meaning数据中，获取相关的上下文信息，并构建dataset。
采样数据的分布，使用DeBerta分词器对待分类的句子分词，分词后的数据分布如下:

在后续处理中，将句子截断为100，对不足100的补齐。

基于DeBerta构建训练系统。