Python

8热度

5回答

我使用ChatGLM-6B模型，使用4bit量化训练，更换了 bell math的数据源，训练时报RuntimeError: expected scalar type Float but found Half，报错信息和执行命令如下 Traceback (most recent call last): File "main.py", line 434, in <module> main

2热度

10回答

[THUDM/ChatGLM-6B][BUG/Help] readme文档里为啥没有多卡ptuning的教程呢，或者解释一句会有什么情况吧，这个问题困扰好多人啊

readme文档里为啥没有多卡ptuning的教程呢，或者解释一句会有什么情况吧，这个问题困扰好多人啊

0热度

6回答

[THUDM/ChatGLM-6B][Feature] 请问ChatGLM-6B支持batch inference吗？

请问ChatGLM-6B支持做batch inference吗？如果支持，请问怎么设置？谢谢！

7热度

7回答

[THUDM/ChatGLM-6B]P-tuning v2怎么多卡训练啊？能不能出一个详细教程？ [BUG/Help]

我直接把train指定为下面这样，主要是CUDA_VISIBLE_DEVICES=0,1,2,3这里改了 PRE_SEQ_LEN=128 LR=2e-2 CUDA_VISIBLE_DEVICES=0,1,2,3 python3 main.py \ --do_train \ --train_file junshi/full_train.json \ --validation_file junshi/

9热度

5回答

[THUDM/ChatGLM-6B][Help] 如何像stable diffusion一样只要启动第一次后续就不需要联网

第一次打开web_demo.py正常运行后我使用控制面板把网络禁用进入断网状态，但是在这状态下再次打开web_demo.py脚本后出现以下 C:\Users\open>E:\1\chatglm-6b\web_demo1232.py Explicitly passing a revision is encouraged when loading a model with custom code

2热度

11回答

[THUDM/ChatGLM-6B]怎么释放GPU内存，使用torch.cuda.empty_cache()不起作用

随着提问的问题的增多，GPU内存占用也会增加，内存会溢出，有没有办法，每次推理完成后，释放下内存，我使用torch.cuda.empty_cache()不起作用。怎么修改代码，可以在推理内存满了后，释放下内存，继续推理

6热度

7回答

[THUDM/ChatGLM-6B][Help] <使用deepspeed全量模型微调，内存不够用>

环境是5个RTX3090，300多GB内存，使用了deepspeed的zero3，把优化器和模型参数都offload到内存跑deepspeed全量模型微调跑到1000个step的时候，做checkpoint，写入文件失败，查询发现是内存不够想问问作者跑deepspeed的时候，用的服务器是多大内存期望可以正常跑完训练 deepspeed.json `{ "fp16": { "en

1热度

12回答

[PaddlePaddle/PaddleOCR]使用ABInet训练时报错

我想要识别的文本比较长，所以想尝试将max_text_length设置为一个更大的数，但是改变该值后（默认为25，修改成50后），训练报错： Traceback (most recent call last): File "PaddleOCR/tools/train.py", line 208, in <module> main(config, device, logger

9热度

18回答

[PaddlePaddle/PaddleOCR]PPstructure 表格识别错误

请提供下述完整信息以便快速定位问题/Please provide the following information to quickly locate the problem 系统环境/System Environment： Windows 10 家庭中文版 22H2： 1060MaxQ + CUDA 11.6 版本号/Version： Python：3.9, anaconda Paddle：p

5热度

11回答

[PaddlePaddle/PaddleOCR]训练ser任务报错

SER单卡训练 python3 tools/train.py -c configs/kie/vi_layoutxlm/ser_vi_layoutxlm_xfund_zh.yml 报错： TypeError: init() got an unexpected keyword argument 'num_classes'

9热度

14回答

[PaddlePaddle/PaddleOCR]PPLCNetNew找不到對應模型

系统环境/System Environment：Ubuntu 版本号/Version：Paddle v2.5： PaddleOCR：问题相关组件/Related components： ppocr/modeling/necks/db_fpn.py 运行指令/Command Code：python tools/train.py -c ./ch_PP-OCRv4_det_cml.yml

5热度

14回答

[PaddlePaddle/PaddleOCR]训练ch_PP-OCRv4_rec_distill.yml，各种报错：1. KeyError: 'NRTRLabelDecode'；2. KeyError: 'valid_ratio'；3. The input of Op(Conv) should be a 4-D or 5-D Tensor. But received: input's dimension is 3, input's shape is [128, 240, 256]

请提供下述完整信息以便快速定位问题/Please provide the following information to quickly locate the problem 系统环境/System Environment：docker ubuntu 20.04，是官方提供的镜像版本号/Version：Paddle：2.5.1， PaddleOCR：release/2.7 或者 dygra

2热度

16回答

[PaddlePaddle/PaddleOCR]PPOCRLabel开启时报错，打不开

请提供下述完整信息以便快速定位问题/Please provide the following information to quickly locate the problem 系统环境/System Environment：python 3.11.4 版本号/Version：Paddle： PaddleOCR：问题相关组件/Related components：PPOCRLabel 运行指

9热度

17回答

[PaddlePaddle/PaddleOCR]更换了高精度的检测模型det和识别模型rec以后，cuda会报错: [Hint: 'CUDNN_STATUS_NOT_SUPPORTED'. The functionality requested is not presently supported by cuDNN. ]

请提供下述完整信息以便快速定位问题/Please provide the following information to quickly locate the problem 系统环境/System Environment：debian 11 版本号/Version：Paddle：2.5.1 PaddleOCR：2.7.0.1 问题相关组件/Related components：cuda

4热度

15回答

[PaddlePaddle/PaddleOCR]训练DBNet，使用det_mv3_db.yml GPU利用率波动

请提供下述完整信息以便快速定位问题/Please provide the following information to quickly locate the problem 系统环境/System Environment：ubuntu 18 版本号/Version：Paddle： PaddleOCR：问题相关组件/Related components：paddle 2.4.1 运行指令/

10热度

12回答

[PaddlePaddle/PaddleOCR]对一篇中文文献OCR，能检测到文字，画出了框，但是整个页面却基本没有OCR出文字

请提供下述完整信息以便快速定位问题/Please provide the following information to quickly locate the problem 系统环境/System Environment：Windows 版本号/Version：Paddle：2.6.0 PaddleOCR：问题相关组件/Related components：CUDA 11.7 CUD

6热度

13回答

[PaddlePaddle/PaddleOCR]2.7分支代码，不能完全加载v4 det预训练模型参数

加载v4 det的预训练模型best_accuracy，模型参数加载不全，出现告警：The pretrained params backbone.conv1.hardswish.scale not in model，The pretrained params backbone.conv1.hardswish.bias not in model，大家遇到过吗，如何解决？

9热度

19回答

[PaddlePaddle/PaddleOCR]识别模型微调训练，数据集组成应该是什么样的？

请提供下述完整信息以便快速定位问题/Please provide the following information to quickly locate the problem 系统环境/System Environment：Docker desktop，镜像是registry.baidubce.com/paddlepaddle/paddle:2.6.0-gpu-cuda11.7-cudnn8.

1热度

20回答

[PaddlePaddle/PaddleOCR]如果识别的图片大小差的有点多。小的 693365 中等的1565 951 大的4028*3120 这样，在预测的时候det_limit_side_len和det_limit_type 怎么设置呢

请提供下述完整信息以便快速定位问题/Please provide the following information to quickly locate the problem 系统环境/System Environment：版本号/Version：Paddle： PaddleOCR：问题相关组件/Related components：运行指令/Command Code：完整报错/Co

4热度

14回答

[PaddlePaddle/PaddleOCR]求助，为什么PaddleOCRv2在Android里面识别不了整行文字啊

系统环境/System Environment：Android 版本号/Version：Paddle： PaddleOCRv2 我用的是paddleocr 的Android demo，可识别出来的一行文字只有一部分是正常的，后面全是乱码就比如我检测的文字是：还可以，有些故事节奏啰嗦，但人物都挺立体。但是识别结果就是：还可以，有些故事节奏啰嗦，但人#五赠2# 这个要怎么处理啊？