Python

4热度

9回答

[THUDM/ChatGLM-6B]从本地导入chatglm-6b-int4预训练时，却从缓存导入

tokenizer = AutoTokenizer.from_pretrained("model/chatglm-6b-int4", trust_remote_code=True) 我已经在目录下放置了model/chatglm-6b-int4文件夹，但模型坚持从.cache中导入，并报错： ModuleNotFoundError: No module named 'transformers_mo

6热度

17回答

[THUDM/ChatGLM-6B]批量推理api,支持高并发

修改自evaluate.py，支持多线程接受请求，设计了个请求池，当积累到一定数量(MAX_BATCH_SIZE)或等待到一定时间(MAX_WAIT_TIME)后，可以执行批量推理，大大加快了推理速度。可以根据需要设置MAX_BATCH_SIZE和MAX_WAIT_TIME这两个超参数

9热度

7回答

[THUDM/ChatGLM-6B]ptuning-v2单卡转多卡训练bug [BUG/Help]

在做ptuning-V2微调的时候，运行demo发现chatglm-6b只能进行单卡训练，在进行多卡训练时则会报错；如果把模型换成chatglm-6b-int8则可以运行，有遇到过这种问题的吗 CUDA_VISIBLE_DEVICES=0,1 python3 main.py \ --do_train \ --train_file AdvertiseGen/train.json \ --val

7热度

16回答

[THUDM/ChatGLM-6B]logits_prob 输出

### 模型解码过程中输出每个token的概率值 Solutions modeling_chatglm.py stream_generate function # sample probs = nn.functional.softmax(next_token_scores, dim=-1) if generation_co

0热度

6回答

[THUDM/ChatGLM-6B]使用huggingface + cahtglm6b单机多卡推理加速有更好的办法吗？

目前的行为实测主页util.py中的 from utils import load_model_on_gpus model = load_model_on_gpus("THUDM/chatglm-6b", num_gpus=4) 效果与https://huggingface.co/docs/transformers/perf_infer_gpu_one中 max_memory_mapping =

7热度

11回答

[PaddlePaddle/PaddleOCR]png文件出现空指针释放，但是同一张照片转换jpg之后，并未报错

请提供下述完整信息以便快速定位问题/Please provide the following information to quickly locate the problem png文件出现空指针释放，但是同一张照片转换jpg之后，不会报错系统环境/System Environment：Ubuntu 版本号/Version：Paddle： PaddleOCR：问题相关组件/Related

10热度

11回答

[PaddlePaddle/PaddleOCR]训练时报错 IndexError: list index out of range

请提供下述完整信息以便快速定位问题/Please provide the following information to quickly locate the problem 系统环境/System Environment：nvidia-docker pull registry.baidubce.com/paddlepaddle/paddle:2.6.1-gpu-cuda12.0-cudnn8

6热度

14回答

[PaddlePaddle/PaddleOCR]显存占用远大于模型大小

请提供下述完整信息以便快速定位问题/Please provide the following information to quickly locate the problem 系统环境/System Environment：版本号/Version：Paddle： PaddleOCR：问题相关组件/Related components：运行指令/Command Code：完整报错/Co

7热度

14回答

[PaddlePaddle/PaddleOCR]评估表格结构和cell坐标的时候，html结构预测acc为0.999，为什么检测的box的召回精度等评价指标都是0，排查了一下好像是gt的bbox没有读取到，导致eval的时候评价指标都是0，这个需要怎么修改？

10热度

5回答

[deepfakes/faceswap]转换后的视频非常奇怪

对于错误：在GUI中，我可以选择转换后的视频的格式，但我认为该格式不是我选择的格式，因此我无法像其他视频一样打开它。即使我确实找到了可以播放该视频的视频播放器，该视频也无法以我不知道如何描述的方式观看。建议：为什么不在“转换”阶段结束时输出视频。

0热度

4回答

[deepfakes/faceswap]dfaker mod 上的训练失败

上次更新后，我无法训练我现有的 dfaker 模型。 ValueError：“dfaker”层的输入 0 与该层不兼容：预期形状=（无，64，64，3），发现形状=（20，128，128，3）完整日志附在 crash_report.2022.08.22.222618241236.log下面

2热度

4回答

[deepfakes/faceswap]添加最大比例选项

此 PR 添加了在转换中设置最大比例参数的选项。最大比例定义为源帧中任何面部的original_roi的最长边缘与模型输出尺寸的最大比率。示例 1：设最大比例为 2，模型的输出尺寸为 256px。图像包含一张 768x400 像素的脸部。最大比例 = 768/256 = 3。因此，在粘贴预测人脸之前，图像将缩放 2/3。示例 2：设最大比例为 1.5，模型的输出尺寸为 512px。图像包含一张

4热度

10回答

[deepfakes/faceswap]添加 ru 区域设置

经过几个月的说服自己这样做，并浪费了数小时的时间，我向您展示了这一点。 Faceswap 的（可能）官方 RU 语言环境。我可能需要仔细检查翻译是否正确，但我需要将其作为不同的分支或其他分支推送。不过，从事这方面的工作很有趣。

4热度

6回答

[binary-husky/gpt_academic]【chatglm 说】: [Local Message] Call ChatGLM fail 不能正常加载ChatGLM的参数。

Explicitly passing a revision is encouraged when loading a model with custom code to ensure no malicious code has been contributed in a newer revision. Explicitly passing a revision is encouraged when

5热度

2回答

[binary-husky/gpt_academic]希望能够在config.py中增加亮色主题/暗色主题的默认打开选项

（亮色主题）: http://localhost:51680 （暗色主题）: http://localhost:51680/?__dark-theme=true

0热度

7回答

[binary-husky/gpt_academic]毫无报错，就是卡这一直省略号processing没反应

毫无报错，就是卡这没放映，一直等待，等待期间按其他按钮同样无反应，并且打不开折叠区域。api key是我自己的付费账户，没问题，代理配置没问题，我的chatpaper本地部署可用。

8热度

3回答

[binary-husky/gpt_academic]本地部署时，谷歌学术和谷歌搜索的功能均无效，需要修改什么设置？

(1) Describe the bug 简述如题，但是在huggingface里没有问题 (2) Screen Shot 截图

0热度

8回答

[ggerganov/llama.cpp]修复非特殊添加令牌的去令牌化

检查过 .\build\bin\Release\main.exe -m models\mpt-7B-storywriter\ggml-model-f16.gguf -p "Once upon a time there" --temp 0 -n 32 前： Once upon a timethere 后： Once upon a time there clang还修复了on的构建问题Window

2热度

14回答

[PaddlePaddle/Paddle]飞腾d2000编译安装paddlepaddle，cmake报错

问题描述 Issue Description cmake .. -DPY_VERSION=3 -DPYTHON_EXECUTABLE=which python3 -DWITH_ARM=ON -DWITH_TESTING=OFF -DCMAKE_BUILD_TYPE=Release -DON_INFER=ON -DWITH_XBYAK=OFF报错： Could NOT find PY_pip (mi

8热度

10回答

[PaddlePaddle/Paddle]在导出模型的时候paddle.nn.functional.pad报错

请提出你的问题 Please ask your question PaddlePaddle 2.4.1 Python 3.7 Ubuntu or Windows 错误如下： File "E:\PyCharm\PPASR\ppasr\model_utils\efficient_conformer\encoder.py", line 341, in forward_chunk for