ABSoft

最新提问

10热度

2回答

[Vision-CAIR/MiniGPT-4]请问如果一台主机上使用两块RTX 4090显卡，使用Pytorch加载Vicuna-13B模型，是否能将内存分配在两块显卡上？

目前4090显卡只有24GB内存，如果尝试加载Vicuna-13B模型可能会出现内存不足，能否在一块主板上插上两块4090显卡，使得两块显卡的内存合并使用？

10热度

14回答

[THUDM/ChatGLM-6B]chatglm-int4 web_demo.py页面能加载出来但是输入你好 chatglm-6b一直没有回答

代码如下 from transformers import AutoModel, AutoTokenizer import gradio as gr # tokenizer = AutoTokenizer.from_pretrained("THUDM/chatglm-6b", trust_remote_code=True) # model = AutoModel.from_pretrained(

5热度

7回答

[THUDM/ChatGLM-6B][BUG/Help] web_demo部署后无返回结果：RuntimeError: "LayerNormKernelImpl" not implemented for 'Half'

新的checkpoint，网页可以打开，但是无返回结果，部署代码如下： origin_checkpoint = '/devops/chatglm-6b' ptuning_checkpoint = '/devops/20230412/checkpoint-50000' config = AutoConfig.from_pretrained(origin_checkpoint, trust_remot

8热度

8回答

[THUDM/ChatGLM-6B]微调后，测试问答生成，确实能回答我给他学习的内容，但后面会追加很多其它文本这要怎么解决？

微调后，测试问答生成，确实能回答我给他学习的内容，但后面会追加很多其它文本这要怎么解决？ Environment - OS:centos 7.9 - Python:3.7.16 - Transformers:4.27.1 - PyTorch:1.13 - CUDA Support (`python -c "import torch; print(torch.cuda.is_availa

2热度

5回答

[THUDM/ChatGLM-6B]ptuning之后api预测

ptuning-v2微调之后模型是只保存 PrefixEncoder 部分的参数？用api.py预测是要加载原 ChatGLM-6B 模型以及微调后的权重吗？我用以下代码加载权重，有报错 ptuning-v2微调之后模型是只保存 PrefixEncoder 部分的参数？用api.py预测是要加载原 ChatGLM-6B 模型以及微调后的权重吗？我用以下代码加载权重，有报错 Env

10热度

13回答

[THUDM/ChatGLM-6B]Ptuing生成的prefix_encoder加载后，原来模型的语言能力消息了

1、原来的模型可以正常对话 2、ptuning后，加载prefix_encoder参数与原来的模型，原来的语言能力没有了，这个是正常的吗根据文档操作 Environment - OS: - Python: - Transformers: - PyTorch: - CUDA Support (`python -c "import torch; print(torch.cuda.is_avai

4热度

8回答

[THUDM/ChatGLM-6B][Help] <请问chatglm-6b有公开完整的训练代码吗？>

请问chatglm-6b有公开完整的训练代码吗？而不只是微调的代码？麻烦解答一下，多谢 Environment - OS: - Python: - Transformers: - PyTorch: - CUDA Support (`python -c "import torch; print(torch.cuda.is_available())"`) :

1热度

5回答

[THUDM/ChatGLM-6B][Help] 请教个问题，我想微调chatglm以更好的完成text2sql的场景，请问prompt该怎么设计比较好?

我目前使用的prompt的格式类似这样的: ` _我们要将用户的问题翻译为一个mysql的sql语句。问题涉及的数据表的信息是：表名：a_activity_instance 表结构： activity_instance_id 活动实例ID activity_type_id 活动类型ID activity_code 活动编码 busi_category 业务类型，参见"活动业

2热度

6回答

[THUDM/ChatGLM-6B][Help] 为什么P-tuning v2 示例参数的step是3000？

作者您好~ADGEN 训练集里有近12w条数据，按照您提供的参数，step=3000，per_device_train_batch_size=16，一个epoch只能覆盖3000*16=48000条数据？是我理解的有问题吗？还是有其他的手段保证数据集上的full training

3热度

3回答

[alibaba/easyexcel]导出文件中文字部分显示不是宋体，如图

如下图中的直销的直显示不正常，再windows中显示正常，在mac中就会出现这个问题，是怎么回事

2热度

3回答

[alibaba/easyexcel]一行数据全为空的情况下还会被检测到

一行数据全为空的情况下还会被invoke函数监听到。例如：实际只有3条数据，但下面的x行空白也会被监听到，最后变成了3+x条

6热度

5回答

[alibaba/easyexcel]同步方法读取excel时，使用String接收小数，在linux服务器上小数点会被解析成逗号，windows电脑上正常

例如：1.15在windows电脑上正常解析，但是在服务器上解析成1,15 由于该字段不一定是数字，所以无法使用NumberFormat注解，请问有什么解决办法么

1热度

8回答

[alibaba/easyexcel]哪位老哥有动态导入吗? 动态绑定excel列和实体属性的关系

就是数据库会有个数据表, 动态映射excel列名和实体类属性之间的关系, 这在easyexcel如何做,看了下源码不太看得懂

0热度

6回答

[alibaba/easyexcel]导出excel，如果是数值类型类型0.00会变成0, 如果是字符串类型0.00在excel文件中无法计算

触发场景描述触发Bug的代码 List<List<String>> header = new ArrayList<>(); for (int i = 0; i < 10; i++) { header.add(Collections.singletonList("header" + i));

1热度

3回答

[alibaba/easyexcel]如何以追加的方式写Excel

目前提供的web示例，是把一个数据集丢给doWrite() 方法。如果我的数据量非常大，那么我期望的是分批写入到Excel里面，请问，该怎么做呢？ (查看了相关示例，没有找到类似的场景解决方案)

0热度

5回答

[alibaba/easyexcel]使用EasyExcel.read(InputStream inputStream, Class head, ReadListener readListener);方法时出现异常

触发场景描述在使用EasyExcel.read(InputStream inputStream, Class head, ReadListener readListener);时从OSS上下载excel大小超过1MB进行流读取时出现异常如下：很明显可以看出来是因为未能获取到excelType这个时候我给ExcelReaderSheetBuilder设置excelType时又出现其他异常如下：

8热度

3回答

[alibaba/easyexcel]当我使用一个拥有完整字段的类接受数据库的数据，导出时，使用一个精简字段的类导出，导出excel后，在有差异字段的位置没有数据。

触发场景描述当我使用一个拥有完整字段的类接受数据库的数据，导出时，使用一个精简字段的类导出，导出excel后，在有差异字段的位置没有数据。触发Bug的代码 // Web导出代码： List<WageEarningInfo> 导出Class: WageNormalEarningInfo List<WageEarningInfo> list = (List&

4热度

9回答

[alibaba/easyexcel]支持追加写入吗？

支持在excel中追加写入吗？

9热度

4回答

[alibaba/easyexcel]自定义表头的时候，怎么指定某个列的converter

现在是一个模板对象，会因为用户不同，表头也会不同，所以弄成自定义表头。用模板对象的时候，可以用@ExcelProperty来指定某列的converter。现在使用AbstractParameterBuilder#head(java.util.List<java.util.List<java.lang.String>>)来自定义表头，不同列的converter是不同的，怎么指

1热度

3回答

[alibaba/easyexcel]在有框线情况下如何在填充Excl时同时合并单元格

当前效果理想效果