[Bug]: AutoModelForCausalLM.from_pretrained 转换 huggingface 模型显存不足 about paddlenlp HOT 2 CLOSED

后续会支持自动转换模型参数，当前先给出转换脚本，临时使用。具体使用步骤根据模型不同，需要进行修改，请参考以下说明：

1. 模型前缀。paddlenlp中使用的模型前缀为模型名称，例如Qwen2使用qwen2.，LLaMA使用llama.，HF使用的model.或者transformer.。可查看paddlenlp.transformers.XXX.modeling.LlamaPretrainedModel中的base_model_prefix。
2. linear参数转置。Paddle和torch的linear实现不同，参数互为转置关系。需根据不同模型进行判断，具体可查找paddlenlp.transformers.XXX.modeling.XXXPretrainedModel中的mappings参数，其标注了需要进行转置的参数。例如llama模型为paddlenlp.transformers.llama.modeling.LlamaPretrainedModel

脚本：https://gist.github.com/DrownFish19/80b43383c9205ee1cf7cf35445009488

from paddlenlp.

后续会支持自动转换模型参数，当前先给出转换脚本，临时使用。具体使用步骤根据模型不同，需要进行修改，请参考以下说明：

1. 模型前缀。paddlenlp中使用的模型前缀为模型名称，例如Qwen2使用qwen2.，LLaMA使用llama.，HF使用的model.或者transformer.。可查看paddlenlp.transformers.XXX.modeling.LlamaPretrainedModel中的base_model_prefix。
2. linear参数转置。Paddle和torch的linear实现不同，参数互为转置关系。需根据不同模型进行判断，具体可查找paddlenlp.transformers.XXX.modeling.XXXPretrainedModel中的mappings参数，其标注了需要进行转置的参数。例如llama模型为paddlenlp.transformers.llama.modeling.LlamaPretrainedModel

脚本：https://gist.github.com/DrownFish19/80b43383c9205ee1cf7cf35445009488

Thanks !

from paddlenlp.