当我使用以下代码加载预训练模型时报了这个错误

model = model_class.from_pretrained(args.model_name_or_path, from_tf=bool('.ckpt' in args.model_name_or_path), config=config, output_hidden_states=True)

检查了modeling_utils文件发现如果config存在时,则会将output_hidden_states传到__init__底层模型里而不是PretrainedConfig.from_pretrained,所以会报这个错误。因此需要在预训练模型的config.json文件里加上一句“

"output_hidden_states" : "True"

Logo

有“AI”的1024 = 2048,欢迎大家加入2048 AI社区

更多推荐