python3 ../llama.cpp/convert_hf_to_gguf.py : KeyError: 'architectures'

[raphael10-collab]

Objective: convert this pytorch model https://huggingface.co/mtspeech/MooER-MTL-80K to gguf model

I downloaded the model :

(.venv) raphy@raohy:~/whisper.cpp/models$ cat download-MooER-MTL-80K.py
from huggingface_hub import snapshot_download
model_id="mtspeech/MooER-MTL-80K"
snapshot_download(repo_id=model_id, local_dir="MooER-MTL-80K",
                  local_dir_use_symlinks=False, revision="main")

(.venv) raphy@raohy:~/whisper.cpp/models$ python3 download-MooER-MTL-80K.py
/home/raphy/whisper.cpp/models/.venv/lib/python3.12/site-packages/huggingface_hub/file_download.py:832: UserWarning: `local_dir_use_symlinks` parameter is deprecated and will be ignored. The process to download files to a local folder has been updated and do not rely on symlinks anymore. You only need to pass a destination folder as`local_dir`.
For more details, check out https://huggingface.co/docs/huggingface_hub/main/en/guides/download#download-files-to-local-folder.
  warnings.warn(
asr/lora_weights/adapter_config.json: 100%|███████████████████████████████████████████████| 543/543 [00:00<00:00, 1.56MB/s]
LICENSE: 100%|████████████████████████████████████████████████████████████████████████| 8.88k/8.88k [00:00<00:00, 18.5MB/s]
Qwen2-7B-Instruct/README.md: 100%|█████████████████████████████████████████████████████████| 280/280 [00:00<00:00, 786kB/s]
.gitattributes: 100%|█████████████████████████████████████████████████████████████████| 1.55k/1.55k [00:00<00:00, 17.0MB/s]
asr/lora_weights/README.md: 100%|████████████████████████████████████████████████████████| 88.0/88.0 [00:00<00:00, 632kB/s]
configuration.json: 100%|████████████████████████████████████████████████████████████████| 56.0/56.0 [00:00<00:00, 167kB/s]
assets/MTLogo.png: 100%|██████████████████████████████████████████████████████████████| 46.7k/46.7k [00:00<00:00, 75.4MB/s]
assets/framework.png: 100%|█████████████████████████████████████████████████████████████| 290k/290k [00:00<00:00, 1.45MB/s]
paraformer_encoder/am.mvn: 100%|██████████████████████████████████████████████████████| 11.2k/11.2k [00:00<00:00, 23.9MB/s]
README.md: 100%|██████████████████████████████████████████████████████████████████████| 7.41k/7.41k [00:00<00:00, 38.5MB/s]
adapter_project.pt: 100%|█████████████████████████████████████████████████████████████| 37.8M/37.8M [00:01<00:00, 30.1MB/s]
adapter_model.bin: 100%|██████████████████████████████████████████████████████████████| 1.29G/1.29G [00:31<00:00, 40.5MB/s]
paraformer-encoder.pth: 100%|███████████████████████████████████████████████████████████| 632M/632M [00:45<00:00, 14.0MB/s]
Fetching 13 files: 100%|███████████████████████████████████████████████████████████████████| 13/13 [00:46<00:00,  3.57s/it]
(.venv) raphy@raohy:~/whisper.cpp/models$

And tried to convert it to gguf but got this error: KeyError: 'architectures' :

(.venv) raphy@raohy:~/whisper.cpp/models/MooER-MTL-80K$ python3 ../llama.cpp/convert_hf_to_gguf.py . --outfile mooer.gguf --outtype f16
INFO:hf-to-gguf:Loading model: 
Traceback (most recent call last):
  File "/home/raphy/whisper.cpp/models/MooER-MTL-80K/../llama.cpp/convert_hf_to_gguf.py", line 5077, in <module>
    main()
  File "/home/raphy/whisper.cpp/models/MooER-MTL-80K/../llama.cpp/convert_hf_to_gguf.py", line 5049, in main
    model_architecture = hparams["architectures"][0]
                         ~~~~~~~^^^^^^^^^^^^^^^^^

The same issue when trying to convert this model :
https://huggingface.co/speechbrain/asr-whisper-medium-commonvoice-it :

(.venv) raphy@raohy:~/whisper.cpp/models$ cat download-asr-w-medium-commonvoice-it.py
from huggingface_hub import snapshot_download
model_id="speechbrain/asr-whisper-medium-commonvoice-it"
snapshot_download(repo_id=model_id, local_dir="asr-w-medium-commonvoice-it",
                  local_dir_use_symlinks=False, revision="main")



(.venv) raphy@raohy:~/whisper.cpp/models$ python3 download-asr-w-medium-commonvoice-it.py
/home/raphy/whisper.cpp/models/.venv/lib/python3.12/site-packages/huggingface_hub/file_download.py:832: UserWarning: `local_dir_use_symlinks` parameter is deprecated and will be ignored. The process to download files to a local folder has been updated and do not rely on symlinks anymore. You only need to pass a destination folder as`local_dir`.
For more details, check out https://huggingface.co/docs/huggingface_hub/main/en/guides/download#download-files-to-local-folder.
  warnings.warn(
example-it.wav: 100%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 136k/136k [00:00<00:00, 1.35MB/s]
config.json: 100%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 43.0/43.0 [00:00<00:00, 133kB/s]
hyperparams.yaml: 100%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1.58k/1.58k [00:00<00:00, 8.58MB/s]
.gitattributes: 100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1.52k/1.52k [00:00<00:00, 9.23MB/s]
README.md: 100%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 4.51k/4.51k [00:00<00:00, 17.3MB/s]
whisper.ckpt: 100%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 3.06G/3.06G [00:54<00:00, 56.4MB/s]
Fetching 6 files: 100%|█ 


(.venv) raphy@raohy:~/whisper.cpp/models/asr-w-medium-commonvoice-it$ python3 ../llama.cpp/convert_hf_to_gguf.py . --outfile asr-w-medium-commonvoice-it.gguf --outtype f16
INFO:hf-to-gguf:Loading model: 
Traceback (most recent call last):
  File "/home/raphy/whisper.cpp/models/asr-w-medium-commonvoice-it/../llama.cpp/convert_hf_to_gguf.py", line 5077, in <module>
    main()
  File "/home/raphy/whisper.cpp/models/asr-w-medium-commonvoice-it/../llama.cpp/convert_hf_to_gguf.py", line 5049, in main
    model_architecture = hparams["architectures"][0]
                         ~~~~~~~^^^^^^^^^^^^^^^^^
KeyError: 'architectures'

How to make it work?