AMD 公開首款小語言模型程式碼 AMD-135M

AMD 公開首款小語言模型程式碼 AMD-135M，作為 AMD Llama 家族第一個小型語言模型，該模型具有推測解碼功能，期訓練的程式碼、資料集和權重等都是公開的，開發人員可以重現該模型並幫助訓練其他 SLM 和 LLM。

AMD-Llama-135m 是在 AMD MI250 GPU 上訓練的語言模式，基於 LLaMA2 模型架構，該模型可以透過 Huggingface 轉換器平滑地載入為 LlamaForCausalLM。 

https://huggingface.co/amd/AMD-Llama-135m