阿里云國內首家支持Llama3.1訓練推理，提供免費算力！

量子位的朋友們 2024-07-24 15:11:54 來源：量子位

7月23日，Meta開源最新Llama 3.1系列，包括備受關注的4050億參數 “超大杯”模型。阿里云魔搭社區第一時間上架全系列3款模型，阿里云百煉平臺在國內首家推出針對Llama 3.1系列的訓練、部署、推理服務，企業和開發者即日起可在阿里云上基于其打造自己的專屬大模型。

Llama 3.1系列包括80億、700億、4050億參數版本，上下文長度擴展至12.8萬tokens，并增加了對八種語言的支持。其中“超大杯”4050億參數版本，是目前最大規模的開源大模型，在各項測評中能力表現突出，不過由于模型尺寸極大，本地開發部署難度極高。

為方便國內開發者，阿里云百煉平臺推出針對Llama 3.1全系列的一鍵再訓練、部署、推理方案，且限時一個月為所有用戶提供免費算力額度。企業和開發者可在阿里云百煉模型廣場申請使用，通過后即可快速體驗Llama 3.1效果，并與其他模型進行直觀比較。

希望直接進行推理應用的用戶，可在百煉上點擊模型調試、prompt模版等功能，快速基于Llama 3.1打造自己的AI助手。希望深度開發的企業，后續可結合企業數據集，一鍵啟動SFT全參訓練或LoRA高效訓練，并利用百煉RAG檢索增強、智能體打造等能力進行應用開發。

在云上開發和使用大模型具有諸多優勢。百煉平臺融合了阿里云獲評產品力全球第二的AI基礎設施能力，企業和開發者能獲得豐富的AI計算資源和極致彈性，輕松完成對超大模型的深度開發、高效部署和高并發推理。在基礎設施層，阿里云靈駿智算集群具備高達十萬卡GPU的擴展性；在AI平臺層，人工智能平臺PAI可10倍提升大模型訓練性能，并穩定運行千卡任務5周以上；在模型即服務層面，阿里云打造了國內最大規模的AI模型社區魔搭和模型服務平臺百煉，提供從大模型選型、體驗到再訓練、部署、應用、推理的一站式服務。

作為中國云計算領導者，阿里云提出要做“AI時代最開放的云”，全面支持中國大模型生態繁榮。從去年起，阿里云全尺寸、全模態開源了自研通義千問大模型，并深度支持對Llama、Mistral、Stable Diffusion、ComfyUI等開源模型的開發應用，以及百川智能、智譜AI、零一萬物、昆侖萬維、vivo、復旦大學等眾多國內機構大模型的訓練推理。目前，阿里云已成為中國大模型的公共算力底座，超過一半中國主流大模型跑在阿里云上。

魔搭社區下載網址：

https://modelscope.cn/models

阿里云百煉網址：

https://www.aliyun.com/product/bailian