亞馬遜云科技正式上線Meta Llama 3.2模型

為構(gòu)建生成式AI應(yīng)用提供更多選擇

北京2024年10月10日 /美通社/ -- 亞馬遜云科技宣布，Meta的新一代模型Llama 3.2，包括其首款多模態(tài)模型，現(xiàn)已在Amazon Bedrock和Amazon SageMaker中正式可用?？蛻粢部梢栽诨贏mazon Trainium和Amazon Inferentia的Amazon Elastic Cloud Compute（Amazon EC2）實(shí)例中部署這些模型。

Llama 3.2系列模型保留了此前的成功經(jīng)驗(yàn)，并進(jìn)行了全新升級(jí)，提供高度差異化的功能更新，包括支持圖像推理的小型和中型視覺(jué)大語(yǔ)言模型，以及針對(duì)設(shè)備端優(yōu)化過(guò)的輕量級(jí)純文本模型。這些新模型旨在提高使用的便捷性和效率，同時(shí)特別注重負(fù)責(zé)任的創(chuàng)新和安全性。此外，針對(duì)內(nèi)容安全分類而微調(diào)的Llama Guard 3 Vision模型，現(xiàn)在也已在Amazon SageMaker JumpStart中可用。

Llama 3.2系列模型優(yōu)勢(shì)：

Meta推出的首款多模態(tài)視覺(jué)模型：Llama 3.2 11B Vision和Llama 3.2 90B Vision

• Llama 3.2系列中最大的模型。
• 支持圖像理解和視覺(jué)推理的使用場(chǎng)景。
• 擅長(zhǎng)分析視覺(jué)數(shù)據(jù)，如圖表和圖形，提供更精確的答案和洞察。
• 適用于圖像標(biāo)注、視覺(jué)問(wèn)答、圖像與文本檢索、文檔處理、多模態(tài)聊天機(jī)器人，以及長(zhǎng)篇文本生成、多語(yǔ)言翻譯、編程、數(shù)學(xué)和高級(jí)推理。

為邊緣和移動(dòng)設(shè)備量身定制：Llama 3.2 1B和Llama 3.2 3B

• 輕量級(jí)，純文本模型。
• 既可在云端又可在本地進(jìn)行數(shù)據(jù)處理，響應(yīng)速度極快。
• 非常適合高度個(gè)性化的應(yīng)用，如文本生成與總結(jié)、情感分析、客戶服務(wù)應(yīng)用、文本潤(rùn)色、多語(yǔ)言知識(shí)檢索和移動(dòng)AI寫(xiě)作助手。

針對(duì)內(nèi)容安全分類進(jìn)行微調(diào)：Llama Guard 3 11B Vision

• 僅在Amazon SageMaker JumpStart中可用
• Llama Guard 3 11B Vision可以對(duì)大型語(yǔ)言模型的輸入（即提示詞分類）和輸出（即響應(yīng)分類）進(jìn)行內(nèi)容安全保護(hù)
• 專為支持圖像推理場(chǎng)景設(shè)計(jì)，提升了對(duì)提示詞輸入中的有害多模態(tài)內(nèi)容（文本和圖像）的檢測(cè)能力，以及模型輸出的文本內(nèi)容檢測(cè)。

Meta表示，Llama 3.2模型已在超過(guò)150個(gè)基準(zhǔn)數(shù)據(jù)集上進(jìn)行評(píng)估，展現(xiàn)出與領(lǐng)先基礎(chǔ)模型相媲美的競(jìng)爭(zhēng)力。與Llama 3.1類似，所有Llama 3.2模型均支持128K的上下文長(zhǎng)度，并支持涵蓋八種語(yǔ)言的多語(yǔ)言對(duì)話使用場(chǎng)景，包括英語(yǔ)、德語(yǔ)、法語(yǔ)、意大利語(yǔ)、葡萄牙語(yǔ)、印地語(yǔ)、西班牙語(yǔ)和泰語(yǔ)。