Meta AI 已經進入了由大型語言模型 (LLM) 主導的 AI 競賽，例如 OpenAI 的 ChatGPT、微軟的 GPT-powered Bing 和谷歌的 Bard。Meta 首席執行官馬克·扎克伯格 (Mark Zuckerberg) 在Facebook帖子中發布了這一消息：“今天我們發布了一種名為 LLaMA 的新型最先進的 AI 大型語言模型，旨在幫助研究人員推進他們的工作……Meta 致力于這種開放的研究模型我們會將我們的新模型提供給 AI 研究社區。”
LLaMA 基礎語言模型的參數范圍從 7B 到 65B 不等，并使用來自公開數據庫的數萬億個標記進行了訓練。LLaMA-13B 模型優于 GPT-3，但體積小 10 倍，使其能夠在單個 GPU 上運行。Meta AI 研究團隊在新論文 LLaMA：開放和高效的基礎語言模型中深入研究了 LLaMA 的技術細節。
