genai / news / / Analytics India Magazine
LIMA是一款擁有650億參數的LLaMa語言模型,僅以1000個精心策劃的提示與回應,透過標準監督式損失進行微調。
LIMA是一款擁有650億參數的LLaMa模型,僅以1000個精心策劃的提示與回應進行微調。
重點
- LIMA的回應在58%和近65%的情況下,分別被偏好於Bard和DaVinci-003。
- 儘管訓練量極少,LIMA仍能良好泛化至未明確訓練的任務。
- Meta的MEGABYTE架構能夠建模超過100萬個標記的序列,超越先前模型。
相關公司
由 Newsio 自 Analytics India Magazine 摘要整理。 摘要方式說明 →