כל מה שצריך בשביל להפעיל (ולאמן) את LLaMA בממשק של Hugging Face

ים פלג, 10/04/2023

קטגוריה: כללי

גם אתם רוצים GPT-3 פרטי אצלכם בבית?
גם אתכם מעצבן שאנשים באינטרנט מתלהבים מהדלפת משקולות למה (LLaMA) אבל אין ממשק או מדריך כדי להשתמש בהן?
גם לכם אין כוח להתמודד עם כל מיני אנשים תותחים מידי באינטרנט שמשפצרים משקולות בידיים ואז מעלים קוד שאי אפשר להשתמש בו?

import llama

MODEL = 'decapoda-research/llama-7b-hf'

tokenizer = llama.LLaMATokenizer.from_pretrained(MODEL)

model = llama.LLaMAForCausalLM.from_pretrained(MODEL)

batch = tokenizer("Yo mama", return_tensors = "pt")["input_ids"]

print(tokenizer.decode(model.generate(batch)[0]))

זהו.

נגמר המדריך.

אין המשך. תרקדו.

בפרקים הקודמים של..

צוקרברג בעצמו מכריז שהמודל החדש של מטא עקף את תוצאות GPT-3 תוך שימוש בעשירית מכמות הפרמטרים. גישה למודל ניתנת רק לאחר מילוי טופס ואישור פרטני לאנשים נבחרים: