סקירה: MacBook Neo – מחשב עבודה מצוין ומכונת AI מפתיעה

לפני מספר חודשים אפל הכריזה על מחשב חדש פרי פיתוחה: MacBook Neo – המחשב הכי זול שהיא הציגה אי פעם. המחשב נועד להיות נקודת הכניסה לאקוסיסטם של אפל עבור הרבה אנשים שלא יכולים להרשות לעצמם להוציא סכומי עתק על החומרה המתקדמת של אפל. אפל הלכה כאן על גישה מעניינת: ניקח מעבד יחסית פשוט (זה שרץ על האייפון 16 פרו) וניתן לו להיות הלב הפועם של המכשיר.

הנחת העבודה הזו עוררה ספקות רבים האם המכשיר באמת יוכל "לסחוב" משימות מורכבות ולהיות כלי עבודה רציני. ומעל כל זה, מה שעניין אותי באמת היה דבר אחד: האם ה-MacBook Neo יכול להריץ מודלי AI באופן מקומי? האם החומרה שלו מספיק חזקה בשביל זה? זה הפוקוס של הסקירה שלי. תודה כמובן ל-iDigital שהסכימו לשלוח לי את המחשב לסקירה.

לפני שאני נכנס לעובי הקורה, אגיד את השורה התחתונה: מדובר במחשב מעולה. אני מסקר טכנולוגיה כבר 15 שנה ולא זוכר מתי נתקלתי במוצר כל כך "שלם" במחיר של 2,500 ש"ח – איכות בנייה מצוינת, חיי סוללה טובים, מסך חד, ביצועים מרשימים בכל הגזרות. מי שמתלבט אם לרכוש – התשובה שלי היא חד משמעית כן, במיוחד למי שרוצה להיכנס לאקוסיסטם של אפל. עכשיו, לעיקר.

הרצת מודלי AI מקומית

עכשיו, אחרי שדברנו על ה-MacBook Neo כמחשב באופן כללי, הגיע הזמן לצלול פנימה ולתת לכם זווית סיקור שכנראה לא קראתם באף מקום אחר (וזו הסיבה שאתם כאן) – איך הוא מתמודד עם מודלי AI? אז למי שלא מכיר, אפשר להשתמש במודלי AI בקוד פתוח שמאפשרים לכם להוריד את "המוח" של כלי ה-AI ובעצם ליהנות ממודלי AI שרץ אצלכם לוקלית במחשב בצורה מאובטחת וללא צורך לשלם דמי מנוי. בדרך כלל אנחנו צריכים מחשבים מאוד חזקים כדי להריץ את המודלים האלה אבל למרבה ההפתעה, גם ה-MacBook Neo הצליח להתמודד עם המשימה. כדי לבחון את היכולות שלו במודלים שונים השתמשתי בתוכנה בשם LM Studio שמאפשרת לכם גם להוריד את המודלים השונים וגם לנהל איתם שיחה (חוויה דומה ל-ChatGPT ברמת הממשק).

כפי שאתם רואים בתצלום למעלה, בתוכנה עצמה אפשר לבחור אילו מודלים אנחנו רוצים להריץ (אפשר להוריד אותם לפני כן) וכאן כבר הורדתי מראש כמה מודלים מאוד מוכרים ופופולריים. השאלה הגדולה שהייתה לי היא: אילו מודלים הגיוני שה-MacBook Neo יוכל להריץ ואילו לא? עד כמה אוכל לסחוט את הביצועים שלו ולהשתמש במודלים חזקים ומתקדמים יותר.

למי שלא מכיר את המטריקות לעומק אסביר בקצרה: אנחנו מודדים את הגודל (וגם את האיכות) של מודלים על פי מספר הפרמטרים שלהם. מבלי להיכנס מה אותם הפרמטרים אומרים, נסביר כי בדרך כלל ככל שמספר הפרמטרים גדול יותר, כך צריך חומרה מתקדמת יותר להריץ אותם ומנגד יש למודלים האלה יכולות טובות יותר. אחד הפרמטרים שהכי משפיעים על היכולת של מחשבים להריץ את המודלים האלה הם כמה VRAM יש להם. זה סוג זיכרון ייחודי שמאפשר להריץ חישובים מורכבים שהם בדיוק אלה שצריך כדי לגרום למודלים המקומיים לרוץ.

הזיכרונות האלה בדרך כלל יקרים מאוד וקיימים רק בכרטיסים גרפיים יקרים (GPU). הייחודיות במחשב הזה, ובכלל בכל החומרה של אפל, היא היכולת להשתמש בזיכרון הרגיל שלהם (RAM) כזיכרון מאוחד גם לסוגי הרצות שכאלה. זו הבשורה הכי גדולה של אפל בתחום ובזכות זאת אנחנו בכלל יכולים לקיים את הדיון הזה. ל-MacBook Neo יש 8GB זיכרון RAM – כל מחשב PC אחר עם החומרה הזו לא היה מצליח להתמודד עם המשימות שאכתוב עליהן עוד מעט. ה-MacBook Neo מצליח כי ניתן להשתמש בזיכרון הסטנדרטי הזה גם להרצות מורכבות.

מבחני ביצועים

אחד הדברים שאני אוהב ב-LM Studio הוא שהתוכנה עצמה אומרת לכם לבד אילו מודלים יעבדו בצורה טובה על המכונה שלכם ואילו לא יעבדו בכלל (ואין טעם לנסות). אני כמובן התעלמתי מכל זה ורציתי לבחון את הגבולות בצורה עצמאית. התחלתי ממודלים זעירים בגודל של 1 מיליארד פרמטרים והגעתי עד מודלים קטנים של 7 מיליארד פרמטרים. הם לא המודלים הכי חזקים במיוחד אבל הם אחלה דרך לבחון דופק ראשוני (לשם השוואה, המודלים של ChatGPT וכו' נמדדים בטריליוני פרמטרים). הסבר חשוב: כשאנחנו בוחנים חומרה להרצת מודלי AI אנחנו מסתכלים על שני הפרמטרים הכי חשובים – זמן ליצירת טוקן ראשון (ההתחלה של התשובה) וגם קצב יצירת הטוקנים (האותיות) של המודל עצמו. ככל שהקצב מהיר יותר ככה הטקסט מופיע בצורה מהירה יותר ונוח יותר לקרוא את התוצאות.

כמו שאתם יכולים לראות בגרף, הנקודה האופטימלית של ה-MacBook Neo היא מודלי AI בגודל של 4B – שם יש לנו שילוב יפה של מודלים מספיק גדולים כדי שיהיו בעלי ערך ומנגד קצב יצירת הטקסט מהיר מספיק כדי להיות סביר. אני בהרצה שלי בחנתי את המודלים של Qwen של עליבאבא, את המודלים של Gemma מבית גוגל וגם את המודל הכי גדול של מיסטרל הצרפתית. המודלים הקטנים מאוד (עד 4B) רצו מאוד מהר אבל האיכות עצמה של התוצרים לא הייתה גבוהה מספיק (זה הגיוני ולא קשור למחשב עצמו), מה שהפתיע אותי היו המודלים בגודל 4B שהיו גם מהירים וגם התוצרים הפכו להיות טובים מאוד ביחס לגודל של המודלים. המודל הגדול ביותר, ה-7B פרמטרים של מיסטרל, הצליח לרוץ בקצב איטי מאוד (והמחשב אפילו נתקע) אבל כמובן זה לא באופן שאפשר להשתמש בו בשגרה.

גם הזמן לטוקן הראשון הפתיע מאוד וכמו שאתם יכולים לראות, ככל שהמודל קטן יותר ככה הזמן שצריך להמתין קצר יותר. במודלים מאוד גדולים זה לוקח כ-16 (!) שניות עד שמקבלים פלט ראשוני. גם כאן רואים שהנקודה האופטימלית היא סביב המודלים של 4B פרמטרים. הזמן שצריך להמתין הוא עוד סביר בחלק מהמודלים האלה. חשוב להדגיש שמדובר על מודלי AI שלא שוקלים הרבה, אבל המהירות שלהם עדיין מאפשרת זמני הרצה טובים מאוד. מרבית המודלים האלה שוקלים בערך 3GB (דמיינו כמה מהידע והתובנות האנושיות הצליחו לדחוף לכל זה) והם לא יתפסו לכם הרבה מקום על המחשב.

מעבר למספרים והגרפים, חשוב לי לדבר על השימוש האמיתי. השתמשתי במודלים המקומיים לסיכום מסמכים, ניתוח גרפים מורכבים, כתיבת טקסטים ועוד – כמעט כל משימה שהייתי עושה בדרך כלל עם ChatGPT. למרבית המשימות, המודלים המקומיים בגודל 4B אכן מצליחים לתת מענה טוב. למשימות מורכבות יותר, שמצריכות חשיבה מתקדמת או תהליכי Reasoning עמוקים, הם פחות מתאימים – שם עדיין צריך את המודלים הגדולים בענן. אבל למרבית הצרכים של המשתמש הממוצע, מה שרץ על ה-MacBook Neo בהחלט מספיק.

מה שהיה מרשים עוד יותר לראות היה הדרך שבה המחשב החדש של אפל מצליח להריץ גם מודלים עם יכולות ניתוח תמונות. לשם כך בחרתי את המודל Qwen VL שיודע גם לנתח תמונות ולהסביר מה קורה בכל תמונה. העליתי לו את אחד הגרפים שהכנתי לטובת הסקירה והוא ידע לנתח ולהסביר אותו. הסיבה שאני שם על כך דגש היא כי אנחנו רואים פה בפעם הראשונה מודלים שהם יחסית קטנים, אבל עם ביצועים טובים שאפילו מצליחים לרוץ על חומרה מאוד בסיסית של המחשב הכי חלש של אפל. מדובר על משהו תקדימי מאוד שאני הייתי בספק בכלל שיעבוד.

זו תובנה חשובה כי היא משנה את כל המשוואה: אם בעבר חשבנו שמודלים מקומיים הם רק "צעצוע" טכנולוגי, מסתבר שהיום הם כלי עבודה מעשי – בלי דמי מנוי חודשיים, בלי תלות באינטרנט, ובלי לשלוח מידע לשרתים בחו"ל. היתרון הזה משמעותי במיוחד למי שעובד עם קבצים רגישים או סודיים שאסור להעלות לענן.

ומעל כל זה, כאשר רציתי ליצור השוואות רוחביות (ולא רק באופן בודד דרך LM Studio), מי שהריץ את ההשוואות של כל המודלים, היה לא אחר מאשר קלוד קוד. הדבר הראשון שהתקנתי כשקיבלתי את המחשב היה את התוכנה למאק של קלוד קוד ומאז הוא עשה לי את כל ההתקנות והרצת מבחני הביצועים – אפילו את הגרפים שאתם רואים בכתבה עשה קלוד קוד. ה-MacBook Neo הריץ אותו בלי בעיה והכל עבד חלק גם לשימוש הזה.

סיכום

עד לפני שנים ספורות, השיחה על AI מקומי הייתה שמורה לאנשים עם תקציבים של עשרות אלפי שקלים וכרטיסי גרפיקה ייעודיים. ה-MacBook Neo לא רק שובר את מחסום המחיר – הוא שובר את הנחות היסוד של מי בכלל יכול להשתתף במשחק הזה. כשהמחשב הכי זול של אפל מצליח להריץ מודלי AI ברמה הזו, השאלה האמיתית כבר לא "האם זה אפשרי", אלא "מה עוד אפשר לעשות עם זה". וזו כנראה השאלה המעניינת באמת.

תודה ענקית ל-iDigital ששלחה לי את המחשב לסקירה. ה-MacBook Neo זמין ברשת iDigital במחיר של 2,499 שקלים, הכולל חבילת הטבות מקיפה לרוכשים: שלוש שנות אחריות מלאה וכן 30 ימי התנסות ללא התחייבות. בנוסף, סטודנטים זכאים להנחה נוספת בגובה 6%.