אמזון מאתגרת את נבידיה עם כלי פיתוח חדש עבור שבבי Trainium

שוק הבינה המלאכותית נשען מזה שנים על מעבדים גרפיים מתקדמים, כאשר חברת נבידיה תפסה מעמד מוביל בזכות סביבת התוכנה CUDA שפיתחה. סביבה זו יצרה תלות הדוקה בין אלגוריתמים מתקדמים לבין החומרה של החברה. בעקבות העלויות הגבוהות של תשתיות מחשוב, ספקיות הענן הגדולות מפתחות רכיבי סיליקון ייעודיים. חטיבת הענן של אמזון מציגה כעת את TorchNeuron, שכבת תוכנה המיועדת להנגיש את שבבי Trainium של החברה עבור מפתחים המשתמשים בספריית PyTorch.

ספריית PyTorch נחשבת לתשתית הרווחת ביותר לפיתוח מודלי למידה עמוקה. בעבר, התאמת קוד מבוסס PyTorch למעבדים שאינם מתוצרת נבידיה דרשה משאבי פיתוח מרובים. TorchNeuron פותרת חסם זה על ידי השתלבות במנגנוני ההרצה הסטנדרטיים של פלטפורמת PyTorch, כך ששינוי הגדרות פשוט מאפשר להריץ את המודלים על גבי שבבי אמזון. פתרון זה חוסך זמן פיתוח יקר ומאפשר לחברות הזנק לבחור בחומרה לפי יחס עלות-תועלת ולא לפי מגבלות טכנולוגיות.

היתרון הכלכלי של המעבר לשימוש בשבבי Trainium מורכב משני שלבי העבודה העיקריים: אימון המודלים והפעלת המודלים בפועל. השבבים של אמזון תוכננו מראש לתמוך בשני השלבים הללו במקביל. ניסויים ראשוניים מראים כי שימוש בתשתיות אלו מאפשר לעבד נפחי נתונים גדולים יותר לכל דולר מושקע. בנוסף, אמזון תורמת שינויים לקוד המקור של PyTorch במטרה להפחית את התלות של הספריה בספק חומרה בודד.

למרות היתרונות של התאמה קלה, יישומים הנשענים על הקצאות זיכרון ייחודיות של CUDA עדיין דורשים התאמה ידנית. כמו כן, שבבי Trainium זמינים כיום בעיקר בתוך תשתית הענן של אמזון. עם זאת, צמצום החסמים במעבר בין מעבדים מהווה צעד משמעותי ליצירת תחרות בשוק רכיבי הבינה המלאכותית.