טכנולוגיהai
Goodfire מציגה ניטור פנימי לזיהוי סוכני AI סוררים בעלות נמוכה
חברת Goodfire השיקה מערכת ניטור חדשנית המאפשרת לזהות התנהגות חריגה של סוכני בינה מלאכותית על ידי ניתוח פעילות פנימית של המודל. גישה זו חוסכת משאבי מחשוב משמעותיים בהשוואה לשיטות מסורתיות. המערכת משתמשת ב'גשושיות' קלות המנטרות אותות פנימיים בזמן אמת. רק כאשר מזוהה חשד לפעילות עוינת, מופעל מנגנון בדיקה מעמיק יותר, מה שמאפשר איזון אופטימלי בין אבטחה לעלות תפעולית.