פოזת העיסוק של OpenAI בהוספת סימני מים ל-ChatGPT באיחוד האירופי

חברת OpenAI הודיעה כי תחל להוסיף סימן מים בלתי נראה לטקסטים המופקים על ידי ChatGPT ו-Codex בתוך תחומי האיחוד האירופי, וזאת במטרה לציית לכללי השקיפות הקפדניים של חוק הבינה המלאכותית של האיחוד האירופי. הכללים החדשים, שנכנסו לתוקף בתחילת חודש אוגוסט, מחייבים חברות בינה מלאכותית לסמן תוכן המיוצר על ידי מכונה באופן שיאפשר למערכות אחרות לזהות אותו.

פריסת התכונה החדשה צפויה להתרחש במהלך השבועות הקרובים עבור משתמשים זכאים בכל המסלולים בתוך האיחוד האירופי בלבד. מפתחים המשתמשים ב-API של OpenAI בכל מקום בעולם יכולים להפעיל את האפשרות הזו באופן ידני עבור מודלים נבחרים החל מהיום, הגם שהיא נותרת כבויה כברירת מחדל. בחברה הבהירו כי הם אינם הופכים את סימון המים לברירת מחדל גלובלית עם ההשקה.

סימן המים אינו מופיע כסמליל ויזואלי על המסך, אלא פועל באמצעות עיצוב עדין של בחירת המילים של המודל, הותיר דפוס שקוראים אנושיים אינם מסוגלים לראות אך גלאים ייעודיים יכולים לאתר. מכיוון שהסימן שוכן בתוך המילים עצמן, הוא מלווה את הטקסט גם כאשר הוא מועתק ומודבק ליישומים אחרים. OpenAI הדגישה כי סימן המים אינו מזהה את המשתמש ואינו פוגע בביצועי המודלים.

לצד ההכרזה פרסמה החברה דוח טכני המפרט את השיטה שלה, המכונה textGrain ומתבססת על כיול אנטרופיה. השיטה פותחה בשיתוף חוקרים מאוניברסיטת פנסילבניה ומייל, ומסבירה כיצד נעשה שימוש במפתח סודי למיון תחזיות המילים הבאות. שילוב של מאות התאמות דקות מאפשר לגלאי לאתר תוכן שנוצר על ידי בינה מלאכותית.

למרות התחכום הטכני, לסימן המים יש מגבלות בולטות. מבחנים שנערכו על ידי OpenAI מעידים כי עריכת הטקסט עשויה להפחית את יכולת הזיהוי. במבחן אחד, החלפת 10% מהמילים במילים נרדפות הפחיתה את אחוזי הזיהוי מכ-92% לכ-66%. בנוסף, צוין כי קטעים קצרים, תשובות מתמטיות וטקסטים מתורגמים קשים יותר לזיהוי.

בשל מגבלות אלו, OpenAI בוחרת להעניק גישה ראשונית לכלי הזיהוי אך ורק לחוקרים מאושרים ולארגונים מומחים, אשר יסייעו בהערכת האמינות והשימושים האחראיים. החברה הדגישה גם כי היעדרו של סימן מים אינו מהווה הוכחה מוחלטת לכך שהטקסט נכתב על ידי אדם, שכן הוא עשוי להיות קצר מדי, ערוך בכבדות או להגיע ממערכת של מתחרים.

הודעתה של OpenAI מגיעה כחודשיים לאחר שחברת המתחרה אנתרופיק (Anthropic) הכריזה כי תחיל לסמן במים טקסטים המיוצרים על ידי מודל Claude בקנה מידה עולמי. צעד זה עורר בזמנו ביקורת מצד משתמשים שטענו כי הם מספקים את ההנחיות וההקשר בעוד המודל משמש ככלי עבודה בלבד. הענקיות בתחום, הכוללות את אנתרופיק, גוגל, מטא, מיקרוסופט ו-OpenAI, התחייבו כולן לעמוד בכללי ההתנהגות של האיחוד האירופי בנושא שקיפות.