הכירו את SynthID - כלי לזיהוי תכנים שנוצרו באמצעות בינה מלאכותית
מה זה SynthID
SynthID הינו כלי מבית גוגל שנועד לסייע בהטמעה של סימני מים (Watermarks) וזיהוי תכנים שנוצרו באמצעות טכנולוגיות בינה מלאכותית.
בתחילה הכלי היה מיועד לשימוש עם תמונות, בהמשך התווסף שימוש עם קבצי אודיו ועם הזמן גוגל מרחיבה את השימוש בו לסוגי תכנים נוספים.
נכון לכתיבת שורות SynthID זמין בגירסת בטא למשתמשים ספציפיים העושים שימוש בפלטפורמת ML (למידת מכונות) של גוגל (Vertex AI), והצפי הוא כי יהפוך לזמין בהמשך לקהל הרחב, הן ככלי שעומד בפני עצמו או כחלק מהשירותים של גוגל, שחלקם זמינים כבר היום. על אף זאת, מצאתי לנכון לכתוב על SynthID, היות והוא נוגע לבינה מלאכותית יוצרת ולזכויות יוצרים, שהם שני נושאים הנוגעים לעולמות יצירת התוכן.
איך SynthID פועל עם תמונות?
SynthID מסייע באיתור תמונות שנוצרו באמצעות Imagen, מודל יצירת התמונות באמצעות טקסט של גוגל.
הכלי בא לתת מענה לקושי הנוצר בעקבות שימוש הולך וגדל בטכנולוגיות AI יוצרת (Generative AI), ונועד לסייע בניצול לרעה של תמונות שנוצרות באמצעות מחשב (Synthetic imagery) למטרות כמו הפצת מידע מוטעה, בין אם הדבר נעשה בטעות או בזדון.
חשוב לציין, כי גוגל אינה מתחייבת ש-SynthID יצליח לאתר מניפולציות שנעשות על ו/או באמצעות תמונות באופן מוחלט. סימני מים באים בין היתר בדמות לוגו, הערה או שכבה (Layer) על-גבי תמונה, אולם יש דרכים להסיר אותם, חלקן בקלות על-ידי חיתוך שלהם מהתמונה.
בעת שימוש ב-SynthID לא מתפשרים על איכות התמונה, תוך הטמעת סימן מים שניתן לזיהוי אך לא להסרה. וזאת, גם אם מתבצעות מניפולציות כגון הוספת פילטרים, שינוי צבעים, שמירה בפורמטים אחרים לדחיסת נתונים ועוד.
באילו אמצעים SynthID פועלת?
הטמעה של סימן מים – הוספה של סימן מים בלתי ניתן לזיהוי בתמונות מלאכותיות שנוצרו באמצעות Imagen של גוגל. סימן המים מוטמע בפיקסלים של התמונה.
זיהוי – באמצעות סריקה של תמונה לצורך זיהוי סימן מים דיגיטלי, SynthID תוכל להעריך את הסבירות בדבר האם תמונה נוצרה באמצעות Imagen.
דרגות הסיווג של SynthID
כאשר מבצעים בדיקה באמצעות SynthID יתקבלו אחת מבין שלוש רמות וודאות הבאות:
אותר סימן מים דיגיטלי (Digital watermark detected) – התמונה נוצרה על-ידי Imagen בסבירות גבוהה.
לא אותר סימן מים דיגיטלי (Digital watermark not detected) – התמונה לא נוצרה על-ידי Imagen בסבירות גבוהה.
סיכוי סביר לסימן מים דיגיטלי (Digital watermark possibly detected) – ייתכן והתמונה נוצרה על-ידי בצורה מלאכותית, יש לנהוג איתה בזהירות.
יש לכם שאלות או הערות?
מוזמנים לכתוב לנו בתגובות, או לפרסם פוסט בקבוצת הפייסבוק של “יוצרים תוכן”.
