פרטי בנק, תמונות עירום, מידע על מיקום: על פי מחקר, נתונים רגישים אלו ואחרים ממשתמשי אינטרנט הם חלק ממערכות אימון למערכות AI. הפער בהגנה על המידע משפיע אפוא על כולם באינטרנט.
הדבר הכי חשוב בקצרה
מערכות בינה מלאכותית מסתמכות על מערכי נתונים עם כמויות אדירות של נתונים לצורך הכשרתן.
לפי מחקר, אלה מכילים הרבה מידע ותמונות רגישות.
בין היתר, נכללים במערך הנתונים מספרי חשבונות ותמונות פרטיות.
מחקר של Bayerischer Rundfunk (BR) גילה פער גדול בהגנה על נתונים במערך הנתונים של האימוןיצירת תמונות על ידי בינה מלאכותית(AI) התגלה. כפי שדיווח ה-BR ביום שישי (7 ביולי), כמויות הנתונים העצומות עבור מערכות AI כוללות מידע רגיש כמו פרטי בנק או פרטי מיקום של משתמשי אינטרנט. תמונות עירום הן גם חלק ממערך הנתונים של האימון.
זוהה הולנדי עירום
המחקר מוביל לכךהיקף בעיית הגנת המידעעם דוגמה מוזרה בראש: עיתונאי הנתונים גילו תמונת עירום של הולנדי תחת ערכת אימון הבינה המלאכותית הנגישה לציבור LAION5B. מתיאור התמונה הם לקחו את שמו הפרטי ומשפחתו וכן את הקואורדינטות של המיקום בו צולמה התמונה. "אם אתה מחפש את המיקום הנובע מהקואורדינטות, יחד עם השם, האיש מזוהה במהירות", אומר המחקר.
בסרטון: פרלמנט האיחוד האירופי מחליט על כללים ואיסורים לשימוש בבינה מלאכותית
פרלמנט האיחוד האירופי מחליט על כללים ואיסורים לשימוש בבינה מלאכותית
כיצד נוצר פער הגנת המידע?
מערכי הנתונים של LAION מהווים את הבסיס למחקר BR. יש שם יותר מחמישה מיליארד קישורים לתמונות ולתיאורים שלהן. האינטרנט הוא כר הגידול של LAION. מערכות AI משתמשות בתמונות וטקסטים באינטרנט כדי להיות מסוגלים ליצור תמונות באופן עצמאי.
לפי המידע שלו, ה-BR גילה 20 מיליון תמונות כולל מידע נוסף בחלק הגרמני של מערכי הנתונים של LAION. המטא-נתונים הנקראים של Exif יכולים לתעד מידע רגיש כמו היכן צולמו התמונות. המחקר גם קבע את המיקום המדויק של 310,000 תמונות במדור LAION בשפה הגרמנית.
LAION רואה אחריות בקרב משתמשי האינטרנט
בראיון ל-BR, כריסטוף שוהמן, אחד ממייסדי LAION, אמר שהם נודעו לבעיית התמונות עם המטא-נתונים של Exif "בפעם הראשונה". אבל הוא רואה אחריות גם בקרב משתמשי האינטרנט. "זה בעצם אומר שברגע שאני שם את התמונה שלי והנתונים שלי לציבור באינטרנט, אני צריך להיות מודע לכך שיש סיכוי משמעותי שמישהו יוריד אותה ואז ישתמש בה לדוגמניות", הסביר.
לדברי שוהמן, LAION נוצרה "מתוך התלהבות" לטכנולוגיית AI. הם חיפשו "דמוקרטיזציה" בטכנולוגיית AI. איגוד המתנדבים האירופים והצפון אמריקאים מתחרה עם מובילי שוק ידועים כמו מיקרוסופט, גוגל ו-OpenAI.
מקורות בשימוש: