אדם חף מפשע נכלא לתשעה ימים בארה"ב עקב פגם בתוכנת זיהוי פנים. זה לא היה אירוע בודד. אומרים שהתוכנה הזו לזיהוי פנים בינה מלאכותית מספקת תוצאות שגויות, במיוחד עבור אנשים שחורים.
הדבר הכי חשוב בקצרה
תוכנת זיהוי פנים שלחה אדם חף מפשע לכלא לתשעה ימים בארה"ב.
זו לא הייתה הפעם הראשונה.
אומרים שהתוכנה הזו כוללת שגיאות, במיוחד עבור אנשים שחורים.
אנליסט חשף "פושע" לכאורה בסרטון מעקב באמצעות תוכנת פנים בינה מלאכותית ושלח את ה"עבריין" לכלא לתשעה ימים. החלק הלא ברור בסיפור הוא שהאיש היה חף מפשע והתוכנה עשתה טעות.
המשטרה האשימה את אלונזו סוייר בן ה-54 בשוד אוטובוס ליד בולטימור וגניבת הסמארטפונים של הנוסעים. עם זאת, במהלך הזמן הזה, סוייר בילה ערב שקט על הספה עם אשתו. למרבה הצער, ערבוב כזה לא היה המקרה הראשון.
אני וידאו:Habeck על בינה מלאכותית ודיגיטליזציה: "שגשוג וצמיחה" לגרמניה
Habeck על בינה מלאכותית ודיגיטליזציה: "שגשוג וצמיחה" לגרמניה
אשתו של סוייר מנסה להוכיח את חפותו
קארון סויירס ניסתה להוכיח את חפותו של בעלה. היא ציינה לא רק את העובדה שהם בילו את הערב ביחד על הספה כראיה, אלא גם שהפושע נראה בבירור בסרטון המעקבקלרוצעירים יותרהיה כבעלה. בנוסף, היה לוללא זקןוללא רווחים בשיניים. בנוסף, לסוייר - לדברי אשתו - היה כזהגן מושך את העיןל-g יש. זה לא היה ברור גם בסרטון, דיווח Wired "הבחור הזה נראה כאילו הוא יכול להיות הבן שלנו", צוטטה אשתו של סוייר.
רק במזל שוחרר סוייר, כי קורבן התקיפה זיהה חשוד נוסף, שבעצםכמעט 20 סנטימטר קצר יותר וצעיר ב-20 שנהמִלחָמָה.
זיהוי פנים שגוי בארה"ב אינו מקרה בודד
בכמה הזדמנויות אנשים הסתבכו בטעות עם המשטרה עקב טעות בתוכנת זיהוי פנים. רק בתחילת השנה נעצר צעיר בן 28 שזוהה כביכול באמצעות זיהוי פנים. שניהם לא היו נכונים כאןמִשׁקָלעוֹדגוֹדֶלתואם את תיאור התוקף. ובכל זאת השלטונות האשימו את האיש. רק כתם לידה גלוי בבירור, שהעבריין האמיתי היה חסר, הוכיח את חפותו.
לתוכנה יש כנראה שגיאות לעתים קרובות יותר עבור אנשים שחורים
כבר ידוע שלתוכנה המקבילה יש שיעור שגיאות גבוה יותר עבור לא-לבנים. זה נבע מתקריות דומות מתועדות בשנים האחרונות. כאן, זיהוי פנים הבטיח מעצר של חפים מפשע - אך ורק אנשים שחורים.
עם זאת, רשויות רבות בארה"ב מסתמכות על תוכנת זיהוי פנים עבור אכיפת החוק - למשל זו השנויה במחלוקתClearview AI- ולהתעלם מסטיות ניכרות כמו מבנה הגוף. כמה מדינות כבר אסרו או הגבילו את הטכנולוגיה. עם זאת, הוא נמצא בשימוש ברובו לא מוסדר בארה"ב.
מקורות בשימוש: