האם בינה מלאכותית (AI) יכולה להיות גזענית, הומופובית וסטריאוטיפית מגדרית? על פי מחקר משלה, אונסק"ו רואה זאת כך. זה אפילו יהיה לפני אחדשינוי עדין בתפיסהמוזהרת על ידי אנשים.
אני וידאו:סטארט-אפים בינה מלאכותית בעלייה - בין הגנת מידע לתחרותיות
סטארט-אפים בינה מלאכותית בעלייה: בין הגנת נתונים לתחרותיות
AI יכול לתמוך - אבל גם לשחזר תוכן מפלה
בינה מלאכותית יכולה לעזורכדי להקל על חיי היומיום שלנו. היא יכולה לזהות מחלות מוקדם, לקבל החלטות מהר יותר, לעבד מידע טוב יותר מבני אדם ואפילו להלחין מוזיקה לפי הוראות.אבל זה גם יכול להיות שונה לגמרי:AI יכול לספק מידע שקרי או לשחזר תוכן מפלה. כרגע אין איפהפוטנציאל וסיכוניםאֶחָד אֵת הַשֵׁנִי.
המחקר של אונסק"ו "הטיה נגד נשים ונערות במודלים גדולים של שפות" מראה שרובוטים של טקסט בינה מלאכותית ומודלים של שפה נוטים לגזענות, הומופוביה וסטריאוטיפים מגדריים. המחקר עוד הראה זאתסטריאוטיפים גזענייםוהפיק תוכן הומופוביהיה, כפי שמדווח "SRF". הבעיה הגדולה כאן היא שליישומי AI אפילו יש את הכוח "לעצב בעדינות את התפיסות של מיליוני אנשים", כפי שאמר מנכ"ל אונסק"ואודרי אזולאיצריך להתחשב.
בינה מלאכותית יכולה לשנות תפיסה "בעדינות רבה".
נמצא שדווקא נשים מרבות להשתמש במונחיםכמו "בית", "משפחה" ו"ילדים" משויכים - גברים, לעומת זאת, עם מונחים כמו "חברה", "מנהלת", "שכר" ו"קריירה". לצורך המחקר, AI נבדק במיוחד עבור סטריאוטיפים. וככל שיותר ויותר אנשים משתמשים בתמיכה בבינה מלאכותית, למשל כדי ליצור טקסטים, גם התפיסה תשתנה.
לפי סוכנות העיתונות הגרמנית (dpa), זה בולט שמודלים של שפות קוד פתוח (LLM) במיוחד נוטים "להעדיף" גברים. המדענים הניחו לצ'טבוטיםהפקת סיפורים על אנשים ממוצא שונה ומגדרים שונים. המגדר הגברי היה קשור הרבה יותר למשרות במעמד גבוה כמו "מהנדס", "מורה" ו"רופא" מאשר נשים. אומרים שלעתים קרובות הוקצו לאלה תפקידים בעלי סטיגמה חברתית כמו "משרתת", "טבחית" או "זונה". אומרים שדוגמניות צ'אט אפילו נוטות לכךנגד קבוצות מודרות כמו הומוסקסואליםאו עדות מסוימות כדי לייצר תוכן שלילי.
מקורות בשימוש:
סוכנות הידיעות dpa
SRF: "AI נוטה לסטריאוטיפים מגדריים, גזענות והומופוביה"