בינה מלאכותית: מומחי טכנולוגיה קוראים להפסקה מכלי AI

כלי בינה מלאכותית הופכים ליותר ויותר אינטליגנטיים והפיתוח מהיר. כעת מומחי טכנולוגיה ידועים כמו אילון מאסק מזהירים מפני הסכנות וקוראים להפסקה.

הפיתוח של כלי AI היה עוצר נשימה בשבועות האחרונים. הטקסט רובוט ChatGPTנמצא על השפתיים של כולם. אבל עכשיו מומחי טכנולוגיה בכירים כמו...טסלה-שֶׁףאילון מאסקותַפּוּחַ-מייסד-שותף סטיב ווזניאק מזהיר בדחיפות מפני הסיכונים של בינה מלאכותית. AI מהווה "סיכונים עמוקים לחברה ולאנושות", נכתב במכתב פתוח שפורסם ביום רביעי (30 במרץ).

מאסק ומומחים אחרים מזהירים מפני כלי בינה מלאכותית

בו קוראים החותמים להקפאת הפיתוח המהיר של מערכות בינה מלאכותיות חדשות ועוצמתיות. הפסקת המחשבה צריכה להימשך לפחות שישה חודשים. עצירת פיתוח זו אמורה לתת לתעשייה זמן לקבוע תקני אבטחה לפיתוח AI ולמנוע נזק אפשרי מטכנולוגיות AI המסוכנות ביותר.

הקריאה פורסמה על ידי המכון ללא מטרות רווח "עתיד החיים", שבו מאסק משמש כיועץ חיצוני. ליד הלְצַפְצֵףהבוס, יותר מ-1,000 אנשים חתמו על המניפסט, כולל Emad Mostaque, ראש חברת AI Stability AI, וכמה מפתחים מחברת ה-AI של גוגל, DeepMind. התומכים כוללים גם את חלוצי הבינה המלאכותית סטיוארט ראסל, גארי מרקוס ויושוע בנג'יו.

במניפסט הם מזהירים מפני הסכנות של מה שנקרא AI גנראטיבי, כמו זה מיושם עם רובוט הטקסט ChatGPT או מחולל התמונות DALL-E מבית OpenAI. כלי בינה מלאכותית אלה יכולים לדמות אינטראקציה אנושית וליצור טקסט או תמונות על סמך מילות מפתח בודדות בלבד.

נדרשת הפסקה למחשבה ב-ChatGPT ושות'

מאסק ייסד במקור את סטארט-אפ הבינה המלאכותית OpenAI כארגון ללא מטרות רווח. אבל אז הוא פרש לאחר שהבוס של OpenAI, סם אלטמן, הכריע בתוכניותיו לקדם את הפיתוח של תוכנת AI באמצעות שיתופי פעולה פיננסיים וטכניים רחבי היקף, במיוחד עם מיקרוסופט.

מאז פרסום ChatGPT בנובמבר האחרון, הנושא של "בינה מלאכותית" נמצא בציבור. גוגל נאלצה לנטוש את המסלול המגביל למדי שלה בעת פרסום כלי בינה מלאכותית והתנגדה למתקפה של OpenAI עם רובוט הצ'אט שלה בארד.

בגרמניה, איגוד TÜV קיבל בברכה את המכתב הפתוח. "הפנייה מראה את הצורך בפעולה פוליטית לרגולציה חוקית ברורה של בינה מלאכותית", הסביר יואכים בוהלר, מנכ"ל איגוד TÜV. זו הדרך היחידה להשתלט על הסיכונים של מערכות AI חזקות במיוחד.

המומחים הזהירו מפני מבול של תעמולה וחדשות מזויפות, הרס של מקומות עבודה רבים ואובדן שליטה כללי, הדגיש בוהלר. "יחד עם זאת, ברור שמערכות בינה מלאכותית נמצאות יותר ויותר בשימוש ברפואה, בכלי רכב או באזורים קריטיים לבטיחות אחרים. לתקלות יכולות להיות השלכות קטלניות". הנחיות משפטיות נחוצות בתחומים אלה. "זה יוצר אמון ומקדם הצעות חדשניות במקום להאט אותן".

• מקורות בשימוש:

• סוכנות הידיעות dpa

עוד חדשות וסרטונים