סוף העולם- תמיד נושא אסיר תודה שמעורר דיון: מתי זה יגיע, איך ובעיקר דרך מה? במחקר גדול, מדענים זיהו כעת את ה"אשם" האמיתי לאפוקליפסה אפשרית - אבל זה לא אמור להיות שינויי אקלים.
הדבר הכי חשוב בקצרה
סוף העולם: במחקר גדול לא אומרים שהאשם האמיתי של אפוקליפסה אפשרית הוא שינויי האקלים.
במהלך מפגש בן חודשים של מדענים, מומחים וחזאים, התגלה כי בינה מלאכותית מהווה את האיום הפוטנציאלי הגבוה ביותר של השמדת האנושות.
הכחדה של האנושות באמצעות אסון טבע היא כנראה הסיכונים הנמוכים מכל.
מהם הסיכונים הגדולים ביותר העומדים בפני האנושות במאה הבאה ואילך? לא רק מדענים מובילים מזהירים מפני סכנה ממשית שעלולה להרוס חיים על פני כדור הארץ - גם מומחים אשרבינה מלאכותיתמפתחים (שותפים) רואים זאת כך: בינה מלאכותית היא שמהווה סכנה פוטנציאלית להשמדת האנושות.
איזו סכנה היא הגדולה ביותר: בינה מלאכותית, ביולוגית, אקלים או נשק גרעיני?
מיוני עד אוקטובר 2022, התקיים טורניר ראשון בין מדענים, מומחים מקצועיים, גנרליסטים וחזאי-על או חזאי-על. קודם כל: חזאי סופר חוזים מגוון רחב של אירועים ויש להם רקורד מדהים של דיוק בתחזיות שלהם. הטורניר, שנקרא טורניר הסיכון הקיים (XPT), נועד לבחון איומים פוטנציאליים על האנושות במאה הנוכחית. ההתמקדות הייתה בנושאים של בינה מלאכותית, ביולוגית, אקלים ונשק גרעיני. על פי נתוני המכון לחקר החיזוי, הוזמנו למעלה מ-200 מומחים וחזאים מוכשרים, הן בנפרד והן בצוות, להכין תחזיות והסברים משכנעים לגבי האיום האפשרי של סוף העולם.
נושא שחייב לעניין במיוחד גם אנשי מקצוע בשוק הפיננסי. אחרי הכל, אפוקליפסה היא הסיכון הקיצוני הגדול מכולם עבור אנשי מקצוע בשוק ההון. יחד עם זאת, הוא משמש כערך ייחוס לסכנות אחרות. וחשוב להגן על עצמך מפני אלה. לפי "Welt", ספקית השירותים הפיננסיים בלומברג מנה 255 סיפורים בחודש שעבר בלבד, שכולם עסקו באפוקליפסה אנושית אפשרית. סיכון אחד הפך למוקד של כל הפרסומים: בינה מלאכותית אם היא תצא משליטה.
אפילו "הסנדק" של הבינה המלאכותית נותן אזהרות דחופות
כעת, במהלך ה-XPT, מומחים וחזאים צריכים לשכנע זה את זה בהערכת הסיכון שלהם בתחרות דיון. השורה התחתונה היא שכולם הסכימו עם זההכחדת האנושות באמצעות אסון טבעמהווה את הסיכונים הנמוכים ביותר - הסיכון הגבוה ביותר הוא בינה מלאכותית שכבר לא ניתן לשלוט בה והוא מכוון נגד אנשים. מעניין שמי שרואים כאן את הסיכון הגדול ביותר הם מומחים בתחום הבינה המלאכותית בעצמם לפי המומחים הללו, הסיכון הוא שני אחוזים.גם מה שנקרא "הסנדק" של הבינה המלאכותית, ג'פרי הינטון, הזהיר בניו יורק טיימס כי פיתוחי בינה מלאכותית עלולים להוות "סיכונים רציניים לחברה ולאנושות". לפי "Süddeutsche Zeitung", הינטון רואה את הסכנה הגדולה ביותר בשימוש לרעה בטכנולוגיה על ידי אנשים חסרי מצפון בשלטון, כגוןנשיא רוסיה פוטין. "אל תחשוב לרגע שפוטין לא יבנה רובוטים היפר-אינטליגנטים במטרהלהרוג אוקראינים. הוא לא יהסס".
חזאי-על מעריכים את הסכנה של סוף העולם שנגרמה מ-AI נמוכה משמעותית. מעניין: המונח חזאי-על חוזר למדען פיליפ א. טטלוק, שהתמחה בחקר תחזיות. הוא גילה שיש אנשים שהם מדוייקים להפליא בביצוע תחזיות. אלה לעתים קרובות שונים באופן דימטרי מתוצאות מומחים. חזאי העל הללו העריכו בדרך כלל את הסכנות של אפוקליפסה מתרחישים קיצוניים כמו מגיפות או מלחמה גרעינית כנמוכות משמעותית מהמומחים.
הסכנה הגדולה ביותר נובעת מבינה מלאכותית
עם זאת - גם אם לא כולם הסכימו במהלך ה-XPT -אומרים שהסיכון הגבוה ביותר לסוף העולם מגיע מבינה מלאכותית. למרות שהמומחים וחזאי העל היו הכי רחוקים זה מזה (בנקודות האחוז) בכל הנוגע לסיכון בינה מלאכותית והיו הכי דומים בכל הקשור לסיכון למלחמה גרעינית.
ביחס להתפתחויות בשוק הפיננסי, ניתן לומר באופן כללי שלא יכולה להיות הגנה של 100%.עם זאת, התבוננות בחידושים כגון AI יכולה גם לעזור להשתלט על הסכנותלמזער אותם מראש או, במקרה הטוב, אפילו לחסל אותם. בנוסף, לפי "Welt", זה יכול גם להוביל להזדמנויות השקעה חדשות לחלוטין.
עוד בנושא
מקורות בשימוש: