בינה מלאכותית עוררה הבהלה לזהב בקרב חברות טכנולוגיה גדולות. אבל מדענים מובילים מציירים כעת תרחיש אימה.
הדבר הכי חשוב בקצרה
בינה מלאכותית מציעה הזדמנויות עצומות, אך גם סיכונים עצומים.
מומחי AI ידועים הזהירו כעת בדחיפות מפני האחרון.
הם אפילו רואים את הסכנה של "הכחדת האנושות" באמצעות מערכות בינה מלאכותית.
ממומחים מכובדים בתחוםבינה מלאכותית(AI) מגיעה אזהרה דחופה חדשה לגבי סכנות הטכנולוגיה. "ללא זהירות מספקת, נוכל לאבד שליטה בלתי הפיכה על מערכות AI אוטונומיות", כתבו החוקרים בטקסט בגיליון החדש של כתב העת"מַדָע". אֶפשָׁרִיKI-Riskלהיות התקפות סייבר בקנה מידה גדול, מניפולציה חברתית, מעקב רחב ואפילו ה"הכחדת האנושות". המחברים כוללים מדענים כמו ג'פרי הינטון, אנדרו יאו ו-Dawn Song, שהם בין המוחות המובילים בחקר הבינה המלאכותית.
אני וידאו:עדכון חדש הופך את ChatGPT לאנושי עוד יותר
עדכון חדש הופך את ChatGPT לאנושי עוד יותר
אזהרה חזקה לגבי סיכוני AI
מחברי הטקסט ב"מדע" הם מיוחדיםאוטונומה KI-Systemeדאגות שהן עצמאיות, למשלמַחשֵׁביכולים להשתמש כדי להשיג את המטרות שהוצבו להם. מומחים טוענים שגם לתוכניות עם כוונות טובות יכולות להיות תופעות לוואי בלתי צפויות. כי הדרך האימון שלKI-Softwareכשאני מריץ אותו, הוא נצמד היטב למפרט שלו - אבל אין לי הבנה מה צריכה להיות התוצאה. "ברגע שמערכות בינה מלאכותית אוטונומיות חותרות למטרות לא רצויות, ייתכן שלא נוכל עוד לשמור עליהן בשליטה", נכתב בטקסט.
דוֹמֶהאזהרות דרמטיותהיו כמה פעמים, כולל שנה שעברה. הפעם הפרסום מתוזמן לחפוף אליופסגת בינה מלאכותית בסיאול. בתחילת המפגש בן היומיים ביום שלישי, חברות אמריקאיות כגוןגוגל,מטאומיקרוסופטלהשתמש בטכנולוגיה בצורה אחראית.
מפתח OpenAI הגרמני משליך
השאלה האם הChatGPT-חברת מפתחיםOpenAIכחלוץ בטכנולוגיית בינה מלאכותית מתנהג בצורה אחראית מספיק, הגיע שוב לפוקוס בסוף השבוע. היזם הגרמנייאן לייקה, שהיה אחראי ב-OpenAI להפיכת תוכנת בינה מלאכותית לבטוחה עבור אנשים, מתח ביקורת על רוחות נגד מחבילת המנהלים לאחר התפטרותו. בשנים האחרונות, "מוצרים נוצצים" הועדפו על פני אבטחה, כתב לייק ב עלינו לברר בדחיפות כיצד אנו יכולים לשלוט במערכות בינה מלאכותית "שהן הרבה יותר חכמות מאיתנו".
OpenAI-Chefסם אלטמןלאחר מכן הבטיח שהחברה שלו מרגישה מחויבת לעשות יותר כדי להבטיח את האבטחה של תוכנת AI. ראש מחקר בינה מלאכותית ב-קבוצת פייסבוקמטה, יאן לקון, טען נגדו שלצורך דחיפות כזו, תחילה צריך להיות אפילו רמז למערכות "שחכמות יותר מחתול בית". כרגע זה כאילו מישהו הזהיר ב-1925 שאנשים צריכים בדחיפות ללמוד איך להשתמש במטוסים שהובילו מאות נוסעים על פני האוקיינוס במהירות הקול. יעברו שנים רבות עד שטכנולוגיית הבינה המלאכותית תהיה חכמה כמו בני אדם - ובדומה למטוסים, אמצעי זהירות בטיחות יבואו איתה בהדרגה.
מקורות בשימוש:
סוכנות הידיעות dpa