ספקית ChatGPT OpenAI מודאגת מהמוצר שלה: "אינטליגנציה על" מלאכותית עלולה לבטל את כוחה של האנושות או אפילו למגר אותה.
הדבר הכי חשוב בקצרה
ספקית ChatGPT OpenAI רוצה להגביל את העוצמה של המוצר שלה.
מייסד שותף של OpenAI, Sutskever, מזהיר כי בינה מלאכותית עלולה לנטרל את האנושות.
יש צורך בטכניקות טובות יותר באופן משמעותי כדי לשלוט ב-AI.
ספק ChatGPT OpenAIרואה את ביטחון האנושות בסיכון ניכר מבינה מלאכותית. לכן הם רוצים להרכיב צוות מחקר חדש ולהשקיע משאבים משמעותיים, כפי שהודיעה חברת הבינה המלאכותית ביום רביעי (4 ביולי). "הכוח העצום של 'אינטליגנציה על' עלול להוביל לביטול העצמה של האנושות או אפילו להכחדת האנושות", הזהיר.מייסד שותף של OpenAI איליה סוצקבר וראש מחלקת הכיוון העתידי של OpenAI, יאן לייק,בפוסט בבלוג.
בסרטון: בינה מלאכותית בכיתה - אתגר למורים
בינה מלאכותית בכיתה: אתגר למורים
OpenAI: בינה מלאכותית עלולה לנטרל את האנושות
שני מומחי הבינה המלאכותית הדגישו עוד: "אין לנו כרגע דרך לשלוט או לשלוט ב-AI שעלול להיות סופר-אינטליגנט ולמנוע ממנו ללכת בדרכו". מחברי הבלוג חזו שמערכות בינה מלאכותית סופר אינטליגנטיות שהן חכמות יותר מבני אדם יכולות לבוא לידי מימוש בתוך העשור הזה. בני אדם יזדקקו לטכניקות טובות יותר מהזמינות כיום כדי לשלוט בבינה מלאכותית סופר אינטליגנטית.
לפיכך, מיקרוסופט תשתמש ב-20 אחוז מכוח המחשוב שלה בארבע השנים הקרובות כדי למצוא פתרון לבעיה זו. כמו כן, החברה נמצאת בתהליך של הרכבת צוות מחקר חדש, "צוות ה-Superalignment", לצורך כך.
כרגע אין דרך לשלוט ב-AI
הסכנות הפוטנציאליות של בינה מלאכותית נדונות כעת באופן אינטנסיבי על ידי חוקרים והציבור הרחב.האיחוד האירופי כבר הסכים על טיוטת חוק להסדרת AI, "חוק AI".בארה"ב, בעקבות הדוגמה של האיחוד האירופי, יש דיון על סיווג יישומי בינה מלאכותית לדרגות סיכון, שבהן תלויות הדרישות לחברות.
מקורות בשימוש:
סוכנות הידיעות רויטרס