בינה מלאכותית חדשה מגיעה: סופר חכמה ולא מזיקה

איליה סוצקבר נחשב לאחד המומחים המובילים בבינה מלאכותית ודוכניםחסות עבור ChatGPT. בסטארט-אפ החדש שלו הוא מבטיח לבינה מלאכותית ש...לא מזיק לבני אדםהוא.

אחד ממייסדי Open AI מקים סטארט-אפ AI משלו.המטרה של החברה החדשהבשם Safe Superintelligence היא בינה מלאכותית לא מזיקה ומפותחת מאוד, הכריז איליה סוצקבר.

פרויקט AI חדש מאחד המוחות המובילים

"מה שמיוחד בחברה הוא שהמוצר הראשון שלה יהיה מודיעין-על מאובטח - והוא לא ישחרר שום דבר אחר לפני כן", אמר סוצקבר. כך יימנעו לחץ מסחרי ותחרות עם מעבדות AI אחרות, טען החוקר.

סוצקבר נחשב לאחד המוחות המובילים בפיתוח הבינה המלאכותית. ב-Safe Superintelligence יש לו שני מייסדים: דניאל גרוס עבד פעם על בינה מלאכותית באפל, דניאל לוי היה ב-Open AI עם Sutskever.

סכנה לאנושות ממערכות בינה מלאכותית?

השאלה האם מערכות בינה מלאכותיות יכולות להפוך למסוכנות לאנושותברגע שהם נעשים חזקים ועצמאיים יותר, התעשייה הייתה עסוקה כבר שנים. תמיד יש אזהרות ממומחים וניסיונות של ממשלות למזער סיכונים באמצעות הנחיות קפדניות ודרישות דיווח.

סוצקבר היה ראש מחקר ב-Open AI. בשנה שעברה הוא היה מעורב בגירוש המפתיע של בוס ה-Open AI, סם אלטמן, שהתהפך רק כמה ימים לאחר מכן לאחר לחץ מצד העובדים והמשקיע הגדול של מיקרוסופט. Sutskever נשאר ברקע לאחר מכן ועזב את מפתח ChatGPT במאי.

מעבדת מודיעין-על חדשה ללא מטרות רווח

החזון של החברה החדשה הוא משהו כמו חזרה לשורשים של Open AI כמעבדת מחקר ללא מטרות רווח. עם זאת, שנים ספורות לאחר הקמתה, Open AI הגיעה למסקנה שהיא לא תוכל להמשיך לצוף ללא מוצר מסחרי. כך נוצר הסכם של מיליארד דולר עם ענקית התוכנה מיקרוסופט ופרסום ChatGPT. כיצד תמומן מעבדת מודיעין העל החדשה של סוצקבר עדיין לא ברור.

עוד חדשות וסרטונים