יש התלהבות גדולה מ-ChatGPT, אבל התוכנה, שיכולה לחקות דיבור אנושי כמעט בצורה מושלמת, טומנת בחובה סכנות. הממציאים מנסים כעת לנטרל זאת באמצעות כלי איתור.
הפק טקסט נטול שגיאות תוך שניות ספורות וחקה שפות אנושיות: היש הרבה הייפ סביב ChatGPT. עם זאת, התוכנה המבוססת על בינה מלאכותית עושה זאת כל כך טוב שיש כעת חששות לגבי שימוש לרעה. לדוגמה, רמאות בלימודים או בקורסים עלולה להתרחש, וגם קמפיינים של דיסאינפורמציה בקנה מידה גדול אפשריים. כי: התוכנית יכולה לערבב באופן משכנע מידע שגוי לחלוטין עם מידע נכון.
בסרטון: Chat GPT הופך פופולרי יותר ויותר - מומחה מזהיר מפני סיכונים ו"חדשות מזויפות"
Chat GPT הופך יותר ויותר פופולרי: מומחה מזהיר מפני סיכונים ו"חדשות מזויפות"
התוכנה עדיין לא עובדת בצורה אופטימלית
יצרני ChatGPT רוצים כעת להתנגד לכך ופרסמו תוכנית שאמורה להבחין אם טקסט נכתב על ידי מחשב או אדם. עם זאת, הזיהוי כרגע עדיין עובד בינוני, כתבה חברת המפתחים OpenAI בבלוג ביום שלישי (31 בינואר).
התוכנה זיהתה נכון טקסטים שנכתבו על ידי מחשב ב-26 אחוז מהמקרים. במקביל, רק תשעה אחוזים מהטקסטים שנכתבו על ידי בני אדם הוקצו לא נכון למחשב. לפיכך המפתחים ממליצים לא להסתמך רק על "המסווג".
OpenAI הפכה את ChatGPT לזמינה לציבור בשנה שעברה, מה שעורר הערצה עולמית אך גם חשש שהתוכנה עשויה לשמש להונאה.
מקורות בשימוש:
סוכנות הידיעות dpa