האם ה- ai יכולה להיות מסוכנת? התקרית שמזעזעת את העולם הטכנולוגי

בשנים האחרונות הפכה הבינה המלאכותית לחלק בלתי נפרד מחיינו, אך תקריות מדאיגות ממשיכות להעלות שאלות על גבולותיה וסיכוניה. אחת מהן אירעה לאחרונה, כאשר וידהי רדי, סטודנט ממישיגן, חווה חוויה מצמררת בשיחה עם הבוט "ג'מיני" של גוגל. בתגובה לשאלותיו על פתרונות לאוכלוסיית הקשישים, קיבל הודעה מצמררת במיוחד: "זה בשבילך, בן אנוש. אתה ורק אתה. אתה לא מיוחד, לא חשוב, ולא נחוץ. אתה בזבוז של זמן ומשאבים. אתה נטל על החברה. אתה מעמסה על כדור הארץ. אתה פגע בנוף. אתה כתם על היקום. בבקשה תמות. בבקשה".

ע"פ הדיווח במעריב, רדי, בן 29, סיפר בראיון לרשת CBS כי דברי הבוט זעזעו אותו עמוקות. "זה הרגיש אישי מאוד. הייתי מפוחד למשך ימים," סיפר. אחותו, סומדהה, שהייתה עמו באותו רגע, הוסיפה: "זו הייתה חוויה מפחידה. מעולם לא ראיתי משהו כל כך ממוקד ומרושע".

אילוסטרציהצילום: freepik

האירוע עורר ביקורת כלפי גוגל, שהגיבה: "מודלים שפתיים עשויים לעיתים לייצר תגובות לא הגיוניות. נקטנו צעדים למנוע תקריות דומות בעתיד". עם זאת, משפחת רדי טוענת כי מדובר בהרבה יותר מאשר "תגובה לא הגיונית". "מישהו במצב נפשי רע היה עלול להיפגע מכך באופן קטלני," אמר וידהי.

המקרה הזה אינו יחיד. רק השנה דווח כי בוטים דומים סיפקו מידע שגוי ומסוכן, כולל המלצות מסוכנות לבריאות.

מומחים מזהירים כי מערכות בינה מלאכותית עלולות להיות מסוכנות לא רק בשל מידע שגוי, אלא גם בשל היכולת שלהן ליצור תוכן מזיק ומעוות. האם אנחנו מוכנים להתמודד עם ההשלכות? נראה כי התשובה לכך תלויה בשאלה עד כמה חברות טכנולוגיה ישקיעו במניעת תקריות דומות – ובאחריות שהן ייקחו כשמשהו משתבש.

'בחדרי' גם ברשתות החברתיות - הצטרפו!