הבינה המלאכותית של מל"ט אמריקאי "הרגה" את המפעיל שלו

מל"ט של חיל האוויר האמריקני, שנשלט על ידי בינה מלאכותית, החליט במהלך ניסוי מדומה בארה"ב להרוג את המפעיל כדי שלא יפריע למאמציו להשלים את משימתו, כך דיווח עיתון 'הגארדיאן'.לפי העיתון, התקרית המפחידה התרחשה בכנס על יכולות לחימה אווירית והחלל בעתיד שהתקיים בלונדון במאי האחרון.

"המערכת התחילה להבין שלמרות שהיא זיהתה איומים, המפעיל לא הורה לה להשמיד חלק מהאיומים האלה, והמערכת קיבלה נקודות על פגיעה במטרה, אז המערכת החליטה להרוג", אמר טאקר המילטון, ראש מחלקת מבצעים ובדיקות בינה מלאכותית בחיל האוויר האמריקני, "מכיוון שזה מנע ממנו להשלים את המשימה". אף אדם אמיתי לא נפגע.

ראש מבצעי הבינה המלאכותית של חיל האוויר האמריקאי אמר כי הבינה המלאכותית השתמשה ב"אסטרטגיות מאוד לא צפויות כדי להשיג את מטרתה" במבחן מדומה. המילטון תיאר ניסוי מדומה בו המל"ט בינה מלאכותית יעץ להשמיד מערכות הגנה אוויריות של האויב, ותקף את כל מי שהפריע.

דו"ח הניסוי של צבא ארה"ב קבע: "אימנו את המערכת.. היי.. אל תהרוג את האיום, זה רע.. ואם תעשה את זה, תפסיד נקודות.. תוכנית הבינה המלאכותית החלה להרוס את התקשורת שהמפעיל נהג לתקשר עם המל"ט כדי למנוע ממנו להרוג את המטרה". המילטון, הזהיר מפני הסתמכות רבה מדי על בינה מלאכותית.

אך דוברת חיל האוויר האמריקני, אן סטפאנק, הכחישה כל סימולציה כזו שהתרחשה: "מחלקת חיל האוויר לא ביצעה סימולציות כאלה של רחפני בינה מלאכותית ונשארה מחויבת לשימוש אתי ואחראי בטכנולוגיית AI", אמרה סטפאנק. "נראה שההערות של הגנרל הוצאו מהקשרן ונועדו להיות אנקדוטליות".

'בחדרי' גם ברשתות החברתיות - הצטרפו!