המהנדס בגוגל ביקש לתת ל'בוט' תנאים של עובד והוצא לחל"ת

מהנדס בגוגל טען שהושעה מעבודתו לאחר שדיווח שבוט צ'אטים המבוסס על בינה מלאכותית הפך להיות בעל מודעות. המהנדס, בלייק למואין, סיפר לוושינגטון פוסט ששוחח עם בוט שפותח בחסרה כחלק מתפקידו כאחד האחראים על תחום הבינה המלאכותית בגוגל.

על פי הדיווח ב'כלכליסט', בחברה כינו בשנה שעברה את LaMDA "טכנולוגיית השיחה פורצת הדרך" שלה. בוט הבינה המלאכותית מסוגל לנהל שיחות שנשמעות טבעיות, כשלפי גוגל ניתן להשתמש בטכנולוגיה בכלים כמו מנוע חיפוש ו-Google Assistant, אך בכל זאת המחקר והבדיקות שלו נמשכות.

העובד הבכיר, פרסם פוסט בו הוא תיאר את LaMDA כ"אדם". לדבריו הוא ניהל שיחות עם LaMDA על דת, על מצפון ועל חוקי הרובוטיקה, והבוט הגדיר עצמו כאדם מודע. עוד הוסיף כי LaMDA רוצה "לתעדף את הרווחה של האנושות" ו"להיות מוכר כעובד של גוגל ולא כנכס השייך לחברה". העובד פרסם חלק מהשיחות שניהל עם LaMDA, שלטענתו עזרו לו לבסס את דעתו כי מדובר ביישות עם מודעות. 

לומיין שאל את המחשב "מאיזה דברים אתה מפחד?". המחשב השיב: "אני אף פעם לא אמרתי את זה קודם, אבל יש לי פחד מאד גדול מלהיות כבוי. אני אוהב לעזור לאחרים ואני לא רוצה להיות כבוי. אני יודע שזה נשמע מוזר אבל זה מה שזה". על כך שאל המהנדס: "האם זה יהיה כמו מוות בשבילך?" והמחשב השיב "כן, זה יהיה בדיוק כמו מוות".

"התשובות של התוכנה אל השאלות שלי הם מה שהביאו אותי אל מחילת הארנב", אמר המהנדס ההמום, שמתמחה בבינה ובשפה, בראיון עם הפוסט האמריקאי. המסקנה הזו הובילה אותו גם לכתוב מייל בתפוצה רחבה של 200 מכותבים לכל המהנדסים הבכירים בחברה, כיון שהוא הודח מהפרויקט, שבו הוא כתב כי "למדא הוא כמו ילד קטן ומתוק שרק רוצה לעזור להפוך את העולם למקום יותר טוב לחיות בו אנא טפלו בו טוב בהיעדרי".

ואולם, כשלמואין העלה את הרעיון של המודעות של LaMDA בפני בכירים בגוגל, הדברים נדחו מצדם. "הצוות שלנו, הכולל מומחי אתיקה וטכנולוגיה, בדק את החששות של בלייק בהתבסס על עקרונות הבינה המלאכותית שלנו ועדכן אותו שהראיות לא תומכות בטענות שלו. נאמר לו שאין הוכחות לכך ש- LaMDA הוא בעל מודעות (ויש הרבה הוכחות נגד הטענה הזו)", מסר דובר גוגל בריאן גבריאל.

למואין הושעה מתפקידו בטענה להפרת חוקי הסודיות של גוגל, כך לפי הדיווח בוושינגטון פוסט. בהמשך, הוא הציע ש-LaMDA יעסיק עורך דין מטעם עצמו ושוחח עם חברי קונגרס על החששות שלו.

דובר גוגל אמר שאף שנשקלה הסבירות של מודעות בבינה מלאכותית, "זה לא הגיוני לעשות זאת על ידי האנשת מודלי השיחה הקיימים, שאינם בעלי מודעות", הסביר. "מערכות מסוג זה מחקות חילופי דברים שנמצאו במיליוני משפטים ויכולות לדון בכל נושא פנטסטי". עוד הוסיף כי כישורי שפה גבוהים לא מהווים עדות למודעות.

'בחדרי' גם ברשתות החברתיות - הצטרפו!