צוקרברג וברין מתגייסים נגד דאעש

ענקיות הסושיאל מתמודדות כבר שנים עם ביקורות על אוזלת ידן בהפצת תכנים אלימים בפלטפורמות שלהן. בפגישות בין נציגי פייסבוק, גוגל וטוויטר ובין רגולטורים ונציגי גופים בטחוניים באירופה ובצפון אמריקה דנו הצדדים בניסיון להבין כיצד מתמודדים עם הנוכחות הגוברת של ארגוני טרור באותן רשתות.

מסקנות מחקירות אירועי טרור גדולים שהתרחשו בשנתיים האחרונות, ביניהן מתקפת הטרור בפריז והטבח בקליפורניה, מצאו, בין היתר, כי הן בוצעו בהשפעת ארגון המדינה האיסלמית שמצליח לנהל קשר עם פעילים מסביב לעולם בעיקר באמצעות פעילות ברשת. לאחרונה הכריזה ראשת ממשלת בריטניה, תרזה מיי, בעקבות סדרת מתקפות קטלניות שהתרחשו בלונדון בחודשים האחרונים, כי יש צורך בקיום דיאלוג בינלאומי על מנת להגיע להסכמים ולהסדיר את פעילותה של הרשת כך ש"תשלול מקיצוניים את קיומם הבטוח והחופשי ברשת" וכי חברות הטכנולוגיה לא עושות מספיק בנידון.

בתגובה להאשמות אלו, הודיעה פייסבוק בשבוע שעבר כי היא פיתחה אלגוריתם שיסייע לרשת החברתית להסיר תכנים המעודדים ומסיתים לטרור. הפיתוח החדש יסרוק את הרשת אחר מילים, תמונות וסרטונים שעולים בהודעות, פרופילים אישיים ועמודים ויסיר תוכן שיזהה כמעודד אלימות וטרור. בבלוג החברה נכתב: "אנו מתנסים כרגע בניתוח טקסט שכבר הוסר לאחר שנמצא כי הוא תומך בארגוני טרור כמו דאעש ואל קעידא. פיתחנו אלגוריתם שיודע לזהות גם טקסט מוצפן ולא רק כזה שיודע לזהות תוכן המעודד אלימות באופן ישיר ועל ידי למידה - הוא רק ילך וישתפר".

אולם, אינטליגנציה מלאכותית לא תעשה את העבודה לבדה ועל פי פייסבוק היא הגדילה את צוות המומחים לטרור ואבטחה שברשותה ל-150 אנשים שעוסקים רק בנושא. מדובר באנשי אקדמיה, משפטים, מהנדסים ואנליסטים דוברי 30 שפות שונות המצטרפים לצוות גלובלי של כ-4,500 עובדי פייסבוק שאחראים על קבלת דיווחים על תכנים אלימים, ניתוחם והסרתם במידה ונמצאו לא ראויים.

עוד נכתב בבלוג כי פייסבוק חברה לענקיות טכנולוגיה נוספות על מנת להלחם בתופעה הזו יחד לצדן של מיקרוסופט, יוטיוב וטוויטר. אמש פירסמה גוגל כי היא נוקטת בארבעה צעדים על מנת להלחם בטרור על גבי פלטפורמת החיפוש והוידאו של החברה. צעד ראשון של החברה - הטמעת אלגוריתם זהה לזה של פייסבוק, אותו החברה לימדה לזהות תכנים מעודדי טרור. בהודעה בבלוג החברה נכתב כי יותר מחצי מהתכנים שהיא הסירה בשנה שעברה היו הודות לסקירה באופן הזה.

צעד שני - גם הוא בדומה לצעדיה של פייסבוק, גוגל תתגבר את כוח האדם המקצועי שידע לזהות תכנים פוגעניים בנוסף לטכנולוגיה. "90% מהדיווחים של שותפים עצמאיים שעובדים עמנו, עוזרים לזהות תוכן אלים שצריך להסירו מהרשת. אנו נרחיב את התוכנית הזו על ידי תוספת של 50 ארגונים ללא מטרת רווח ל-63 שאנו כבר משתפים עמם פעולה בנושא, ונתקצב אותם בהתאם".

צעד שלישי יהיה עמדה קשיחה יותר כלפי סרטונים שלא מפרים ישירות את המדיניות של החברה, אך עדיין עלולים להיות בעייתיים (להגדרתם, "בעלי תוכן דתי מתסיס או גזעני"). בעתיד, סרטונים אלו יופיעו לאחר מודעת אזהרה וגוגל לא תנתב אותם להפקת רווחים, הם לא יופיעו כהמלצות צפייה ולא ניתן יהיה להגיב עליהם. המשמעות היא שתכנים אלו יהיו בעלי מעורבות נמוכה ויהיה קשה לאתר אותם בחיפוש ביוטיוב. "אנחנו חושבים שמהלך זה מתבצע באופן שמאזן בין חופש הביטוי והגישה למידע מבלי לפגוע באידאולוגיות שונות".

הצעד הרביעי הוא קמפיין שמכוון בעיקר לאירופה, ומשתמש בפרסומות ממוקדות על מנת לאתר משתמשים שנמצאים על הכוונת של דאעש וארגוני טרור. הקמפיין יציג בפניהם סרטונים שינסו לגרום להם לסטות מהרצון להצטרף לארגון טרור. לפי גוגל, צופים שזוהו בקבוצת מיקוד של ארגוני טרור הקליקו על מודעות אלו בכמות גבוהה יחסית, וצפו ביותר מ-500 אלף דקות של תוכן שמסביר למה כדאי להם לבחור בדרך אחרת ולא להצטרף לארגון טרור.

'בחדרי' גם ברשתות החברתיות - הצטרפו!