לאחר הטלטלה הקשה שעברה הרשת החברתית הגדולה בעולם - פייסבוק בכל הנוגע לפרשת הפרת פרטיות המשתמשים של קיימברידג' אנליטיקה, חושפת החברה לראשונה אי פעם, את המספרים שמאחורי התכנים שהיא מסירה מהרשת מסיבות שונות.
"לפני שלושה שבועות פרסמנו את הנהלים הפנימיים לאכיפת כללי הקהילה שלנו", כתב גיא רוזן, סגן נשיא לניהול מוצר בפוסט בבלוג הרשמי של פייסבוק, "ועכשיו אנחנו משחררים את דו"ח אכיפת כללי הקהילה הרבעוני הראשון - כדי שתוכלו לשפוט את הביצועים שלנו בעצמכם".
הדו"ח מתייחס לרבעון הראשון של 2018 ומחולק לשישה נושאים המחייבים ניטור בפייסבוק: אלימות גרפית, תועבה, תעמולה של ארגוני טרור, דברי הסתה, חשבונות מזויפים וספאם. המספרים חושפים כי בתקופת הזמן הנתונה, הוסרו מהרשת החברתית בסך הכל למעלה ממיליארד וחצי תכנים העוברים על כללי הקהילה.
הנתח העיקרי של תוכן מנוטר כולל ספאם (תפוצה רחבה של תוכן פרסומי). לפי הדו"ח, הוסרו 837 מיליון תכנים המכילים ספאם מהרשת החברתית במהלך הרבעון. 583 מיליון חשבונות מזויפים הוסרו גם הם. בנוסף, הוסרו 21 מיליון תכני תועבה, 3.4 מיליון תכנים המכילים אלימות גרפית, 2.5 מיליון תכנים דברי הסתה ו-1.9 מיליון תכנים המכילים תעמולה של ארגוני טרור.
הדו"ח חושף גם את היקף השימוש שעושה הרשת החברתית בבינה מלאכותית לצורך ניטור תכנים לא ראויים המפרים את כללי הקהילה. כמעט 100 אחוזים מהספאם שהוסר מפייסבוק, זוהה על ידי כלי ה-AI הייעודי שלה, המתייג באופן אוטומטי את התוכן - "ללא מגע יד אדם". הנתון הזה רלוונטי גם לתעמולה של ארגוני טרור, עם הסרה אוטומטית של 99.5 אחוזים מהתכנים, כמות שנחשבת לנמוכה מידי לאור השימוש הרב שעושים ארגוני הטרור ברשת החברתית.
גם בגזרת הזיהוי הגרפי נראה שהרוב המוחלט של תוכן שמוסר מהרשת החברתית, מתויג באופן אוטומטי כבלתי ראוי ולא מחייב עין אנושית. הסיפור מסתבך בכל מה שמוגדר כ"דבר הסתה". במקרה הזה, רק 38 אחוזים מהתכנים שהוסרו תויגו באופן אוטומטי על ידי בינה מלאכותית והשאר באופן ידני.