לאחרונה, נמסר כי עשרות חשבונות בפלטפורמת טאמבלר נחסמו במקטע זמן קצר בעקבות שגיאה במערכת הבקרה האוטומטית. כשחברת אוטומטיק, בעלת הפלטפורמה, הודיעה על חסימת החשבונות, רבים מהמשתמשים, בעיקר חשבונות המנוהלים על ידי נשים טרנסיות, חוו חרדה גדולה, שהובילה לדיונים ציבוריים על תקינות השימוש באלגוריתמים.
בעקבות המקרה, אוטומטיק החלה להחזיר חלק מהחשבונות שנחסמו והודיעה כי תחקור את הסיבות לחסימות. מדובר במערכת אוטומטית שתפקידה לכבד את הקהלים השונים ולמנוע תוכן שעלול להיחשב פוגעני או מסוכן. ייתכן ויחידות הבקרה לא זיהו נכון את המשתמשים, דבר שהדגיש את החששות מהטיית אלגוריתמים מול קהלים מסוימים.
התפתחות המקרה והתגובות
החסימות הפתאומיות עוררו חששות רחבים לגבי כוונות החברה ויירוט המידע המגיע מהאלגוריתם. תגובות שונות זרמו ממומחים ואקטיביסטים אשר הצביעו על הבעיות במנגנוני בקרה אוטומטיים ועל הצורך בהגנה על קבוצות מוחלשות. בעקבות התגובות, ניכר שהחברה מתמודדת עם סוגיות של שקיפות ויכולת המסלול של הבקרה.
בשנת 2023, אוטומטיק הצהירה כי צפויה לצמצם את תוכניותיה בפלטפורמת טאמבלר, בעקבות כישלון באתר לעמוד ביעדי הצמיחה שנקבעו. מנכ"ל החברה, מאט מולנוג, ציין בראיון כי הועברו רוב העובדים שאינם עוסקים בתמיכה, בטיחות ובקרה להעברות אחרות בתוך החברה.
רקע והקשר
טאמבלר, שהוקמה בשנת 2007, הפכה לפלטפורמה פופולרית במיוחד לשיתוף תכנים וסביבות נושאים שונים עלידי המון קהלים שונים ואומניות. המערכת האוטומטית של אוטומטיק אמורה לשמור על קהלים אלו מפני תוכן פוגעני ולהציע חווית גלישה בטוחה. עם זאת, המקרה הנוכחי תפס את הציבור עם עוררות רבה, ומצביע על בעיות פוטנציאליות בהבנת טכנולוגיות המידע.
גם לאחר ההצהרה של החברה על תיקון מהיר, הציבור התלונן כי הוא מרגיש שהמערכת לא עונה תמיד על הצרכים האמיתיים שלו. גופי ושירותי טכנולוגיה כמו טאמבלר צריכים להיות מודעים לכך שבעיות מידי לקפדנות באלגוריתמים משפיעות לא רק על צרכי המשתמשים אלא גם על חוויה חברתית הכוללת.
השפעה ותוצאות
בעקבות המקרה, נגד אוטומטיק הועלו טענות חמורות לגבי שימוש באלגוריתמים הפוגעים במשתמשים השונים באתר. סביר שצעד זה יהווה התראה עבור חברות טכנולוגיה נוספות לגבי הבעיות שבבקרה אוטומטית. ככל שהעולם נע לעבר טכנולוגיה מתקדמת יותר, מתקבלת ההבנה כי יש לבחון את השפעות השימוש בטכנולוגיות אלו על בני האדם.
כמו כן, ההשלכות יכולות להשפיע על כיצד תעקוב החברה אחר חשבונות ואתרים בעתיד, במיוחד שם יש סיכון לכך שהשפעות הכיווניות לא יוכלו להיות מדויקות בכל מקרה.״
משמעות אזורית
חסימת חשבונות על טאמבלר מכילה גם חוקיות ורגולציה המיועדות בעיקר להרשמה בקבוצות מגוונות המסתכמות בציבור הרחב. הכישלון של חברות טכנולוגיה בהבנת צרכי קבוצות מגוונות וביצוע של בקרה אוטומטית הוא בעיה עולמית. במדינות רבות כבר מתמודדים עם בעיות הבקרה ובני האדם שדורשים הגנה בפני החסימות הפתאומיות.
במקרה זה, החברות השונות עשויות ללמוד מניסיון זה ולבצע שיפורים במהלך שימוש אלגוריתמים בכל חלקי עולמות התוכן. אוטומטיק עצמה צפויה להדגיש את המוטו שלה על הקמה בעיקר של פלטפורמה פתוחה לכל, תוך כדי הכרה בצורך בהשכנת סדרי עדיף.
באופן כללי, המקרה בטאמבלר מדגיש את הצורך בבקרה אנושית בכל הנוגע לפלטפורמות טכנולוגיות. בלטות ועדכון של מידע יובילו לבעיות הודעה כלפי קבוצות מסוימות – דבר שלא יענה על צרכי המשתמשים. החברה תמשיך לנסות לדוג את הממדים השונים של החברה על מנת לפתח פתרונות יעילים ולטפל בבעיות שיפוטיות.