Noong nakaraang linggo, nagkaroon ng malaking insidente sa платформе Tumblr kung saan mahigit sa dalawampung account ang hindi inaasahang naharang dahil sa isang misconfiguration ng automated moderation system. Ang mga account na ito ay kinabibilangan ng mga pinamamahalaan ng mga indibidwal na may iba't ibang identidad ng kasarian, na nagbigay-daan sa mga alalahanin hinggil sa bias na maaaring dulot ng mga algorithm.
Matapos ang insidente, kinilala ng Automattic, ang may-ari ng Tumblr, na mayroong pagkakamali sa kanilang sistema. Inamin nilang dapat ay mas maingat ang kanilang proseso sa pag-filter ng mga account, na nagdulot ng masamang karanasan sa mga gumagamit. Nagsimula silang makipag-ugnayan sa mga naapektuhang account upang ipaalam sa kanila ang kanilang desisyon na ibalik ang ilan sa mga ito.
Mga Detalye ng Insidente
Ang insidente ay naganap sa isang partikular na petsa noong Setyembre 2023, at ito ay naging sanhi ng matinding pag-aalala mula sa mga gumagamit ng platform. Ang mga akusasyon ng bias laban sa algorithm ay pinalakas, lalo na sa mga account ng mga trans na indibidwal, na nagbigay-diin sa pahayag ng mga kritiko hinggil sa kakayahan at patas na paggamit ng teknolohiya ng mga social media.
Nagdesisyon ang kumpanya na muling suriin ang kanilang mga protocol sa pag-monitor at pagpapasya kung aling mga account ang dapat limitahan, na naging sanhi ng pagbuo ng isang mas komprehensibong plano upang mapabuti ang kanilang serbisyo sa hinaharap.
Background & Context
Dahil sa mga seryosong pagbagsak ng mga account, napilitang pagtuunan ng pansin ng Automattic ang kanilang mga kawani na nakatutok sa mga isyu ng safety at moderation. Ayon sa mga report, nagbawas sila ng mga empleyado sa mga departamento na hindi kritikal sa mga operasyong ito. Ito ay lumabas sa mga naunang datos na nagsasabing hindi nila natamo ang kanilang mga growth targets para sa taong ito.
Ang mga executives ng kumpanya, kabilang si Molnár, ay nagbigay ng mga pahayag na nagpapaliwanag na ang layunin ng reorganisasyon ng mga tauhan ay upang matugunan ang mga suliranin sa system, at hindi lamang para sa mga kasalukuyang problema kundi para rin sa pangmatagalang layunin ng platform.
Impact & Consequences
Walang duda na ang insidenteng ito ay nagkaroon ng malawakang epekto hindi lamang para sa Tumblr kundi pati na rin sa mga gumagamit nito. Maraming tao ang nagtanong kung paano maaaring comas ang mga algorithm sa pag-filter ng content, at kung ito ba ay talagang nakabatay sa kanilang mga pananaw at bias.
Kasama ng pagbabalik ng ilang account, nagbigay ang Automattic ng mga assurances na mas magiging transparent sila sa kanilang mga proseso sa hinaharap at mas tutok ang kanilang mga pagsisikap sa pagpapanatili ng isang ligtas na kapaligiran para sa lahat ng mga gumagamit.
Regional Significance
Ang isyu ng mga account na naharang ay hindi lamang lokal na concern kundi ito rin ay may pandaigdigang epekto. Maraming mga platform sa social media ang nahahamon sa pagtuklas ng balanse sa pagitan ng pag-monitor at pag-aalaga ng mga gumagamit. Ayon sa ilang kasanayan sa Australia at Canada, ang mga pagbabago sa social media regulations ay patuloy na umuusad na naglalayong ituwid ang mga ganitong insidente.
Ang mga pagkakataon para sa mga platform upang muling pag-isipan ang mga patakaran at ang mga epekto ng '>algorithmic biases' ay nagiging mas mataas, lalo na’t patuloy ang diskurso hinggil sa mga karapatang sibil at pagkakapantay-pantay.
Dahil dito, nanawagan ang ilang organisasyon para sa mas masusing pagsusuri at regulasyon sa sector ng social media upang mapanatili ang responsibilidad at kasanayan tungo sa inclusivity.