השיח באינטרנט בכלל ובמדיה החברתית בפרט, הוא רעיל. הוא מלא בפילוג, בהסתה, בגזענות, יש בו עידוד למעשי אלימות ולטרור, מיזוגיניה, הומופוביה ועוד. גוגל, פייסבוק, טוויטר וחברות אחרות מפתחות אלגוריתמים שמנסים לאתר ביטויים שנכנסים לקטגוריות השנאה השונות ואז לחסום אותם בזמן אמת, אבל הגולשים מוצאים דרכים יצירתיות לעקוף אותם והיצירתיות הזו מייצרת השלכות בלתי צפויות. בכתבה שפורסמה באחרונה ב"וושינגטון פוסט" נטען שבאינטרנט מתפתחת שפה חדשה שכל מטרתה לאפשר לאנשים להתבטא כך שהאלגוריתמים לא יחסמו אותם. לשפה הזו קוראים "אלגו-ספיק".
קישורים:
הפרויקט של GIFCT
https://slate.com/technology/2020/08/gifct-content-moderation-free-speech-online.htmlבינה מלאכותית לא תוכל לנקות את האינטרנט
https://journals.sagepub.com/doi/full/10.1177/2053951720920686מערכת הסינון של גוגל עדיין לא מבינה שנאה
https://qz.com/918640/alphabets-hate-fighting-ai-doesnt-understand-hate-yet/"אלגו-ספיק" משנה את האופן שבו אנשים מתבטאים
https://www.washingtonpost.com/technology/2022/04/08/algospeak-tiktok-le-dollar-bean/צנזורה אלגוריתמית: כוח והתנגדות מאת ג'ניפר קוב
https://link.springer.com/article/10.1007/s13347-020-00429-0הדוח שהוגש לאיחוד האירופי
https://www.europarl.europa.eu/RegData/etudes/STUD/2020/657101/IPOL_STU(2020)657101_EN.pdfhttps://www.ads.ranlevi.com/2022/05/08/shakim-tech-algospeak/