בשנים האחרונות חלה מגמת עלייה בהתפתחות התקשורת הדיגיטלית, בין היתר בעקבות פלטפורמות שונות של מדיות חברתיות שהפכו למוקד מרכזי בעיצוב דעת הקהל והנרטיבים חברתיים.[1]  פלטפורמות אלו שינו את פני החברה, על ידי התשתית הטכנולוגית שלהן המקלה על יצירת קשרים שמעצבים את הדינמיקה החברתית. לפלטפורמות הללו יש את היכולת להעשיר את השיח הציבורי ולספק במה לביטוי עצמי של כל משתמש, אך בד בבד גם  לקדם התנהגויות אנטי-חברתיות בעלות השלכות חמורות. שכן, הן עשויות לשמש כזרזים המחזקים ומעניקים לגיטימציה לשיח אלים, חסר גבולות, לצורות שונות של פוגענות ואלימות סימבולית. מחקרים מראים כי לעיצוב הפלטפורמה יש קשר ישיר ביצירת שיח רעיל וקידום אלימות. כפי שהוצג בדו"ח של האו"ם: "הפצה של שנאה מקוונת הינה מהירה יותר, אלימה יותר ויכולה לעורר פגיעה חמורה" Munn, 2020)). הרשתות החברתיות מאפשרות ומקדמות באופן מכוון תוכן אלים ופרובוקטיבי.[2]

מהו שיח רעיל (toxic) וכיצד הוא קשור בעיצוב של הפלטפורמות?

שיח רעיל מתייחס לשפה הכוללת תוכן מזיק או פוגעני בין משתמשים במיוחד בפורומים ודיונים מקוונים, כאשר פעמים רבות הוא נתפס כמקור לאלימות סמלית. ישנם סוגים שונים של שיח רעיל כמו שפה מזיקה העלולה ליצור סביבה עוינת, שפה פוגענית שעלולה להוביל לנזק משמעותי, שפה המכוונת למאפייני הזהות של האדם, כמו גזע, מגדר או מיניות, עלבון והערות גנאי, ניבולי פה ושימוש בשפה מגונה, איומים והפחדות.[3] אחד מעיצובי הפלטפורמות הבולטים אשר גרמו לעלייה בשיח הרעיל ברשת הוא האנונימיות, האפשרות להגיב באופן אנונימי. תגובות אנונימיות יוצרות אצל המשתמש תחושה של חוסר עכבות וכך גם נותנות לו את המקום לפריקת אגרסיות, העברת ביקורת והערות שליליות או ציניות מבלי לשלם על כך מחיר חברתי. הכתיבה האנונימית יוצרת אווירה רעילה במרחב המקוון.[4] דוגמה בולטת ניתן למצוא באתר יוטיוב (YouTube) אשר מאפשר למשתמשים לקחת חלק בדיונים בפורומים פתוחים באופן אנונימי. דוגמה נוספת היא ברשת החברתית X, אשר הצליחו להגדיל את מידת הנזק בתגובה האנונימית על ידי הגבלת מספר התווים. הגבלה זו בתורה עשויה לעודד תגובות קצרות אשר מובילות לאי הבנות ולפרשנויות מוטעות.[5] לפיכך, בהיעדר מדיניות אכיפה לניהול תוכן ושיח מזיק, המשתמשים עשויים להביע את רגשותיהם ללא חשש מסנקציות והשלכות ובכך לנרמל את השיח הרעיל בקהילה.[6]

רכיב מרכזי נוסף שתורם לעליית השיח הרעיל הם האלגוריתמים, שמטרתם לתעדף תוכן שיוצר רמות גבוהות של אינטראקציה ותכנים שמעוררים תגובות רגשיות חזקות. אלגוריתם מסוג זה מייצר לולאת משוב שבה משתמשים נחשפים בתדירות גבוהה לתוכן רגשי שמעודד רגשות קיצוניים, ובכך מטפח שיח רעיל במרחב המקוון.[7] כמו כן האלגוריתם של המדיות החברתיות נוטה להציג למשתמשים תוכן שמתיישר עם נקודת מבטם, כאשר, היעדר חשיפה לנקודות מבט שונות עשוי להוביל לחיזוק אמונותיהם של המשתמשים ולהפחתת הסובלנות כלפי דעות נגדיות, דבר שבתורו עלול להוביל לפילוג ולאנטגוניזם מוגבר.[8] בנוסף, מחקר על האלגוריתם של יו טיוב מראה כי הפלטפורמה כל הזמן תזין את הצופה בתכנים יותר ויותר קיצוניים על מנת לשמור את רמת העניין של הצופה אך בכך היא מייצרת רדיקליזציה. הדבר נעשה בהדרגה ועל כן צרכן המדיה ראשית לא מודע לכך שנית הוא מתרגל לשפה ולעמדות לאט לאט וכך הוא עובר תהליך מדורג של הקצנה.  

מדוע טלגרם מעודדת שיח רעיל באופן מיוחד? 

טלגרם הינה פלטפורמה בינלאומית, המאפשר שימוש חינמי לצורך העברת מסרים מהירים ומיידים  שנהנית מפופולריות הולכת וגדלה.  היתרונות המרכזיים שהיא מציעה למשתמשים הוא רמות האבטחה גבוהות והצפנה שמאפשרת פרטיות והעדר פיקוח. ההצפנה מקצה לקצה למבטיחה פרטיות וסודיות עבור המשתמשים. כמו כן היא אינה אוספת מידע מיותר על משתמשיה ומתחייבת לא לשתף את המידע עם גופים חיצונים. רמת אבטחה נוספת שטלגרם מציעה היא שימוש בתכונת הצ'אט הסודי המונעת העברת הודעות. לצ'אטים סודיים יש  טיימר להרס עצמי, שכאשר מופעל, מוחק את ההודעה לאחר שהנמען קרא אותה. לצ'אטים אישיים, זמין טיימר למחיקה אוטומטית, שמוחק את ההודעות לאחר פרק זמן מוגדר. ניתן לערוך הודעות שנשלחו בכל עת או אפילו למחוק לחלוטין מהיסטוריית הצ'אט. בנוסף, מבחינת עיצוב הפלטפורמה, היא צורכת פחות מ-100 מגה-בייט של אחסון במכשיר שכן המדיה וההודעות מאוחסנות בענן. בנוסף היא מאפשרת ערוצים וקבוצות של שיחה אחת לרבים בכך היא מאפשרת יצירת קבוצות גדלות של עד 200,000 חברים ולכן היא משמשת גם עסקים, עיתונאים שרוצים לתקשר עם קהלים גדולים באופן יומיומי. היא מאפשרת לכלול פורמטים שונים של מדיה וקבצים עד לגודל של 2 GB, מה שהופך אותה לרשת האטרקטיבית ביותר לשיתוף קבצים גדולים באמצעות הודעות מיידיות. ולבסוף, היא אינה מציעה כללי קהילה או מנגנוני פיקוח ודיווח מובנים ומסתפקת בתנאי שימוש מצומצמים בלבד.[9]

בשל היתרונות הללו הפכה טלגרם בשנים האחרונות לזירה מקוונת מרכזית להפצת תוכן בלתי חוקי ומסוכן, הן בשל רמות גבוהות של פרטיות והן בשל מדיניות התוכן הייחודית שלה לצד מספר איסורים הקיימים בפלטפורמה, כמו שימוש בהונאה או הפצת ספאם, איסור על קידום אלימות בערוצים פומביים ואיסור על פרסום תוכן מיני בלתי חוקי בערוצים אלו. בניגוד לרשתות חברתיות אחרות, לטלגרם אין כללי קהילה או מנגנוני פיקוח ודיווח מובנים. כאשר גם ההגבלות הנקודתיות כמו הפצת אלימות ותוכן פורנוגרפי לא חוקי במרחבים הציבוריים, לרוב אינן נאכפות. כתוצאה מכך בטלגרם מופץ תוכן עברייני הכולל סחר בסמים, פדופיליה, עידוד טרור, הסתה, הפרת זכויות יוצרים, הונאה, וחדשות שקריות ומטעות (דיסאינופרמציה).[10]

בעוד יש הטוענים כי איכויות אלה משמשות גופי אופזיציה במדינות דיקטטוריות ומאפשרות להן לפעול, נראה כי טלגרם הפכה במקביל גם לרשת המובילה לצורכי ארגון ושידור חי של אירועי טרור, פשיעה חמורה, ניצול מיני ואלימות. לאור הפוטנציאל הקיים עבור המשתמשים בה, לחשיפה לתכנים גרפיים אלימים מדינות האיחוד האירופאי ובריטניה מגבילות את ההרשמה לפלטפורמה מגיל 16 ומעלה. בישראל איגוד האינטרנט הישראלי פרסם אזהרות והנחיות למשתמשי טלגרם, המדגישות את הסכנות שבחשיפה לתכנים בלתי הולמים ואת הצורך בדיווח על ערוצים או קבוצות המפיצים תוכן פוגעני או מתחזה. אך אלו צעדים מוגבלים שקשה לאכוף וקשה לדמיין שיצליחו למזער את הנזקים החברתיים של השימוש ברשת טלגרם.

לסיכום, יש להבין את הרשתות החברתיות לא כפלטפורמות ניטרליות להעברת מסרים אלא כסביבות מעוצבות ומתוכננות שמקדמות ערכים ומעצבות את ההתנהגות האנושית.[11] רשתות אלו פועלות עלינו ומפעילות את עולמנו הרגשי, ההתנהגותי, החברתי. כשם שעיצוב הסביבה הפיזית על ידי תכנון עירוני ואדריכלות משפיעים על ההתנהגות האנושית ועל האינטראקציה החברתית כך גם הפלטפורמות הדיגיטליות משפיעות על התנהגותו במרחב הדיגיטלי ועלינו להיות מודעים וביקורתיים לאופן שזה מעצב אותנו כחברה.

מקורות:

[1] Etta, G. (2024). A comparative study of algorithm-mediated behavior and toxic discourse on social media platforms

[2] Recuero, R. (2024). The Platformization of violence: toward a concept of discursive toxicity on social media. Social Media+ Society, 10(1), 20563051231224264]

[3] O'Connor, P. E. (1995). Discourse of violence. Discourse & Society, 6(3), 309-318.

[4] Rösner, L., & Krämer, N. C. (2016). Verbal venting in the social web: Effects of anonymity and group norms on aggressive language use in online comments. Social Media+ Society, 2(3), 2056305116664220.

[5] Singgalen, Y. A. (2024). Exploring digital discourse: social network analysis approach to toxicity and interaction patterns. Jurnal Mantik, 8(1), 337-346.

[6] O'Connor, P. E. (1995). Discourse of violence. Discourse & Society, 6(3), 309-318

[7] Taherdoost, H. (2023). Enhancing social media platforms with machine learning algorithms and neural networks. Algorithms, 16(6), 271.

[8] Munn, L. (2020). Angry by design: toxic communication and technical architectures.  Humanities and Social Sciences Communications, 7(1), 1-11.

[9] איגוד האינטרנט הישראלי, מדיניות התוכן של טלגרם, 2024. היקף השימוש בה ואתגרי הרגולציה והאכיפה המדינתיים מולה.

[10] Thomas, L., & Bhat, S. (2022). A Comprehensive Overview of Telegram Services-A Case Study. International Journal of Case Studies in Business, IT and Education (IJCSBE), 6(1), 288-301

[11] Munn, L. (2020). Angry by design