الگوریتم‌ها در سکوهایی مثل ایکس (توییتر) و فیس‌بوک، به‌جای ترویج گفت‌وگو، احساسات تند را تقویت می‌کنند؛ زیرا محتوای هیجانی، نرخ تعامل بیشتری دارد و این برای مدل کسب‌وکارشان سودآور است.
آینده دموکراسی در عصر جدید
خشم آنلاین تنها به بیان نظر تند ختم نمی‌شود، بلکه با دامن زدن به تعصب‌های آنی، فضایی ایجاد می‌کند که در آن افراد با یک توییت یا کلیپ، «محکوم» یا «قهرمان» می‌شوند. این وضعیت، مکانیسم‌های دموکراتیک را مختل می‌کند؛ چون فرصت گفت‌وگوی سازنده، شنیدن دیدگاه‌های متفاوت، یا اصلاح اشتباهات عمللا از بین می‌رود. فرهنگ طرد، لغو کردن (کنسل کالچر) و دوگانه‌سازی، بنیان‌های همزیستی سیاسی و اجتماعی را تهدید می‌کند.
نتیجه این روند، فرسایش اعتماد عمومی به نهادهای رسمی و افول مشارکت واقعی در فرآیندهای دموکراتیک است. کاربران دائمادر حالت دفاع یا حمله قرار می‌گیرند و رسانه‌های سنتی نیز با موج‌های آنلاین همسو می‌شوند تا از قافله جا نمانند. این چرخه مخرب، تصویری نگران‌کننده از آینده دموکراسی در عصر دیجیتال ارائه می‌دهد.
شوخی‌هایی که می‌سوزانند؛ نفرت‌پراکنی پنهان چگونه گسترش پیدا می‌کند؟
در حالی که برخی از محتواهای نفرت‌انگیز به‌سرعت توسط پلتفرم‌ها حذف می‌شوند، نسخه‌های پیچیده‌تر آن‌ها به‌راحتی از فیلترها عبور می‌کنند. بسیاری از پیام‌های تبعیض‌آمیز یا افراطی، در قالب میم‌های طنز، کلیپ‌های کوتاه یا جملات ظاهرابی‌خطر منتشر می‌شوند. این محتواها نه تنها از نظارت پنهان می‌مانند، بلکه به‌دلیل فرم سرگرم‌کننده‌شان، به‌سرعت میان کاربران پخش می‌شوند.
این نوع محتوای غیر مستقیم، نوعی آموزش ناخودآگاه به کاربران می‌دهد. وقتی بارها و بارها پیام‌هایی می‌بینیم که اقلیت‌ها، زنان، مهاجران یا گروه‌های خاص را با طنز تحقیر می‌کنند، کم‌کم نگرش‌مان نسبت به آن گروه‌ها تغییر می‌کند، حتی اگر خودمان هم متوجه نباشیم. این شیوه نفرت‌پراکنی به‌مراتب خطرناک‌تر است، چرا که کمتر به چالش کشیده می‌شود و بیشتر عادی جلوه می‌کند.
الگوریتم‌های هوش مصنوعی در شناسایی این پیام‌ها ناکارآمد هستند، چون زبان، تصویر و زمینه فرهنگی اغلب چندلایه‌اند و فقط انسان می‌تواند تفاوت بین طنز و توهین را تشخیص دهد. اما تا زمانی که سیاست‌گذاری‌های دقیق‌تری در پلتفرم‌ها وضع نشود، این محتواها به بازتولید تبعیض‌ها و شکاف‌های اجتماعی ادامه خواهند داد.
وقتی خشم و نفرت یکدیگر را تغذیه می‌کنند
پدیده خشم آشکار و نفرت پنهان در شبکه‌های اجتماعی، برخلاف ظاهر متفاوت‌شان، در عمل یکدیگر را تقویت می‌کنند. خشم جمعی، فضا را برای شوخی‌های گزنده و نیش‌دار آماده می‌کند، و این شوخی‌ها نیز به تدریج به نفرتی سیستماتیک مشروعیت می‌بخشند. یک میم طنز که اقلیتی را تحقیر می‌کند، ممکن است از دل موجی از خشم نسبت به یک رویداد بیرون بیاید و دوباره همین میم‌ها، آتش خشم را شعله‌ورتر کنند.
شبکه‌های اجتماعی، به‌خصوص در جوامع دوقطبی، بستری ایده‌آل برای چرخش این دوگانه خشم/نفرت شده‌اند. کاربری که خشمگین است، بیشتر به محتوای افراطی جذب می‌شود و کاربری که با محتوای نفرت‌پراکنانه درگیر است، آماده بروز خشم آنی می‌شود. این حلقه معیوب، انسجام اجتماعی را از درون می‌خورد.
در چنین فضایی، افراد یا ساکت می‌شوند یا تندرو. صداهای میانه، آرام یا تحلیل‌گر، کمتر شنیده می‌شوند چون نه خشم‌برانگیزند، نه شوکه‌کننده. این یعنی از دست رفتن ظرفیت تعاملی جامعه و ایجاد اکوسیستمی که با هر بحران اجتماعی، سریع‌تر و خشن‌تر منفجر می‌شود.
راه‌های برون‌رفت؛ بازسازی فضاهای گفت‌وگو و تشخیص محتوا
پیشگیری از گسترش خشم و نفرت در فضای آنلاین، به چیزی بیشتر از حذف محتوا نیاز دارد. لازم است پلتفرم‌ها، ابزارهای دقیق‌تری برای شناسایی محتوای پنهان توسعه دهند و الگوریتم‌هایی طراحی کنند که صرفا به تعامل توجه نکنند، بلکه کیفیت تعامل را نیز در نظر بگیرند. انتشار محتواهای متعادل و تحلیلی نیز باید توسط پلتفرم‌ها تشویق شود.
در سطح فردی، آموزش سواد رسانه‌ای به کاربران اهمیت بالایی دارد. کاربران باید بیاموزند چطور پیام‌های پنهان را شناسایی کنند، چطور در برابر خشم جمعی مقاومت کنند و چگونه در فضای آنلاین، مشارکتی سالم و مسئولانه داشته باشند. فضای مجازی تنها زمانی به ابزاری برای دموکراسی تبدیل می‌شود که کاربران، نقش خود را در سلامت آن بپذیرند.
در نهایت، رسانه‌ها، دولت‌ها و جامعه مدنی باید در کنار هم کار کنند تا اکوسیستم دیجیتال را بازسازی کنند؛ فضایی که در آن خشم به درک، و طنز به تفکر منجر شود، نه نفرت.
پیام شما به ما