چرا نهادهای چینی به سامانه هوش مصنوعی سانسور روی آورده‌اند؟

وقتی شرکت‌ها، موسسات دولتی و افراد مشهور چینی محتوایی را برای عموم به صورت آنلاین منتشر می‌کنند، ممکن است به روش‌های مختلف با مشکل مواجه شوند.

انتشار نقشه‌ای که‌ نشان‌دهنده ادعاهای نادرست پکن درباره دریای چین جنوبی است، درج ناخواسته تصویر یک مقام معزول، یا هر اشاره‌ای به یک تابو سیاسی پنهان می‌تواند مانند موارد مشابه سال‌های اخیر، به پیامدهای ناخواسته‌ای منجر شود.

سازمان نظارت بر اینترنت پکن می‌تواند بر این گونه تخلفات، جریمه‌هایی سنگینی اعمال کند. مثلا بخشی از یک کسب‌وکار بدون هشدار به حالت تعلیق درآید یا تنها با ارسال یک پیغام آنلاین، فعالیت هنری خوانندگان، ستارگان سینما و شخصیت های تلویزیونی پایان یابد.

کاربران خشمگین اینترنت هم ممکن است با بایکوت کردن متخلفان وضعیت را پیچیده‌تر کنند. ملی‌گراها و حتی رقبای تجاری که به دنبال فرصتی برای نابود کردن رقیب هستند، جامعه آنلاین را زیر نظر دارند و رصد می‌کنند.

این وضعیت به ظهور مدیریت محتوا با ویژگی‌های چینی منجر شده است و شرکت‌های داده‌پرداز متعددی وجود دارند که مطالب را قبل از رسیدن به دست عموم غربالگری می‌کنند. مسلماً پیپلز دیلی به عنوان سخنگوی حزب کمونیست حاکم، بهترین منبع برای شناسایی خطوط قرمز در حال تغییر و غالبا مبهم پکن است. همچنین این روزنامه آماده ارائه تخصص خود به شرکت‌هایی است که می‌خواهند از خطرات سیاسی بالقوه حذر کنند.

محصول مدیریت محتوای این روزنامه، با نام “رنمین شنجیائو” در جولای سال گذشته، درست چند ماه قبل از برگزاری بیستمین کنگره حزب، عرضه شد. به گفته ناظران، بازار رو به رشد برون‌سپاری سانسور محتوا و تمرکز شدید بر حساسیت‌های سیاسی درچین با تلاش‌های این حزب در سال‌های اخیر برای برتری و پیروی از اصول ایدئولوژیک توام بوده است.

در رسانه‌های اجتماعی چین هم مانند همه کشورها، خشونت، هرزه‌نگاری و سخنان نفرت‌انگیز ناپذیرفتنی است، اما منابع کنترل محتوا در غرب متنوع‌تر است. در چین این قدرت به طور متمرکز در دست حزب حاکم است.

نهادهای دولتی چین، شرکت‌های دولتی و شرکت‌های خصوصی، روز به روز به ‌غربالگری مطالب اتکای بیشتری پیدا می‌کنند و در تلاشند تا از عبور از خطوط قرمز سیاسی اجتناب کنند. خطوطی نه چندان صریح و مشخص که تا زمانی که از آنها عبور نشده، ممنوع بودن آنها محرز نمی‌شود.

به گفته ناظران، با وجود رویکردهای متفاوت در مدیریت محتوا، همه کشورها در یک موضوع مشترک هستند و آن، افزایش حجم و پیچیدگی فزاینده محتواست. به این معنی که هوش مصنوعی به ناچار جایگزین نظارت انسانی خواهد شد.

بر اساس برخی برآوردها، حجم داده‌های تولید شده دررسانه‌های اجتماعی جهان تا سال 2025 می‌تواند به 463 میلیارد گیگابایت در روز برسد.

در حال حاضر، پلتفرم مدیریت رسانه‌های اجتماعی Hootsuite تعداد کاربران فعال روزانه توییتر را درحدود 238 میلیون نفر برآورد کرده که روزانه دست‌کم 500 میلیون توییت منتشر می‌کنند.

در سال 2013، روزنامه دولتی بیجینگ نیوز گزارش داد که حدود دو میلیون نفر در چین برای نظارت و تجزیه و تحلیل محتوای آنلاین استخدام شده‌اند. در ایالات متحده در سال 2020، حدود 15000 نفر در فیسبوک به عنوان ناظر محتوا فعالیت داشتند. طبق گزارش‌ها، شرکت فناوری چینی ByteDance بیش از 20000 نفر را برای این شغل استخدام کرده است.

در حال حاضر در چین و سایر کشورها از هوش مصنوعی برای نظارت بر محتوا استفاده می‌شود. با این حال سانسورگر هوش مصنوعی رنمین شنجیائو – به معنای تصحیح(توسط) مردم – به مشتریان بالقوه اطمینان می‌دهد که از سانسورچی‌های انسانی نیز استفاده می‌کند.

تبلیغات این محصول که در ماه ژوئن در روزنامه پیپلز دیلی منتشر شد، نشان می‌دهد که خدمات رنمین شنجیائو شامل غربالگری مطالب نوشته شده، عکس‌ها، ویدئوها و پست‌ها در پلتفرم‌های رسانه‌های اجتماعی از جمله وی چت و ویبو است.

به گفته روزنامه چاینا مورنینگ پست، هزینه سالانه استفاده از رنمین شنجیائو برای مشتریان بالقوه، مبلغی بین 46000 یوان تا 99000 یوان معادل6400-13700 دلار آمریکا (بسته به مقدار محتوا) است. مشتریان مطالب را برای بررسی توسط هوش مصنوعی و سانسورچی‌ها در پلتفرم آپلود می کنند. محتواهایی که به‌عنوان پرخطر علامت‌گذاری می‌شوند شامل مطالبی مرتبط با ایدئولوژی، مذهب، مقامات دولتی معزول، منتقدان و نقشه‌ مناطق مرزی مورد مناقشه است. بر اساس اسناد فروش این محصول، انیمیشن رهبران دولتی، محتواهای مربوط به بستگان آنها و اشاره به افراد مشهور بدنام نیز به عنوان خطرات احتمالی در نظر گرفته می‌شود. یکی از نمایندگان فروش رنمین شنجیائو گفته است که مشتریان این محصول، مؤسسات و شرکت‌های دولتی و به تعداد کمتری شرکت‌های خصوصی هستند.

در چین بسیار معمول است که بساط شرکت‌ها و نهادهای تجاری در صورت عدول محتوای منتشر شده آنها از خطوط قرمز سیاسی ، برچیده شود. سال گذشته، برنامه محبوب‌ترین اینفلوئنسر تجارت الکترونیک چین، لی جیاکی، در سوم ژوئن به طور ناگهانی پایان یافت. وی گفت که تعلیق برنامه به دلیل “خطای فنی” بوده است، اما گمانه‌زنی‌هایی وجود دارد که مقامات پس از نمایش یک بستنی به شکل تانک – تصویری مرتبط با سرکوب میدان تیان‌آن‌من در چهارم ژوئن 1989، لی را مجبور کردند به برنامه پایان دهد.

یک کارآفرین فعال در صنعت چت هوش مصنوعی مستقر در پکن می‌گویدکه هر کسب و کاری که در چین در زمینه محتوا یا ارتباطات فعالیت می‌کند برای بقا نیازمند مدیریت محتوا است. این کارآفرین که خواست نامش فاش نشود، افزود: «تمام آگهی‌هایی که مشاهده می‌کنید، مورد بررسی قرار گرفته‌اند. در غیر این صورت به مرحله انتشار نمی‌رسیدند. این بازار همیشه وجود داشته و دیر زمانی است که از هوش مصنوعی در نرم‌افزارهای غربال محتوا استفاده می‌شود.

به گفته وی، پا گذاشتن روی خطوط قرمز سیاسی پکن، حتی ناخواسته، می‌تواند برای هر شرکتی بسیار پرهزینه باشد و بر پیچیدگی فضای کسب‌وکار دشوار و رقابتی موجود بیافزاید.

او همچنین گفته است که بیشتر نرم‌افزارهای غربال محتوا توسط شرکت‌های بزرگ فناوری چین ارائه می‌شوند که به طور منظم، درباره قوانین جدید یا موضوعات و رویدادهای حساس به‌روزرسانی‌ می‌شوند.

شرکت‌های فناوری علی‌بابا، مالک روزنامه ساوت چاینا مورنینگ پست و تنسنت، غربال محتوا را در واحد خدمات ابری خود ارائه می‌کنند. الگوریتم‌های هوش مصنوعی تنسنت کلاود می‌توانند برروی پلتفرم‌ها، از جمله سایت‌های پخش زنده، برای شناسایی ویدیوها، عکس‌ها، صدا و متون مورد استفاده قرار گیرند. خدمات مشابه هوش مصنوعی علی‌بابا، شامل بررسی عکس‌ها و متون است و هرزنامه‌ها و محتواهای سیاسی و حساس را نیز شناسایی می‌کند.

یک فرد مطلع در خصوص الگوریتم رنمین شنجیائو گفته است که احتمالا این محصول به اندازه محصولات مشابه شرکت‌های رقیب قوی نیست اما به نظر می‌رسد در فیلتر کردن محتوای سیاسی عملکرد بهتری داشته باشد، زیرا کارکنان رنمین شنجیائو بخشی از گروه پیپلز دیلی هستند و احتمالا از تابوهای جدیدی که برای عموم شناخته شده نیست، مطلعند.

تحلیلگران هشدار می‌دهند که افزایش تقاضا برای غربالگری محتواهای سیاسی نشانه نگران‌کننده‌ای از سخت‌تر شدن محیط اطلاعاتی چین است. آنها می‌گویند که مرزهای خطوط قرمز نیز در حال تغییر است و ابهامات بیشتری در مورد تابوهای جدید وجود دارد.

نیل توماس، محقق در زمینه سیاست چین در مرکز تحلیل چین از موسسه سیاست جامعه آسیا، در این خصوص گفته است این واقعیت که چنین خدماتی به طور علنی تبلیغ می‌شوند نشان‌دهنده آن است که نظارت بر سیاست‌ها و کنترل‌گری درون حزبی طی دوران ریاست‌جمهوری شی جین پینگ بسیار بیشتر شده است.”

از نظر توماس، هدف این تغییرات، حصول اطمینان از «همگرایی ایدئولوژیک بیشتر در داخل دولت حزبی» است. وی خاطرنشان کرد که غربالگری محتوا در چین بر حساسیت های سیاسی متمرکز شده، در حالی که شی “ارزش زیادی برای درست‌نگری سیاسی قائل است”.

به گفته توماس تقاضای روزافزون برای همگرایی ایدئولوژیک مطلق بر شرکت‌های خصوصی نیز تأثیر می‌گذارد، زیرا لزوم بررسی دقیق محتوا و پرهیز از خطر وقوع اشتباه، به خارج از سازمان‌های دولتی گسترده می‌شود.

وی با اشاره به دکترین سیاسی شی که در سال 2018 در قانون اساسی این کشور درج شد، ادامه داد انتظار می‌رود همه در بیانات عمومی خود به خط حزب پایبند باشند. فلذا خطر سیاسی برای شرکت‌های خصوصی که حتی به طور تصادفی با تفکر شی جین پینگ همسو نیستند، به طور پیوسته افزایش می‌یابد. شرکت‌هایی که می‌خواهند سود خود را به حداکثر برسانند، به‌طور منطقی به دنبال دریافت خدمات غربالگری محتوا هستند که خطر فراتر رفتن از مرزهای سیاسی یا عدم هماهنگی با تفکرات شی جین پینگ را به حداقل می‌رساند.

«من فکر می‌کنم این موضوع نشان می‌دهد که چین مرکز جهانی سانسور است و در خط مقدم نوآوری در ارائه روش‌های جدید برای تقویت فرآیند سانسور قرار دارد.»

به گفته توماس، پیامدهای اظهار نظر سیاسی در رسانه‌های اجتماعی در غرب بیشتر از سوی شهروندانی با ایدئولوژی‌های مختلف بوده و به واکنش‌های پوپولیستی منجر می‌شود نه تحریم‌های رسمی یا قانونی. ریسک‌های سیاسی از جمله مسائلی است که شرکت‌ها در همه جا با آن‌ مواجه هستند. تفاوت در این است که در چین، سطح، شدت و پیامدهای حقوقی دور شدن از درست‌نگری سیاسی، بسیار بیشتر از غرب است.»

رانا میتر، استاد تاریخ و سیاست چین مدرن در دانشگاه آکسفورد، در این خصوص گفته است که بسیاری از کشورها فرآیند غربالگری رسانه‌های اجتماعی را تا حد امکان خودکار کرده «و مسئولیت را به دست کاربر می‌سپارند، نه دولت».

تفاوت چین و دنیای آزاد در این است که در چین، مشوق و انگیزه غربالگری از بالا به پایین خود حزب نشات می‌گیرد. در صورتی‌که در دنیای آزاد، شرکت هایی مانند متا، آلفابت و غیره چنین انگیزه‌ای را ایجاد می‌کنند.»

میتر افزود یکی از اهداف اصلی رژیم غربالگری محتوا در پکن، حصول اطمینان از تداوم تسلط ایدئولوژیکی حزب کمونیست چین است‌ که اکنون در چین بسیار قدرتمند است.

وی خاطرنشان کرد که در چین به دلیل وجود نگرانی‌هایی درباره کنترل ایده‌های ملی‌گرایانه نیز تقاضا برای غربالگری محتوا وجود دارد زیرا برخی از کاربران اینترنتی که به نظر می‌آید ملی‌گرایی بیشتری نسبت به دولت داشته باشند، ممکن است نسبت به رفتارها و روابط چین با کشورهای دیگر مانند ایالات متحده “کمی حساس‌تر بوده و وسواس بیشتری داشته باشند. ”

میتر در ادامه گفت که فضای اطلاعاتی چین در دهه گذشته تنگ‌تر شده است، و « تقاضای بسیار قوی از بالا به پایین از طرف حزب کمونیست در دولت وجود دارد که زبان، به‌ویژه در زمینه سیاست و همچنین [در تعریف گسترده‌تر] در زمینه مسائل فرهنگی باید به شدت سانسور شود».

میتر پیش‌بینی‌کرده است که از خدمات غربالگری محتوای برون‌سپاری شده حتی توسط اشخاص حقیقی در صورت وجود ابهام، استفاده گسترده‌تری خواهد ‌شد. او گفت: «آنچه که از نظر دولت حزبی حساس تلقی می‌شود، حساس است».

در حال حاضر، تعریف آنچه در چین «حساسیت امنیتی»محسوب می‌شود، در حال گسترش است. اما حدود و صغور آن به وضوح ترسیم نمی‌شوند. مشکل اینجا است که این موضوع می‌تواند بر فضای کارآفرینی و نوآوری هم تاثیرنامطلوبی داشته باشد.

به گفته لینت اونگ، استاد علوم سیاسی در دانشگاه تورنت، با ظهور ملی‌گرایی آنلاین، فضای محدود موجود تا “اندازه خاصی با مشارکت توده مردم” محدودتر شده است. وی گفت این موضوع زمانی که مردم به صورت آنلاین به جوبائو (اقدام به اتهام و گزارش دادن آنچه از نظر آنها نادرست است اشتباه می‌دانند به مقامات دولتی)می‌پردازند، کاملا مشهود است.

اونگ، که در مورد غربالگری محتوا در چین تحقیق کرده، خاطرنشان کرد که شرکت‌های وابسته تجاری پیپلز دیلی و سایر رسانه‌های دولتی، مانند خبرگزاری دولتی شین‌خوا، به مشتریان چینی از سطوح مختلف کمیته‌های حزبی گرفته تا دانشگاه‌ها، سازمان‌های دولتی و همچنین پلیس و دادگاه خدمات غربالگری ارائه می‌کردند.

به گفته توماس، از موسسه جامعه آسیا، سانسورچی‌های کنترل کننده محتوای رنمین شنجیائو “لایه‌ای از امنیت سیاسی به شرکت‌ها اضافه می‌کنند که سایر ارائه‌دهندگان خدمات غربالگری محتوا، قادر به ارائه آن نیستند”.

او افزود از آنجا که زبان انسان هویتی پیچیده، طنزآمیز و خرابکارانه دارد، تشخیص محتوا دشوار است. بنابراین گسترش فناوری‌های غربال محتوا برای کمک به اجرای سیاست‌های احزاب، هرگز نمی‌تواند نیاز به سانسورچی‌های انسانی را برطرف کند.»

ظهور فناوری‌های جدید یکی از دلایل سرمایه‌گذاری پکن بر فناوری‌های غربال محتوای رسمی برای کاهش بار سانسور است که در حال حاضر، به حجم عظیمی از منابع انسانی نیاز دارد. جماعتی که می‌توانستند در جاهای دیگر و بهتری به کار گرفته شوند.»

مدیر اجرایی یک شرکت پیشرو مشاوره فناوری مستقر در پکن گفته است که تشخیص “اشتباهات واقعی” مانند نقل قول نادقیق از دکترین رهبر، یا یادداشتی ناخواسته از یک مقام تحت تحقیق، همیشه برای هوش مصنوعی آسان است.

به گفته وی، بررسی و ارزیابی ابراز مخالفت به شیوه‌ای ظریف و ملایم برای فناوری دشوارتر است و هوش مصنوعی ممکن است نتواند پیش‌بینی کند چه نوع محتواهایی حساسیت برانگیز است.

نمونه اخیر آن، مجازات اعمال شده بر گروه سرگرمی Shanghai Xiaoguo Culture Media است. پس از اینکه لی هائوشی استندآپ کمدین این گروه در ماه می با شعار محبوب ارتش چین شوخی کرد، مجازات شد. این گروه از اجرای برنامه در پکن هم محروم شد و 13 میلیون یوان (1.9 میلیون دلار آمریکا) هم جریمه شد. شعار ارتش چین قبلاً به عنوان یک موضوع حساس شناخته شده بود که توسط بسیاری از نرم‌افزارهای سانسورگر، فیلتر می‌شد.

وی اضافه کرد تنها کسانی که به اخبار حساس هستند، می‌توانند تشخیص دهند که آیا محتوایی در شرایط مشابه به مورد مذکور، از “خط قرمزها” عبور می‌کند یا خیر.

منبع: scmp

پایگاه خبری تحلیلی چین نگارچین نگار

چرا نهادهای چینی به سامانه هوش مصنوعی سانسور روی آورده‌اند؟

جنگنده پنهانکار برای نیروی دریایی چین

تقسیمات کشوری در چین: ابزاری برای پیشرفت اقتصادی و بهره‌وری مدیریتی

سرمایه گذاری شرکت علی‌بابا در صنعت بازی‌های متاورس

شرکت اروپایی‌ها در جشنواره فروش آنلاین چین

چین چگونه با ربات‌های مجهز به هوش مصنوعی، شبکه ریلی پرسرعت خود را توسعه می‌دهد

خبرنامه انرژی‌های نو و تجدیدپذیر چیـن – فروردین ماه ۱۴۰۳

چین در سکوت به دنبال جذب نخبگان خارجی حوزه تراشه

برآورد ماهواره‌های چینی از میزان تخریب گسترده غزه

خبـرنامـه فنـاوری چیـن – فروردین ماه ۱۴۰۳

ربات هوش مصنوعی چینی‌ها برای جراحی‌های کم‌تهاجمی مغز

چرا غرب به توانمندی چین در ایجاد ظرفیت زنجیره تامین باتری خودرو نیاز دارد؟

طرح شنجن، مرکز نوآوری چین برای جوان سازی اقتصادی

مشارکت ۵۵درصدی چین در بخش انرژی تجدیدپذیر دنیا در ۲۰۲۳ و ۲۰۲۴

چین بستری برای همکاری بین‌المللی در زمینه مبانی علمی برای دانشمندان سراسر جهان ایجاد می‌کند