هوش مصنوعی با تمام مزایایی که تا کنون برای بشر داشته، اما قدرت زیاد آن باعث ایجاد نگرانی در بین سران کشورها شده است. این نگرانی به پیشرفت سریع و غیر قابل کنترل هوش مصنوعی بازمی‌گردد که می‌تواند آینده بشریت را به خطر بیندازد. از زمانی که فناوری هوش مصنوعی به صورت جدی‌تر در بین مردم رواج یافته است، دولت‌ها به دنبال کاهش خطرات و سوء‌استفاده احتمالی از این فناوری هستند. اخیرا گروه G7 یا همان هفت کشور صنعتی، با تدوین یک دستورالعمل برای شرکت‌هایی که سیستم‌های هوش مصنوعی را ارائه می‌دهند، موافقت کرده‌اند.
خبرگزاری رویترز در گزارش خود از مشاهده یک سند سخن گفته است که نشان می‌دهد این دستورالعمل نقطه عطفی در چگونگی اداره هوش مصنوعی توسط کشورهای بزرگ محسوب می‌شود و نگرانی‌های مربوط به نقض حریم خصوصی و ایجاد خطرات امنیتی را کاهش می‌دهد.
گوگل نیز اخیراً خط‌‌‌مشی خود برای مدیریت بهتر برنامه‌های اندرویدی را به‌روزرسانی کرده است. این خط‌مشی جدید برنامه‌های هوش مصنوعی را مجبور می‌کند که از دستورالعمل‌های سختگیرانه‌ای پیروی کنند. این خط‌مشی از کاربران در برابر محتوای توهین‌آمیز مدل‌های هوش مصنوعی‌ مولد محافظت خواهد کرد. گوگل اعلان‌های تمام‌صفحه برنامه‌ها را نیز محدود می‌کند. گوگل در یک پست وبلاگی اعلام کرد که از سال 2024، توسعه‌دهندگان باید در برنامه‌های هوش مصنوعی خود امکانی فراهم کنند تا کاربران بتوانند هرگونه محتوای توهین‌آمیز را گزارش دهند. گوگل می‌خواهد محتوای تولیدشده توسط هوش مصنوعی مولد برای افراد ایمن باشد و کاربران با سازوکاری، بتوانند بازخوردهای خود را بیان کنند. توسعه‌دهنگان نیز از این بازخوردها برای بهبود سیستم‌های خود استفاده خواهند کرد.
مسئله مقابله با جوانب منفی هوش مصنوعی و شبکه‌های اجتماعی بیش از پیش جدی شده است. اما موضوعی که بیشتر از دیگر جوانب حساسیت‌ جوامع را برانگیخته، انتشار محتوای آزار جنسی کودکان در شبکه‌های اجتماعی است. گاهی این محتوا توسط هوش مصنوعی تولید می‌شود. حالا دو پلتفرم تیک تاک و اسنپ‌چت می‌خواهند برای مقابله با این معضل با یکدیگر همکاری کنند.
به گزارش تجارت‌نیوز، شرکت‌های فناوری از جمله «اسنپ‌چت»، «تیک تاک» و «هوش مصنوعی استبیلیتی» با امضای بیانیه‌ای مشترک متعهد شدند که برای مقابله با انتشار تصاویر آزار جنسی کودکان توسط پایشگر هوش مصنوعی، با یکدیگر همکاری کنند.همچنین دولت‌هایی مانند بریتانیا، آمریکا و استرالیا نیز این بیانیه را امضا کرده‌ند. بیانیه مورد اشاره، پیش از نشست جهانی «ایمنی هوش مصنوعی» که دوشنبه این هفته توسط بریتانیا برگزار شد، به امضا این شرکت‌ها و کشورها رسید.
در متن این بیانیه آمده است: «ما مصمم هستیم که نوآوری‌های فنی پیرامون مقابله با انتشار محتوای آزار جنسی کودکان را در عصر هوش مصنوعی ایجاد و حفظ کنیم. ما تصمیم داریم با همکاری یکدیگر به این اطمینان برسیم که از هوش مصنوعی برای مقابله با تهدیدهای سوءاستفاده جنسی از کودکان بهره بگیریم و این همکاری را تا رسیدن به نتیحه ادامه می‌دهیم.»
تولید 3 هزار تصویر آزار جنسی کودکان توسط هوش مصنوعی
بریتانیا در گزارشی با استناد به داده‌های بنیاد دیده‌بان اینترنت، نشان داد که در یک «دارک وب»، کاربران حدود سه هزار تصویر سوءاستفاده جنسی از کودکان را به اشتراک گذاشته‌اند که این تصاویر توسط هوش مصنوعی تولید شده بود.
اکنون جلوگیری از انتشار محتوای آزار جنسی کودکان در شبکه‌های اجتماعی در بسیاری از کشورها به یک مسئله جدی تبدیل شده است و در نتیجه، سران کشورها هشدارهایی جدی را به برخی از پلتفرم‌های شبکه اجتماعی ارسال کرده‌اند
استفاده از ابزار تحریم برای مقابله با محتوای آزار جنسی کودکان
برای مثال حدود دو هفته پیش خبری مبنی بر هشدار رسمی کشور هند به بعضی پلتفرم‌ها مانند ایکس، تلگرام و یوتیوب منتشر شده بود که نشان می‌داد اگر این پلتفرم‌ها در جلوگیری از انتشار محتوای نامناسب برای کودکان همکاری نکنند در آن کشور با تحریم مواجه می‌شوند.
همچنین دادستان ایالت یوتای آمریکا بدلیل تاثیرات نامطلوب از تیک تاک شکایت کرد و گفت: آنچه که کودکان و والدین آنها درباره این شبکه اجتماعی نمی‌دانند این است که تیک تاک درمورد ایمنی برنامه خود به کاربران دروغ می‌گوید و از آنها برای بررسی و تماشای برنامه به طور اجباری سوءاستفاده می‌کند؛ بدون توجه به اثرات وحشتناکی که بر سلامت روان‌شان می‌گذارد.»
شان ریس دادستان کل یوتا، در جریان پرونده‌ای گفت: «تیک تاک به تاثیرات وحشتناکی که بر سلامت روان، رشد جسمی، خانواده و زندگی اجتماعی کاربران می‌گذارد بی‌توجه است. ویدئوهای تیک تاک از الگوریتم‌های بسیار قدرتمندی استفاده می‌کنند و نتیجه استفاده از این تاکتیک‌ها این است که مصرف‌کنندگان درگیر آن می‌شوند.»
تیک تاک در آن زمان در واکنش به این شکایت اعلام کرد که اقدامات حفاظتی را برای قشر جوان پیش‌بینی کرده است؛ از جمله محدودیت زمانی خودکار برای کاربران زیر 18 سال و همچنین راه‌هایی برای کنترل بیشتر حساب کاربران نوجوان توسط والدین.
اما بزرگترین چالش قانونی که تا کنون برای پلتفرم‌های جهانی وضع شده توسط اتحادیه اروپا بوده که به قانون خدمات دیجیتال اروپا معروف شد.
قانون خدمات دیجیتال اروپا چیست؟
هدف کلی این قانون ایجاد محیط‌های آنلاین امن‌ برای کاربران اروپایی است. طبق قوانین جدید، پلتفرم‌های آنلاین باید راه‌هایی را برای جلوگیری و حذف پست‌های حاوی کالاها، خدمات یا محتوای غیرقانونی اجرا کنند و در عین حال ابزاری را برای گزارش این نوع محتواها در اختیار کاربران قرار دهند.
این قانون علاوه بر موارد بالا، تبلیغات هدفمند براساس گرایش جنسی، مذهب، قومیت یا عقاید سیاسی افراد را ممنوع و محدودیت‌هایی برای نشان دادن تبلیغات به کودکان اعمال می‌کند. اتحادیه اروپا همچنین پلتفرم‌های آنلاین را ملزم کرده است که شفافیت بیشتری در مورد نحوه عملکرد الگوریتم‌های خود ارائه کنند.
چه شرکت‌هایی ملزم به رعایت قوانین هستند؟
این قانون؛ پلتفرم‌ها یا موتورهای جستجوی بسیار بزرگ که ماهانه بیش از 45میلیون کاربر را داشته باشند، در لیست شرکت‌های مشمول آورده است.
در حال حاضر 19 شرکت علی بابا، فروشگاه آمازون، اپ‌استور اپل، بوکینگ، فیس‌بوک، گوگل‌پلی، گوگل‌مپ، گوگل‌شاپ، اینستاگرام، لینکدین، پینترست، اسنپ‌چت، تیک‌تاک، توییتر، ویکی‌پدیا، یوتیوب، زالاندو، بینگ و موتور جستجوی گوگل در این لیست قرار دارند.
اگر این پلتفرم‌ها قوانین را اجرا نکنند، چه اتفاقی می‌افتد؟
پلتفرم‌های آنلاینی که قانون خدمات دیجیتال اروپا را رعایت نکنند تا 6درصد از گردش مالی جهانی خود را جریمه می‌شوند.
به گفته کمیسیون اتحادیه اروپا، هماهنگ‌کننده خدمات دیجیتال و کمیسیون این اختیار را خواهند داشت در صورتی که یک پلتفرم به‌طور مستمر از قوانین پیروی نکند برای جلوگیری از آسیب جدی، آن را در ابتدا تعلیق و سپس جریمه نقدی کنند.
واکنش تیک تاک به قانون خدمات دیجیتال اتحادیه اروپا
تیک‌تاک اعلام کرد که الگوریتم خود را برای کاربران اتحادیه اروپا اختیاری می‌کند. وقتی این الگوریتم غیرفعال شود، کاربران می‌توانند به جای ویدیوهای مبتنی بر علایق شخصی، ویدیوهایی را هم از مکان‌ زندگی خود و هم از سراسر جهان در فیدهای «For You» و «Live» براساس زمان ارسال محتوا مشاهده کنند.
همچنین تیک‌تاک در سیاست‌های تبلیغاتی خود نیز تغییراتی ایجاد کرده است و برای کاربران اروپایی 13 تا 17 ساله، تبلیغات شخصی‌سازی شده براساس نوع فعالیت آنها را متوقف می‌کند.