نیویورک / RankWire.AI / – سازمان ملل متحد خواستار محافظت قویتر از کودکان و نوجوانان است، زیرا پلتفرمهای دیجیتال نحوه دریافت اطلاعات توسط آنها را تغییر میدهند. خلاصهای از شماره جدید سازمان ملل متحد، خطرات ناشی از اطلاعات نادرست، نفرتپراکنی، آزار و اذیت، هوش مصنوعی و سیستمهای آنلاین مبتنی بر توجه را برجسته میکند. همچنین به نگرانیهایی در مورد دادههای شخصی، تبلیغات رفتاری و توزیع الگوریتمی اشاره دارد. این گزارش میگوید کاربران جوانتر ضمن حفظ دسترسی به آموزش، ارتباطات و مشارکت عمومی آنلاین، به محافظتهای قویتری نیاز دارند.
وزارت ارتباطات جهانی این گزارش را پیش از روز جهانی جوانان در ۱۲ آگوست منتشر کرد. بر اساس این گزارش، بیش از ۸۲ درصد از افراد ۱۵ تا ۲۴ ساله در سراسر جهان از اینترنت استفاده میکنند. دسترسی دیجیتال میتواند فرصتهای یادگیری، مشارکت مدنی و مشارکت اقتصادی را گسترش دهد. در عین حال، کاربران جوان ممکن است در حالی که هنوز مهارتهای قضاوت در مورد اطلاعات را در خود پرورش میدهند، با مطالب مضر روبرو شوند. در این گزارش آمده است که خطرات آنلاین میتوانند بر رشد شناختی، عاطفی و اجتماعی تأثیر بگذارند.
این گزارش این خطرات را به سه حوزه گسترده تقسیم میکند. تهدیدات مرتبط با فناوری شامل سوءاستفاده از هوش مصنوعی و سایر ابزارهای دیجیتال است. خطرات توزیع شامل الگوریتمها و دسترسی نابرابر به اطلاعات قابل اعتماد است. خطرات محتوا شامل اطلاعات نادرست، آزار و اذیت و نفرتپراکنی است. سازمان ملل میگوید این مشکلات میتوانند با هم در تعامل باشند زیرا سیستمهای دیجیتال بر آنچه کاربران میبینند و میزان انتشار محتوا تأثیر میگذارند. مخاطبان جوانتر میتوانند هنگامی که پلتفرمها توصیههای خودکار، جمعآوری دادهها و محتوای شخصیسازیشده را ترکیب میکنند، همزمان با چندین خطر روبرو شوند.
طراحی پلتفرم توجه بیشتری را به خود جلب میکند
این گزارش همچنین مدلهای تجاری وابسته به توجه کاربر، دادههای شخصی و تبلیغات هدفمند را بررسی میکند. در این گزارش آمده است که سیستمهای متمرکز بر تعامل میتوانند کودکان را در معرض مطالب و ویژگیهای افراطی قرار دهند که استفاده مکرر را تشویق میکنند. بازاریابی شخصیسازیشده میتواند لایه دیگری از خطر را برای مخاطبان جوانتر ایجاد کند. این گزارش از شرکتهای فناوری و توسعهدهندگان هوش مصنوعی میخواهد که حقوق و ایمنی کودکان را در طراحی محصول لحاظ کنند. همچنین خواستار پاسخگویی بیشتر در مورد سیستمهایی است که آنچه جوانان به صورت آنلاین میبینند را شکل میدهند.
محدودیتهای سنی به بخشی از بحث گستردهتر در مورد رسانههای اجتماعی و ایمنی کودکان تبدیل شده است. سازمان ملل متحد میگوید محدودیتهای سنی به تنهایی نمیتوانند طیف کاملی از خطرات اطلاعات آنلاین را برطرف کنند. فضاهای دیجیتال همچنین میتوانند آموزش، ارتباط اجتماعی و حمایت عاطفی را فراهم کنند. جوانان از آنها برای ایجاد محتوا، سازماندهی کمپینها و شرکت در بحثهای عمومی استفاده میکنند. در این خلاصه آمده است که اقدامات حفاظتی باید بدون از بین بردن دسترسی مفید به خدمات دیجیتالی که از یادگیری، ارتباط و مشارکت پشتیبانی میکنند، از کودکان محافظت کنند.
ایمنی هوش مصنوعی به بخشی از تلاشها برای حفاظت از کودکان تبدیل میشود
هوش مصنوعی نگرانیهای جدیدی را به محیط آنلاین اضافه میکند. آنتونیو گوترش، دبیرکل سازمان ملل، خواستار تعهدنامه ایمنی کودکان مبتنی بر هوش مصنوعی شده است که سیستمهایی را که کودکان میتوانند به آنها دسترسی داشته باشند، پوشش میدهد. رویکرد پیشنهادی شامل آزمایش ایمنی ویژه کودکان و نظارت قویتر قبل از استقرار است. همچنین به دنبال اقدام قاطع علیه تصاویر جنسی تولید شده توسط هوش مصنوعی با موضوع کودکان است. تلاش گستردهتر سازمان ملل از توسعهدهندگان میخواهد که ضمن ایجاد حفاظتهای ایمنی کودکان در سیستمهای هوش مصنوعی قابل دسترس، چنین مطالبی را شناسایی، گزارش و حذف کنند.
این گزارش میگوید دولتها، شرکتهای فناوری، تبلیغکنندگان، محققان، مربیان و جامعه مدنی همگی در کاهش آسیبهای دیجیتال نقش دارند. همچنین از کودکان و نوجوانان میخواهد در تصمیمگیریهایی که فضاهای آنلاین را شکل میدهند، شرکت کنند. این گزارش، اصول جهانی سازمان ملل برای یکپارچگی اطلاعات را در مورد مسائلی که کاربران جوانتر را تحت تأثیر قرار میدهد، اعمال میکند. پیام اصلی آن این است که ایمنی کودکان، یکپارچگی اطلاعات و مشارکت دیجیتال باید با هم پیشرفت کنند، زیرا پلتفرمهای آنلاین و سیستمهای هوش مصنوعی در زندگی روزمره اهمیت بیشتری پیدا میکنند.
این پست که سازمان ملل متحد نسبت به افزایش خطرات اطلاعات آنلاین برای کودکان هشدار میدهد، اولین بار در UAE Gazette: گزارش روزانه تغییرات امارات متحده عربی منتشر شد.