هشدار سازمان ملل درباره هوش مصنوعی

در حالی که محتواهای جعلی فضای مجازی روزبه‌روز بیشتر می‌شوند، اتحادیه جهانی مخابرات زنگ خطر را به صدا درآورد و نسبت به پیامدهای امنیتی، اقتصادی و اجتماعی دیپ‌فیک‌ها هشدار داد.

کد خبر: ۷۰۴۶۹۵

تاریخ: ۲۱ تير ۱۴۰۴ - ۲۳:۱۴

به گزارش صراط به نقل از همشهری آنلاین، در گزارشی تازه که در اجلاس «هوش مصنوعی برای خیر عمومی» در ژنو منتشر شد، اتحادیه بین‌المللی مخابرات (ITU) وابسته به سازمان ملل متحد هشدار داد: «شرکت‌ها باید از ابزار‌های پیشرفته برای شناسایی و مقابله با اطلاعات نادرست و محتوای دیپ‌فیک استفاده کنند؛ چرا که این پدیده به تهدیدی جدی برای امنیت انتخاباتی و نظام‌های مالی تبدیل شده است.» دیپ‌فیک‌ها شامل تصاویر، ویدیو‌ها و صدا‌های تولیدشده با هوش مصنوعی که چهره یا صدای افراد واقعی را به‌طور متقاعدکننده‌ای بازسازی می‌کنند، در حال تبدیل شدن به ابزاری خطرناک در جنگ‌های اطلاعاتی‌اند. به‌گفته ITU، مقابله با این فناوری نیازمند وضع استاندارد‌های سخت‌گیرانه و همکاری گسترده در سطح جهانی است.ITU در این گزارش توصیه کرده است که پلتفرم‌های توزیع محتوا، به‌ویژه شبکه‌های اجتماعی، پیش از انتشار محتوا از ابزار‌های تأیید دیجیتال برای تشخیص اصالت تصاویر و ویدیو‌ها بهره ببرند.

به‌گفته ITU، این نهاد در حال تدوین استاندارد‌هایی برای واترمارک‌گذاری روی ویدیوهاست که حدود ۸۰ درصد ترافیک اینترنت را تشکیل می‌دهند. این واترمارک‌ها قرار است شامل داده‌هایی مانند هویت تولیدکننده و زمان تولید باشند تا به تشخیص اصالت و اعتبار محتوا کمک کنند. توماز لواک، بنیان‌گذار شرکت سوئیسی Umanitek، نیز بر لزوم اقدام پیش‌دستانه بخش خصوصی در مقابله با این تهدید‌ها تأکید کرد و گفت: «هوش مصنوعی هر روز قدرتمندتر، سریع‌تر و هوشمندتر می‌شود. باید سطح دانش و مهارت کاربران را ارتقا دهیم تا قربانی این سیستم‌ها نشوند.» همچنین بیلال جاموسی، رئیس گروه‌های مطالعاتی در دفتر استانداردسازی ITU، ضمن تأکید بر ضرورت تدوین استاندارد‌های جهانی برای شناسایی و کنترل محتوای جعلی گفت: «اعتماد عمومی به شبکه‌های اجتماعی به‌شدت کاهش یافته است، چون مردم نمی‌دانند چه چیزی واقعی است و چه چیزی جعلی. مقابله با دیپ‌فیک‌ها یکی از بزرگ‌ترین چالش‌هاست، زیرا هوش مصنوعی تولیدی می‌تواند محتوایی کاملاً واقعی‌نما تولید کند.»