تحقیق جدید گوگل: هوش مصنوعی منبع انتشار اخبار جعلی شده است

این تحقیق ابتدا توسط ۴۰۴ مدیا پس از مشاهده شدن توسط خبرنامه Faked Up گزارش شد و به طور واضح نشان داد که "تصاویر ساخته‌شده با هوش مصنوعی تا اوایل سال گذشته تنها بخش کوچکی از کل جعل‌های محتوا را تشکیل می‌دادند"، محققان نوشتند.سال گذشته شاهد انتشار ابزارهای جدید تولید تصویر با هوش مصنوعی توسط بازیگران اصلی فناوری، از جمله OpenAI، مایکروسافت و خود گوگل بودیم. این مقاله بیان می‌کند که اکنون، اخبار جعلی ساخته‌شده با هوش مصنوعی «تقریباً به اندازه دستکاری‌های متنی و محتوای کلی رایج است».

محققان خاطرنشان می‌کنند که افزایش بررسی صحت تصاویر ساخته‌شده با هوش مصنوعی همزمان با موج کلی از هیاهوی پیرامون هوش مصنوعی بوده است، که ممکن است باعث شده وب‌سایت‌ها بر روی این فناوری تمرکز کنند. مجموعه داده‌ها نشان می‌دهد که بررسی صحت تصاویر با هوش مصنوعی در ماه‌های اخیر کند شده است و دستکاری‌های سنتی متن و تصویر با افزایش روبرو شده‌اند. نمودار زیر افزایش شدید اخبار جعلی در اوایل ۲۰۰۳ را نشان می‌دهد:

مطالعه همچنین به سایر اشکال رسانه توجه کرد و دریافت که در حال حاضر، ویدیوهای فریب آمیز تقریباً 60 درصد از کل ادعاهای بررسی صحت شده‌ای را که شامل رسانه می‌شوند، تشکیل می‌دهند.«این بدان معنا نیست که اخبار جعلی ساخته‌شده با هوش مصنوعی کند شده است»؛ این را ساشا لوچیونی، محقق برجسته اخلاق هوش مصنوعی بیان کرد و ادامه داد«به شخصه احساس می‌کنم دلیلش این است که [نمونه‌های زیادی از اخبار جعلی ساخته‌شده با هوش مصنوعی] وجود دارد که ردیابی آن‌ها دشوار است! خودم هم به‌طور مرتب آن‌ها را می‌بینم، حتی خارج از رسانه‌های اجتماعی، برای مثال در تبلیغات.»

برای مقابله با مشکل جعل‌های ساخته‌شده با هوش مصنوعی، گوگل ابتکاراتی مانند واترمارک دیجیتال را راه‌اندازی کرده است که تصاویر ساخته‌شده با هوش مصنوعی را با علامتی که برای چشم انسان نامرئی است، به‌عنوان جعلی نشان می‌دهد. این شرکت به همراه مایکروسافت، اینتل و ادوبی همچنین در حال بررسی دادنِ اختیار به سازندگان برای افزودنِ واترمارکِ قابلِ رؤیت به تصاویر ساخته‌شده با هوش مصنوعی هستند.