دیپ‌فیک‌ها؛ چالشی جدید در عصر هوش مصنوعی و راهکارهای مقابله

محدثه پیله‌چی در گفت‌وگو با خبرنگار مهر با اشاره به بحران اعتماد در عصر هوش مصنوعی، اظهار کرد: پیشرفت فناوری‌های تولید محتوای مبتنی بر هوش مصنوعی، مرز بین واقعیت و جعل را بیش از پیش کمرنگ کرده است.

وی افزود: دیپ‌فیک (Deepfake) به عنوان یکی از پیچیده‌ترین نمونه‌های این فناوری، با دستکاری ویدئوها و صداها، امکان ساخت محتوای متقن اما کاملاً جعلی را فراهم آورده است.

وی افزود: مطالعات نشان می‌دهد مغز انسان به‌طور غریزی به داده‌های بصری و شنیداری اعتماد بیشتری دارد. همین ویژگی، دیپ‌فیک را به ابزاری خطرناک در جنگ‌های روانی و انتشار اطلاعات نادرست تبدیل کرده است.

پیله‌چی با استناد به بررسی‌های علمی ژورنال ساینس، بیان کرد: محتوای جعلی ۶ برابر سریع‌تر از اخبار واقعی در فضای مجازی منتشر می‌شود.

پیله چی این امر ناشی از تمایل الگوریتم‌های پلتفرم‌های اجتماعی به تقویت محتوای هیجان‌انگیز و جنجالی و همچنین رغبت مخاطب به انتشار اخبار هیجانی و احساسی است.

راهکارهای مقابله با دیپ‌فیک‌ها

دبیر نهضت سواد رسانه‌ای قزوین تأکید کرد: مخاطب باید بداند که مدیریت واکنش‌های هیجانی، برگ برنده او در مواجهه با پیام‌های رسانه‌ای است. حفظ آرامش و تقویت تفکر انتقادی، نخستین گام در تشخیص اخبار نادرست محسوب می‌شود.

وی افزود: ارزیابی منبع نیز یکی از مهم‌ترین نکات در مقابله با دیپ‌فیک‌ها است. پیش از پذیرش هر محتوای بصری، باید منبع تولید و انتشار آن بررسی شود. آیا رسانه‌های معتبر دیگر نیز آن را تأیید کرده‌اند یا این فقط یک پیام ناشناس در یک شبکه اجتماعی است؟

پیله‌چی به تحلیل کیفیت فنی محتوا اشاره کرد و گفت: ویدئوهای جعلی اغلب دارای ناهنجاری‌های ظریفی مانند عدم تطابق نور و سایه، حرکات غیرطبیعی لب‌ها یا اعوجاج در پس‌زمینه هستند. توجه به این جزئیات می‌تواند در تشخیص محتوای جعلی مؤثر باشد.

وی همچنین به استفاده از ابزارهای تشخیص اشاره کرد و افزود: پلتفرم‌هایی مانند Google Reverse Image Search یا نرم‌افزارهای تخصصی شناسایی دیپ‌فیک می‌توانند به کشف اصل محتوا کمک کنند.

نیاز به آموزش و سرمایه‌گذاری در حوزه سواد رسانه‌ای

پیله‌چی تأکید کرد: بدون آموزش گسترده و توسعه فناوری‌های شناسایی، جامعه به سمتی پیش خواهد رفت که حتی معتبرترین شواهد بصری نیز زیر سؤال می‌روند. سرمایه‌گذاری در حوزه سواد رسانه‌ای و تقویت زیرساخت‌های امنیت اطلاعات، ضرورتی انکارناپذیر در جهان امروز است.

وی در پایان خاطرنشان کرد: آموزش مخاطبان برای تشخیص محتوای جعلی و تقویت تفکر انتقادی، کلید مقابله با تهدیدات دیپ‌فیک و حفظ اعتماد عمومی در عصر هوش مصنوعی است.