کلید تشخیص دیپ فیک ممکن است در اعماق فضا باشد

به قول قدیمیها، چشمها پنجرهای به روح هستند – اما وقتی صحبت از تصاویر عمیق جعلی به میان میآید، میتوانند پنجرهای به سوی غیرواقعی بودن باشند.
این بر اساس تحقیقات جدیدی است که در دانشگاه هال در بریتانیا انجام شده است، که از تکنیکهایی استفاده میکند که معمولاً در رصد کهکشانهای دور برای تعیین واقعی بودن یا نبودن تصاویر صورت انسان استفاده میشود. این ایده زمانی مطرح شد که کوین پیمبلت، استاد دانشگاه فیزیک نجومی در دانشگاه، تصاویر صورت ایجاد شده توسط مولدهای هنری هوش مصنوعی (AI) Midjourney و Stable Diffusion را مطالعه کرد. او فکر می کرد که آیا می تواند از فیزیک برای تعیین اینکه کدام تصاویر جعلی و کدام واقعی هستند استفاده کند. او به Space.com گفت: «برای من روشن شد که انعکاس در چشم ها چیزی است که باید دید.
دیپفیکها یا تصاویر جعلی یا ویدیوهایی از افراد هستند که با آموزش هوش مصنوعی روی کوههای داده ایجاد شدهاند. هنگام تولید تصاویر چهره انسان، هوش مصنوعی از دانش گسترده خود برای ساختن یک چهره غیر واقعی پیکسل به پیکسل استفاده می کند. این چهره ها را می توان از ابتدا یا بر اساس افراد واقعی ساخت. در مورد دومی، آنها اغلب به دلایل مخرب استفاده می شوند. با این حال، با توجه به اینکه عکس های واقعی حاوی انعکاس هستند، هوش مصنوعی آنها را اضافه می کند — اما اغلب تفاوت های ظریفی در این دو چشم وجود دارد.
پیمبلت که می خواست از غریزه خود پیروی کند، آدجوموک اوولابی، دانشجوی فارغ التحصیل دانشگاه را استخدام کرد تا به توسعه نرم افزاری کمک کند که بتواند به سرعت چشم افراد سوژه را در تصاویر مختلف اسکن کند تا ببیند آیا این بازتاب ها بررسی می شوند یا خیر. این زوج برنامه ای برای ارزیابی تفاوت بین کره چشم چپ و راست در عکس های افراد واقعی و غیر واقعی ساختند. چهره های واقعی از مجموعه داده های متنوعی از 70000 چهره در فلیکر به دست می آیند، در حالی که جعلی های عمیق توسط هوش مصنوعی ایجاد می شوند که زیربنای وب سایت است. این شخص وجود نداردوب سایتی که تصاویر واقعی از افرادی تولید می کند که فکر می کردید وجود دارند اما وجود نداشتند.
متصل: پروژه ویدیویی «سقوط» آپولو 11 خطر فزاینده فناوری دیپ فیک را برجسته می کند
وقتی متوجه شدید که وجود دارد، واضح است: من این شخص وجود ندارد پنج بار رفرش کردم و انعکاسهای چشمها را مطالعه کردم. چهره ها تاثیرگذار بود. در نگاه اول، چیزی وجود ندارد که نشان دهد جعلی هستند.

بررسی دقیقتر تفاوتهای تقریباً نامحسوسی را در روشنایی دو کره چشم نشان داد. به نظر نمی رسید دقیقاً مطابقت داشته باشند. در یک مورد، هوش مصنوعی مردی با عینک تولید کرد – انعکاس در لنز او نیز کمی بد به نظر می رسید.
با این حال، چیزی که چشم من نمی توانست کمیت کند، این بود که بازتاب ها چقدر متفاوت بودند. برای انجام چنین ارزیابی، به ابزاری نیاز دارید که بتواند نقض قوانین دقیق اپتیک را شناسایی کند. اینجاست که نرم افزار Pimbblet و Owolabi وارد عمل می شوند. آنها از دو تکنیک استفاده کردند ستاره شناسی کتاب راهنما، “پارامترهای CAS” و “شاخص جینی”.

که در ستاره شناسی، پارامترهای CAS می توانند ساختار یک کهکشان را با بررسی غلظت، عدم تقارن و صافی (یا “ضخامت”) نمایه نور تعیین کنند. به عنوان مثال، یک کهکشان بیضوی دارای مقدار C بالا و مقادیر A و S پایین خواهد بود – نور آن در مرکز آن متمرکز است اما پوشش پراکنده تری دارد و آن را هموارتر و متقارن تر می کند. با این حال، این زوج دریافتند که CAS برای تشخیص دیپفیک مفید نیست. تمرکز با یک نقطه نور بهتر عمل می کند، اما بازتاب ها اغلب به صورت لکه های نور پراکنده در کره چشم ظاهر می شوند. عدم تقارن از مشکل مشابهی رنج میبرد – این لکهها انعکاس را نامتقارن میکنند، و پیمبلت میگوید دریافت “درست” این معیار دشوار است.
استفاده از ضریب جینی بسیار بهتر عمل می کند. این روشی برای اندازه گیری نابرابری در طیفی از مقادیر است. می توان از آن برای محاسبه a استفاده کرد دامنه نتایج مربوط به نابرابری، مانند توزیع ثروت، امید به زندگی یا، شاید بیشتر، درآمد. در این مورد، جینی به نابرابری پیکسل اعمال شد.
پیمبلت میگوید: «جینی کل توزیع پیکسلها را میگیرد، میتواند ببیند که آیا مقادیر پیکسلها به طور مشابه بین چپ و راست توزیع شدهاند یا خیر، و این یک رویکرد ناپارامتریک قوی است که در اینجا میتوان اتخاذ کرد».
این اثر در اجلاس انجمن سلطنتی نجوم در دانشگاه هال در 15 جولای ارائه شد، اما هنوز توسط همتایان بررسی و منتشر نشده است. این دو در تلاش هستند تا این مطالعه را به یک نشریه تبدیل کنند.
پیمبلت میگوید که این نرمافزار در این مرحله فقط یک اثبات مفهوم است. این نرم افزار همچنان موارد مثبت کاذب و منفی کاذب را با نرخ خطا در حدود سه در 10 علامت گذاری می کند. همچنین تاکنون تنها بر روی یک مدل هوش مصنوعی آزمایش شده است. پیمبلت میگوید: «ما روی مدلهای دیگر آزمایش نکردهایم، اما این یک گام بعدی واضح است.
دن میلر، روانشناس در دانشگاه جیمز کوک در استرالیا، گفت که یافته های این مطالعه اطلاعات مفیدی را ارائه می دهد، اما هشدار داد که ممکن است برای بهبود تشخیص انسان از تقلبی های عمیق مناسب نباشد – حداقل هنوز، زیرا این روش به مدل سازی پیچیده ریاضی نیاز دارد. از نور با این حال، او خاطرنشان کرد که «یافتهها میتوانند از توسعه نرمافزار تشخیص تقلب عمیق خبر دهند».
و به نظر می رسد با توجه به پیچیده شدن جعل جعل، نرم افزار ضروری خواهد بود. که در نظرسنجی 2023میلر با ارائه فهرستی از مصنوعات بصری – مانند سایهها یا نور – برای جستجوی یک گروه، ارزیابی کرد که شرکتکنندگان چقدر میتوانند ویدیوی جعلی عمیق را تشخیص دهند. اما مطالعه نشان داد که این مداخله به هیچ وجه مؤثر نبود. آزمودنیها فقط میتوانستند جعلیها را شناسایی کنند، و همچنین به گروه کنترلی که نکاتی به آنها داده نشده بود (این نشان میدهد که آزمایش کوچک شخصی من در بالا ممکن است یک سوگیری باشد).
کل میدان هوش مصنوعی از زمانی که ChatGPT در اواخر سال 2022 کاهش یافت، احساس میکند با سرعت نور در حال حرکت است. Pimbblet پیشنهاد میکند که رویکرد این جفت با دیگر تولیدکنندگان تصویر هوش مصنوعی کار میکند، اما خاطرنشان میکند که احتمالاً مدلهای جدیدتر نیز میتوانند نور فیزیکی را حل کنند. مسئله .”
این تحقیق همچنین یک سوال جالب را مطرح میکند: اگر هوش مصنوعی بتواند بازتابهایی تولید کند که با روشهای مبتنی بر نجوم قابل تخمین باشد… آیا میتوان از هوش مصنوعی برای تولید کل کهکشانها نیز استفاده کرد؟
پیمبلت می گوید که حملاتی به این پادشاهی صورت گرفته است. اشاره می کند نظرسنجی 2017 که ارزیابی می کند که چگونه «شبکه های متخاصم مولد» یا GAN ها (فناوری پشت مولدهای هوش مصنوعی مانند Midjourney یا ChatGPT) می توانند کهکشان هایی از داده های تخریب شده را جمع بندی کنند. تلسکوپ برای رصد زمین و در فضا می تواند توسط نویز و پس زمینه محدود شود و باعث تاری و از دست دادن کیفیت شود (حتی تصاویر خیره کننده از تلسکوپ فضایی جیمز وب نیاز به تمیز کردن دارد).
در مطالعه سال 2017، محققان یک مدل هوش مصنوعی بزرگ را بر روی تصاویر کهکشان ها آموزش دادند، سپس از این مدل برای بازیابی تصاویر تخریب شده استفاده کردند. همیشه کامل نبود، اما مطمئناً میتوان ویژگیهای کهکشانی را از تصاویر با کیفیت پایین بازیابی کرد.
یک مطالعه پیش چاپ در سال 2019 به روشی مشابه مورد استفاده قرار گرفت GAN ها برای شبیه سازی کل کهکشان ها.
محققان پیشنهاد میکنند که این کار میتواند مفید باشد زیرا حجم زیادی از دادهها از مأموریتهای رصدی سرازیر میشود جهان. هیچ راهی برای نگاه کردن به همه چیز وجود ندارد، بنابراین ممکن است مجبور شویم به هوش مصنوعی روی بیاوریم. تولید این کهکشان ها با هوش مصنوعی می تواند به نوبه خود هوش مصنوعی را برای جستجوی گونه های خاص آموزش دهد. واقعی کهکشان ها در مجموعه داده های عظیم همه اینها کمی دیستوپیک به نظر می رسد، اما باز هم، کشف چهره های غیر واقعی با تغییرات ظریف در انعکاس در کره چشم آنها نیز همینطور است.




