فهرست بستن

مایکروسافت در آستانه انتخابات ریاست‌جهموری آمریکا ابزار جدید شناسایی دیپ‌فیک را رونمایی می‌کند

مایکروسافت در آستانه انتخابات ریاست‌جهموری آمریکا ابزار جدید شناسایی دیپ‌فیک را رونمایی می‌کند

مایکروسافت با هدف شناسایی دیپ‌فیک‌ها، ابزاری برای تحلیل ویدئوها و عکس‌ها عرضه می‌کند. این ابزار شناسایی دیپ‌فیک که احراز هویت ویدئویی (Video Authenticator) نام دارد، از پارامتری به‌نام احتمال درصدی یا امتیاز اطمینان برای بیان احتمال ویرایش‌شده‌بودن عکس‌ها و ویدئوها استفاده می‌کند.

در دیپ‌فیک‌ها با استفاده از هوش مصنوعی ویدئو یا فاصل صوتی به‌گونه‌ای تغییر می‌کند که انجام کاری یا گفتن چیزی غیرواقعی را به کسی نسبت می‌دهد. هدف ابزار مایکروسافت شناسایی این گونه عکس‌ها و ویدئوها و فایل‌های صوتی است.

این ابزار می‌تواند امتیاز اطمینان را به‌صورت جداگانه برای هر فریم ویدئو تعیین کند. احراز هویت ویدئویی ازطریق شناسایی مرز اختلاط دیپ‌فیک و عناصر محو خفیف یا مقیاس خاکستری عمل می‌کند که ممکن است شناسایی‌شدنی با چشم غیرمسلح نباشند.

استفاده از هوش مصنوعی برای ساخت دیپ‌فیک‌ها سبب می‌شود آن‌ها بتوانند پس از مدتی با هر ابزار تشخیصی مقابله کنند

اگر بخشی از محتوای آنلاین واقعی، اما مشکوک به‌نظر برسد، این احتمال وجود دارد که به‌صورت پیشرفته دست‌کاری شده باشد تا احتمالا با هدفی شوم مردم را فریب دهد.

با اینکه خیلی از دیپ‌فیک‌ها با اهداف دیگری مانند سرگرمی تولید می‌شوند، این دیپ‌فیک‌های به‌ظاهر بی‌اهمیت اگر منتشر شوند، می‌توانند با فریب مخاطبان ساده اهمیت بسیار زیادی پیدا کنند.

در‌حالی‌که از فناوری هوش مصنوعی برای ایجاد دیپ‌فیک‌هایی بسیار طبیعی استفاده می‌شود، شناسایی اطلاعات بصری قلابی با استفاده از فناوری، هنوزهم کار دشواری است و ذهن انسان ضرورتا هنوزهم بهترین ابزار برای شناسایی دیپ‌فیک‌های پیشرفته است. بااین‌حال، نخبه‌های فناوری همچنان روی شناساگرهای دیپ‌فیک مثل این شناساگر جدید مایکروسافت کار می‌کنند.

در پست مایکروسافت، هشدار داده شده که این فناوری ممکن است فقط کارایی گذرایی در مقابله با دیپ‌فیک داشته باشد که به سلاح قدرتمند هوش مصنوعی مجهز است:

آن‌ها (دیپ‌فیک‌ها) قطعا فناوری تشخیصی کنونی را شکست خواهند داد؛ زیرا با استفاده از هوش مصنوعی ایجاد می‌شوند که می‌تواند به یادگیری ادامه دهد. بااین‌حال، در کوتاه‌مدت مثل انتخابات ریاست‌جمهوری پیش‌ روی ایالات متحده، می‌توان روی فناوری‌های تشخیصی پیشرفته به‌عنوان ابزار مفیدی برای کمک به کاربران فهیم حساب کرد تا دیپ‌فیک‌ها را شناسایی کنند.

در تابستان جاری، رقابتی برای ساخت شناساگر دیپ‌فیک برگزار شد و ابزارهای حاصل بهتر از حدس‌زدن عمل می‌کردند؛ ولی این نتایج تنها به‌دلیل دسترسی به مجموعه‌‌داده‌هایی بود که پژوهشگران قبلی به آن‌ها دسترسی نداشتند.

مایکروسافت می‌گوید که برای ساخت ابزار تشخیص هویت ویدئویی‌اش از مجموعه‌داده‌ی عمومی از آرشیو ++Face Forensic استفاده کرده و آن را روی «مجموعه‌داده‌ی چالش شناسایی دیپ‌فیک» (DeepFake Detection Challenge Dataset) آزمایش کرده است. همچنین، ردموندی‌ها اشاره می‌کنند که این دو مجموعه‌داده مدل‌های اصلی برای یادگیری فناوری‌های شناسایی دیپ‌فیک و آزمایش آن‌ها هستند.

مایکروسافت برای قرار‌دادن این ابزار دراختیار سازمان‌هایی که در انتخابات امسال ایفا نقش می‌کنند، ارجمله پایگاه‌های خبری و کمپین‌های سیاسی، با بنیاد هوش مصنوعی سان‌فرانسیسکو مشارکت می‌کند. این ابزار دیجیتالی این‌گونه عمل می‌کند که ویژگی‌های منحصر‌به‌فرد دیپ‌فیک‌ها را شناسایی می‌کند که ضرورتا برای همه‌ی افراد مشاهده‌پذیر نیستند.  

مایکروسافت می‌افزاید:

احراز هویت ویدئویی در ابتدا تنها ازطریق RD 2020، پروژه‌‌ی Reality Defender 2020 بنیاد هوش مصنوعی سان‌فرانسیسکو، دردسترس خواهد بود که درزمینه‌ی محدودیت‌ها و ملاحظه‌های اخلاقی طبیعی در هر فناوری تشخیص دیپ‌فیک سازمان‌ها را راهنمایی می‌کند. کمپین‌ها و روزنامه‌نگارهایی که خواهان اطلاعات بیشتر هستند، می‌توانند ازطریق این لینک با RD2020 در تماس باشند.

این ابزار در بخش تحقیق و توسعه‌ی مایکروسافت به‌نام «پژوهش مایکروسافت» (Microsoft Research) و در همکاری با تیم «هوش مصنوعی متعهد» (Responsible AI) و مشاوره‌ی یکی از اعضای داخلی در کمیته‌ی هوش مصنوعی و ملاحظات اخلاقی و اثراتش در مهندسی و پژوهش ساخته شده است. ابزار یادشده بخشی از برنامه‌ی گسترده‌تر مایکروسافت به‌منظور دفاع از دموکراسی درمقابل تهدیدات اطلاعات نادرست است.

مایکروسافت ادامه می‌دهد:

انتظار داریم روش‌های ساخت فیلم‌ها و ویدئوهای ساختگی به پیشرفتشان ادامه دهند. ازآنجاکه تمامی فناوری‌های شناسایی دیپ‌فیک احتمال شکست دارند، باید دیپ‌فیک‌هایی که روش‌های تشخیصی را دور می‌زنند، به‌خوبی بشناسیم و برای مقابله با آن‌ها آماده باشیم. بنابراین، در طولانی‌مدت باید به‌دنبال روش‌های قوی‌تری برای حفظ و تأیید درستی مقالات خبری و دیگر محتواهای رسانه‌ای باشیم. امروزه، ابزارهای کمی وجود دارند که می‌توانند درزمینه‌ی موثق‌بودن منبع مطالب آنلاین و دست‌کاری‌ نشده‌بودن آن‌ها به مخاطبان اطمینان‌خاطر دهند.

افزون‌براین، مایکروسافت سیستمی رونمایی کرده است که بهتولیدکنندگان محتوا کمک می‌کند به محتواهای رسانه‌ای خود هَش‌ها و گواهی‌های دیجیتالی اضافه کنند که با وجود مخابره‌ی آنلاین، این محتواها در متادیتای آن‌ها باقی می‌مانند و مرجعی برای درستی آن محتواهای رسانه‌ای باشند.

بخش دوم سیستم مذکور ابزار خوانش است که به‌صورت افزونه‌ی مرورگر برای بررسی گواهی‌ها و انطباق‌دادن هَش‌ها عمل می‌کند. درمقابل، مایکروسافت درجه‌ی صحت آن محتوا را به بیننده اعلام می‌کند و به او می‌گوید که آیا آن محتوا دست‌کاری شده‌ است یا خیر. به‌علاوه، این گواهی به بیننده اطلاع می‌دهد که چه کسی آن محتوا را خلق کرده است.

مایکروسافت امیدوار است که این سیستم احراز هویت علامت‌گذاری دیجیتالی به کار ساخت زیربنای طرح ابتکاری «اخبار مطمئن» پایان دهد که سال پیش پایگاه خبری بریتانیایی مردمی BBC آن را معرفی کرد. این طرح ابتکاری به‌ویژه برای ساخت بخش تأیید اصالت خبر به‌نام «منشأ پروژه» راه‌اندازی شد که ائتلاف BBC ،CBC/Radio Canada، مایکروسافت و نیویورک‌تایمز آن را هدایت می‌کردند. گفته می‌شود «منشأ پروژه» فناوری نشان‌گذاری دیجیتالی را با هدف رساندنش به استانداردی آزمایش می‌کند که بتوان از آن در مقیاس وسیع استفاده کرد.

مایکروسافت می‌افزاید:

طرح ابتکاری اخبار مطمئن نیز که تعدادی ناشر و شرکت‌های شبکه‎‌های اجتماعی را شامل می‌شود، با به‌کارگیری این فناوری ضددیپ‌فیک موافقت کرده است. امیدواریم در ماه‌های آتی، این فناوری را به شرکت‌های فناوری دیگر و ناشران خبری و شرکت‌های شبکه‌های اجتماعی گسترش دهیم.

با اینکه کار روی شناسایی دیپ‌فیک‌ها همچنان ادامه دارد، پستی که مایکروسافت برای آن منتشر کرده است، بر اهمیت سواد رسانه‌های نیز تأکید می‌کند. آغاز مشارکت با دانشگاه واشینگتون و پایگاه‌ داده‌ی سنسیتی (Sensity) و روزنامه‌ی USA Today برای کمک به تقویت تفکر انتقادی در آستانه‌ی انتخابات ریاست‌جمهوری ایالات متحده است.

آگاهی مردم از نقش مخرب اطلاعات غلط در دموکراسی بسیار اهمیت دارد

این مشارکت به انتشار آزمون کوتاه شناسایی دیپ‌فیک برای رأی‌دهندگان آمریکایی منجر شد تا به‌نقل از مایکروسافت، آن‌ها درباره‌ی عکس‌ها و ویدئوها و صوت‌های ساختگی آموزش ببینند و مهارت‌های سواد رسانه‌ای آن‌ها افزایش یابد و از اثر عکس‌ها ویدئوها و صوت‌های ساختگی روی دموکراسی آگاه شوند.

مقاله‌های مرتبط:

براساس پست منتشر‌شده‌ی مایکروسافت، وب‌سایت و شبکه‌ی اجتماعی متعلق به روزنامه‌ی USA Today، مایکروسافت و دانشگاه واشینگتون و ازطریق تبلیغات در شبکه‌های اجتماعی این آزمون را در ایالات متحده توزیع خواهند کرد.

ردموندی‌ها اشاره می‌کنند که از کمپین آگاهی‌رسانی سرویس عمومی (PSA) حمایت می‌کنند که در آستانه‌ی انتخابات پیش‌ رو ایالات متحده، مردم را به بررسی اعتبار منبع اطلاعات پیش از به‌اشتراک‌گذاری آن در شبکه‌های اجتماعی تشویق می‌کند.

مایکروسافت درپایان می‌گوید:

کمپین PSA به مردم کمک می‌کند تا زیان اطلاعات اشتباه و اطلاعات دست‌کاری‌شده برای دموکراسی ما و اهمیت اختصاص زمان برای شناسایی و به‌اشتراک‌گذاری و استفاده از اطلاعات مطمئن و موثق را بهتر درک کنند. این تبلیغات ماه‌های سپتامبر و اکتبر ازطریق ایستگاه‌های رادیویی ایالات متحده نیز پخش می‌شوند.

Let’s block ads! (Why?)

لینک منبع

دیدگاهتان را بنویسید

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *