ابزار جدیدی برای مقابله با صداهای دیپ فیک پیش از انتخابات منتشر شد

با نزدیک شدن به انتخابات 2024 ایالات متحده، یک پیشرفت قابل توجه در شناسایی صداهای دیپ‌فیک پدید آمده است. Hiya، شرکتی که به خاطر قابلیت‌های غربالگری تماس و تشخیص تقلب شناخته شده است، یک افزونه رایگان برای مرورگر Chrome معرفی کرده است که به کاربران کمک می‌کند تا اصالت صداها را در محتواهای صوتی و تصویری بررسی کنند. این افزونه که Hiya Deepfake Voice Detector نام دارد، ورودی‌های صوتی را تحلیل کرده و یک امتیاز ارائه می‌دهد که نشان می‌دهد چقدر احتمال دارد یک صدا واقعی یا ساختگی باشد.

به گفته Hiya، آزمایش‌های گسترده نشان داده‌اند که این ابزار دارای دقت بالای بیش از 99 درصد است. این شناسایی‌کننده می‌تواند صداهای تولید شده توسط فناوری‌های جدید هوش مصنوعی را شناسایی کند، حتی اگر قبلاً توسط مدل مورد شناسایی قرار نگرفته باشد.

در آزمایش‌های اولیه، کاربران دریافتند که این افزونه به طور مؤثر صداهای تولید شده توسط هوش مصنوعی را شناسایی کرده است. به عنوان مثال، یک ویدیوی محبوب در یوتیوب که بخشی با روایت هوش مصنوعی درباره افسانه بلوز یعنی Howlin’ Wolf داشت، امتیاز پایینی از نظر اصالت دریافت کرد که شک و تردیدها نسبت به دستکاری را تأیید کرد.

مدیران Hiya از پلتفورم‌های رسانه اجتماعی انتقاد کرده‌اند که مسئولیت کافی در هشدار دادن به کاربران در مورد محتوای گمراه‌کننده بالقوه نمی‌پذیرند. این شرکت بر اهمیت آگاهی افراد از خطرات ناشی از دستکاری هوش مصنوعی تأکید دارد و استفاده از ابزارهایی مانند شناسایی‌کننده صدای دیپ‌فیک خود را برای حفاظت از کاربران ضروری می‌داند. اگرچه این افزونه اعتبارهای روزانه برای مدیریت استفاده فراهم می‌کند، اما احتمال دارد که سهمیه محدود آن نتواند با سیل محتوای صوتی تولید شده توسط هوش مصنوعی که احتمالاً در آینده نزدیک در رسانه‌های اجتماعی بروز خواهد کرد، هم‌خوانی داشته باشد.

ابزاری جدید برای مقابله با صداهای دیپ‌فیک قبل از انتخابات: مواجهه با چالش‌های نوظهور

با نزدیک شدن انتخابات 2024 ایالات متحده، گسترش فناوری دیپ‌فیک نگرانی‌های قابل توجهی برای یکپارچگی گفت‌وگوی سیاسی ایجاد می‌کند. در پاسخ، Hiya شناسایی‌کننده صدای دیپ‌فیک Hiya را معرفی کرده است، ابزاری که نه تنها به هدف حفاظت از کاربران در برابر دستکاری محتوای صوتی در نظر گرفته شده، بلکه سوالات مرتبطی درباره پیامدهای این فناوری در جامعه مدرن مطرح می‌کند.

سوالات کلیدی درباره فناوری دیپ‌فیک

1. فناوری دیپ‌فیک در کمپین‌های سیاسی چقدر رایج است؟
صدای دیپ‌فیک بر گفتگوی سیاسی تأثیر می‌گذارد و به احتمال زیاد اعتماد به پیام‌های واقعی کاندیدها را تضعیف می‌کند. تحلیلگران پیش‌بینی می‌کنند با نزدیک شدن به انتخابات استفاده از دیپ‌فیک افزایش یابد که موجب اهمیت ابزارهایی مانند شناسایی‌کننده Hiya در تفکیک حقیقت از ساختگی می‌شود.

2. پیامدهای قانونی استفاده از چنین ابزارهایی در انتخابات چیست؟
قانونی بودن استفاده از شناسایی‌کننده دیپ‌فیک در زمینه‌های سیاسی هنوز در حال توسعه است. سوالاتی درباره اینکه آیا یافته‌های ابزارهایی مانند شناسایی‌کننده صدای دیپ‌فیک می‌تواند به عنوان مدرک قانونی از سوءاستفاده یا اطلاعات نادرست مورد استفاده قرار گیرد، مطرح است.

3. آیا شناسایی‌کننده می‌تواند با فناوری‌های هوش مصنوعی در حال تحول همگام باشد؟
در حالی که ابزار Hiya دقت بالای 99 درصد را به خود اختصاص داده است، صداهای تولید شده توسط هوش مصنوعی به طور مداوم در حال تکامل هستند. هنوز مشخص نشده است که آیا این شناسایی‌کننده می‌تواند به‌طور مداوم به تکنیک‌های جدید دستکاری صوتی وفق پیدا کند.

چالش‌ها و مناقشات کلیدی

1. بیش از حد وابسته بودن به فناوری برای شناسایی اطلاعات نادرست
منتقدان بر این باورند که ابزارهایی مانند شناسایی‌کننده صدای دیپ‌فیک ممکن است احساس امنیت کاذبی در میان کاربران ایجاد کنند. تکیه صرف بر فناوری بدون آموزش سواد رسانه‌ای ممکن است مانع از تجزیه و تحلیل انتقادی محتوا توسط افراد شود.

2. پتانسیل سوءاستفاده
مشابه اینکه دیپ‌فیک‌ها می‌توانند گمراه‌کننده باشند، ابزارهای شناسایی ممکن است به گونه‌ای نادرست برای متهم کردن محتوای صوتی قانونی به دستکاری استفاده شوند، و بدین ترتیب بدون زمینه یا تحقیق مناسب به اعتبارها آسیب برسانند.

3. دسترسی محدود و تجربه کاربری
سیستم اعتبارهای روزانه برای این افزونه ممکن است دسترسی کاربرانی که به آن نیاز دارند را محدود کند و در حفظ کارایی، به ویژه در دوره‌های اوج اطلاعات نادرست، چالش ایجاد کند.

مزایا و معایب شناسایی‌کننده صدای دیپ‌فیک Hiya

مزایا:
– نرخ دقت بالا: با نرخ موفقیت بیش از 99 درصد، این ابزار در کاهش قابل توجه نمونه‌های قربانی شدن به صداهای دیپ‌فیک به میزان زیادی مؤثر است.
– قدرت به کاربران: با ارائه شفافیت در مورد اصالت صدا، کاربران ممکن است کنترل بهتری بر مصرف رسانه‌های خود پیدا کنند.
– حمایت از تصمیم‌گیری آگاهانه: در زمینه انتخاب، توانایی شناسایی صداهای دیپ‌فیک می‌تواند به تصمیم‌گیری‌های آگاهانه‌تر رأی‌دهندگان بر اساس پیام‌های واقعی کاندیدها منجر شود.

معایب:
– اعتبارات استفاده محدود: نگرانی در مورد اعتبارهای روزانه محدود ممکن است موجب کاهش پذیرش گسترده، به ویژه در دوره‌های اطلاعات حیاتی شود.
– تکامل فناوری‌های دیپ‌فیک: با پیشرفت‌های مداوم در هوش مصنوعی، ممکن است این ابزار نیاز به به‌روزرسانی‌های مداوم داشته باشد تا مرتبط بماند و این چالشی برای پایداری و انتظارات کاربران ایجاد می‌کند.
– پتانسیل تسلیم‌پذیری: کاربران ممکن است به شدت به این فناوری وابسته شوند و توانایی‌های تحلیل انتقادی و ارزیابی رسانه‌ای خود را نادیده بگیرند.

با نزدیک شدن به فصل انتخابات، پیاده‌سازی ابزارهایی مانند شناسایی‌کننده صدای دیپ‌فیک Hiya پتانسیل تغییر نحوه تعامل ما با رسانه و سیاست را دارد و در عین حال چالش‌های جدیدی در چشم‌انداز دیجیتال به سرعت در حال تحول ارائه می‌دهد.

برای اطلاعات بیشتر در مورد دیپ‌فیک‌ها و فناوری‌های مرتبط می‌توانید به MIT Technology Review مراجعه کرده یا Wired را برای اخبار و بینش‌ها بررسی کنید.