جلوگیری از انتشار محتوای فیک توسط AI در رأی‌گیری
0 نظر
در کنفرانس امنیت مونیخ، شرکت‌هایی از جمله اوپن ای آی، مایکروسافت و ادوبی توافق کردند که همکاری کنند تا ابزارهای ردیابی برای تصاویر و ویدئو‌های ساخت و ساز شده با AI را توسعه دهند. این اقدام برای جلوگیری از انتشار محتوای فریبکارانه و اختلال در رأی‌گیری قرار گرفت. این توافقنامه شامل تعهدات برای آموزش رای دهندگان درباره محتوای فریبکارانه است و فناوری برای شناسایی محتوای ساخت و ساز شده با AI مورد بررسی قرار گرفته است.
به گزارش دیجیاتور به نقل از رویترز، رشد سریع AI قادر به ساخت و ساز متن، تصویر و ویدئو در چندثانیه است که همین موضوع نگرانی هایی درباره استفاده از این فناوری برای ایجاد اختلال در رأی‌گیری های سال جاری میلادی، به وجود آورده است.
امضا کنندگان این توافقنامه که در کنفرانس امنیت مونیخ اعلام شد، شرکت هایی هستند که مدل های AI مولد برای ساخت و ساز محتوا می سازند، از جمله از اوپن ای آی، مایکروسافت و ادوبی. دیگر امضا کنندگان شامل بستر نرم‌افزاری های اجتماعی مانند متا، تیک تاک و ایکس هستند که با چالش دور نگه داشتن بستر نرم‌افزاری هایشان از محتوای مخرب دست وپنجه نرم می کنند.
توافقنامه مذکور شامل تعهداتی برای همکاری جهت توسعه ابزارهای ردیابی تصاویر ، ویدئو و صوت های گمراه کننده ساخت و ساز شده با AI، برگزاری طرح تبلیغاتی آگاهی همگانی برای آموزش به رای دهندگان درباره محتوای فریبکارانه و انجام اقداماتی درباره ظهور چنین محتوایی در بستر نرم‌افزاری هایشان، است.
فناوری برای شناسایی محتوای ساخت و ساز شده با AI یا تایید منبع یک محتوا شامل نصب واترمارک یا تعبیه متا داده در آن است. البته در توافقنامه مهلت خاصی برای عمل به تعهدات یا شیوه اجرای آنها توسط هر شرکت، تعیین نشده است.
نیک کلگ رییس امور جهانی متا پلتفرمز در این باره می گوید: تصور می کنیم کارآمدی این توافقنامه به وسعت شرکت هایی است که آن را امضا می کنند.
این درحالی است که چندی قبل دیپ فیک صدای رییس جمهور آمریکا دردسرساز شد و تماس های مکاترونیک با این صوت از حدود ۲۵ هزار رای دهنده یک ایالت خواسته تا در رأی‌گیری مقدماتی شرکت نکنند. پس از آن کمیسیون فدرال مخابرات آمریکا (FCC) اعلام کرد تماس هایی که با صوت ساخت و ساز شده با AI گرفته می شوند، غیرقانونی هستند.
پیشرفت سریع AI و نگرانی‌های مربوط به استفاده از آن برای مداخله در رأی‌گیری سال جاری علاوه بر تأیید منبع یک محتوا اهمیت پیدا کرده است.