ماسک سازان هوش مصنوعی مجدداً معرفی می شوند تا چهره های واقعی را که آموخته اند نشان دهند

با این حال ، فرض بر این است که شما می توانید این اطلاعات را در اختیار داشته باشید ، کائوتز می گوید. او و همکارانش در انویدیا روشهای متفاوتی را برای افشای اطلاعات شخصی ارائه کرده اند ، از جمله تصاویر صورت و سایر تصاویر ، اطلاعات پزشکی و موارد دیگر که مطلوب نیست. دسترسی به تمام اطلاعات.

در عوض ، آنها فرایندهایی را ایجاد می کنند که می توانند داده هایی را که مدل ارائه کرده است با بازگرداندن مراحلی که مدل هنگام پردازش آن داده است ، بازسازی کنند. معرفی شبکه آگاه به تصویر: برای شناسایی آنچه در تصویر است ، شبکه از طریق لایه های هوش مصنوعی از طریق آن عبور می کند. هر لایه سطوح مختلف مواد را از لبه ها تا تصویر جدا می کند تا بیشتر نمایان شود.

تیم کائوتز دریافتند که می توانند مدل را در وسط این مراحل رهگیری کرده و دستورالعمل های آن را معکوس کرده و تصویر ورودی را از داده های داخلی مدل دوباره ایجاد کنند. آنها فرایند انواع مدل های تشخیص تصویر و GAN ها را آزمایش کرده اند. در یک آزمایش ، به آنها نشان داده شد که می توانند تصاویر را از ImageNet ، یکی از شناخته شده ترین فایل های تشخیص تصویر ، بازسازی کنند.

NVIDIA

بر اساس کار وبستر ، تصاویری را که شبیه چیز واقعی هستند دوباره ایجاد کنید. کائوتز گفت: “ما از عملکرد باورنکردنی شگفت زده شدیم.”

دانشمندان معتقدند که این نوع حمله فقط یک نظریه ساده نیست. تلفن های هوشمند و دیگر دستگاه های کوچک استفاده از AI را بیشتر و بیشتر کرده اند. به دلیل محدودیت های باتری و حافظه ، مدل گاهی اوقات فقط نصف خود دستگاه را تکمیل می کند و برای آخرین تعداد خرابی به ابر ارسال می شود ، روشی به نام شمارش تقسیم. کائوتز گفت ، دانشمندان به طور کلی فکر می کنند که به اشتراک گذاری داده ها اطلاعات شخصی تلفن شخص را فاش نمی کند ، زیرا این فقط یک مدل مشترک است. اما اعتراض او نشان می دهد که اینطور نیست.

کائوتز و همکارانش در حال حاضر برای محافظت از مدل ها در برابر داده های خصوصی کار می کنند. او می گوید ما می خواهیم خطرات را درک کنیم تا بتوانیم آسیب پذیری ها را کاهش دهیم.

اگرچه آنها از تکنیک های بسیار متفاوتی استفاده می کنند ، اما او فکر می کند که کار او و وبستر یک کار را انجام می دهند. تیم وبستر گزارش داد که داده های خصوصی را می توان در قالب های طراحی مشاهده کرد. تیم کائوتز پیشنهاد می کند که اطلاعات شخصی را می توان با بازیابی و ایجاد مجدد ایده ها افشا کرد. کائوتز گفت: “تحقیقات برای درک بهتر پیشگیری از حملات مهم است.”