پس از شناسایی 200 عکس از کودکان استرالیایی در مجموعه داده ای که برای ایجاد تصاویر هوش مصنوعی استفاده می شود، فعالان ایمنی کودکان خواستار اصلاحات قانونی فوری هستند.
دیده بان حقوق بشر روز چهارشنبه پس از تجزیه و تحلیل تعداد کمی از تصاویر از پایگاه داده ای که برای آموزش ابزارهای محبوب هوش مصنوعی از جمله Midjourney و Stable Diffusion استفاده می شود، کشف خود را فاش کرد.
این داده ها که از منابع مختلف آنلاین گرفته شده است، شامل پیوندهایی به تصاویر نوزادان و کودکان نوپا استرالیایی است که برخی از آنها را می توان با نام یا پیش دبستانی که در آن حضور داشتند شناسایی کرد.
کارشناسان ایمنی کودک و هوش مصنوعی گفتند که این یافته بر نیاز به تغییرات فوری قانونی برای محافظت از حریم خصوصی کودکان و همچنین افزایش آموزش برای اطمینان از سوء استفاده از ابزارهای هوش مصنوعی مولد تاکید می کند.
دیده بان حقوق بشر برخی از 5.85 میلیارد تصویر و زیرنویس موجود در مجموعه داده LAION-5B را تجزیه و تحلیل کرد و 190 تصویر از کودکان استرالیایی را شناسایی کرد، از نوزادانی که بلافاصله پس از تولد عکس گرفته شده اند تا دانش آموزان مدرسه ای که برای هفته کتاب لباس پوشیده اند.
هی جونگ هان، محقق حقوق کودک و فناوری دیده بان حقوق بشر گفت: این کشف باید والدین و سیاست گذاران را نگران کند، زیرا از این تصاویر می توان برای ایجاد تصاویر جعلی استفاده کرد که کودکان را در معرض خطر قرار می دهد.
او می‌گوید: «کودکان نباید در ترس از دزدیده شدن عکس‌هایشان و استفاده از آنها به عنوان سلاحی زندگی کنند.
دولت استرالیا باید فورا قوانینی را برای محافظت از داده های کودکان در برابر سوء استفاده از هوش مصنوعی وضع کند.
خانم خان گفت که برخی از این تصاویر به صورت آنلاین در دسترس عموم نیستند و از وب سایت های مدرسه یا ویدیوهای موجود در یوتیوب گرفته شده اند.
LAION، شرکت غیرانتفاعی آلمانی که مجموعه داده‌ها را اجرا می‌کند، گفت که تصاویر قابل شناسایی را از مجموعه داده‌های خود حذف کرده است، اگرچه خانم خان گفت که مدل‌های هوش مصنوعی داده‌هایی را که بر روی آنها آموزش دیده‌اند را فراموش نمی‌کنند.
سارا دیویس، مدیر اجرایی بنیاد آلانا و مدلین، این افشاگری را “وحشتناک” خواند و گفت که این افشاگری بر نیاز به حفاظت بیشتر از حریم خصوصی کودکان تحت قوانین استرالیا تاکید دارد.
او گفت: “کودکان حق دارند در جایی که زندگی می کنند، یاد بگیرند و بازی کنند، از جمله آنلاین، ایمن باشند.”
“تغییر در قوانین، مقررات و شیوه های صنعت برای جلوگیری و رسیدگی به تخلفات مشابه در آینده به فوریت مورد نیاز است.”
دکتر ایوی کندال، متخصص اخلاق زیستی دانشگاه سوئینبرن، گفت که تصاویر این کودکان عمومی یا محدود بوده و بدون رضایت مناسب استفاده می شود.
او گفت: «ممکن است والدین با انتشار عکس‌های فرزندانشان در وب‌سایت مدرسه موافقت کرده باشند… اما این بدان معنا نیست که آنها با جمع‌آوری این تصاویر برای مجموعه داده‌های هوش مصنوعی موافقت کرده‌اند».
هنگامی که این تصاویر وجود دارند، می توان آنها را تغییر داد، می توان از آنها به روشی بسیار نامناسب استفاده کرد، و فقط هیچ کنترلی برای آن وجود ندارد.”
دکتر کندال گفت، علاوه بر محدودیت‌های حریم خصوصی، استرالیایی‌ها از آموزش و آموزش بیشتر در زمینه استفاده اخلاقی از فناوری هوش مصنوعی بهره خواهند برد تا از داده‌های جمع‌آوری‌شده برای ایجاد آسیب استفاده نشود.
انتظار می رود دولت فدرال اصلاحاتی را در قانون حفظ حریم خصوصی، از جمله کد حریم خصوصی آنلاین کودکان، در ماه اوت به پارلمان ارائه کند.