Polis, yapay zeka tarafından üretilen çocuk cinsel istismarı görüntülerindeki küresel artış nedeniyle ebeveynlerin ve çocuklarla çalışan kuruluşların çocuk fotoğraflarını sosyal medyada paylaşmaktan kaçınması gerektiği uyarısında bulundu. Bir fotoğrafı yüklediğinizde kontrolü kaybettiğinizi belirten Emniyet Müdürü Anna Marie Xuereb, "En azından insanlar ne paylaştıklarına ve nerede paylaştıklarına çok dikkat etmeli" dedi.
Xuereb ve Sacco, polisin bilinçlendirme kampanyaları sırasında ebeveynlere mümkün olduğunca çocuklarının fotoğraflarını sosyal medyadan uzak tutmalarını tavsiye ettiğini söyledi. Ebeveynler fotoğraf paylaşmayı tercih ederse, uygun gizlilik ayarlarının yapılması ve yalnızca güvenilen kapalı gruplarda paylaşılması gerektiğini belirttiler. "Tüm ebeveynler Facebook'ta kendilerini kimlerin takip ettiğine dikkat etmiyor. Bazı hesaplar tamamen herkese açık, bu da kötü niyetli birinin görselleri indirmesini kolaylaştırıyor."
Ancak yetkililer, okullar veya kuruluşlar etkinlikler sırasında çocukların fotoğraflanması için izin istediğinde birçok ebeveynin baskı hissettiğini kabul etti. Xuereb, "Bazı ebeveynler akışına bırakıyor. Diğerleri ise izin vermeyen tek aile olmak istemedikleri için tereddüt ediyor. Çocuklardan da baskı geliyor" dedi. Yetkililer, kurumların öncülük etmesi gerektiğini düşünüyor. Sacco, "Bir çocuk, ebeveynleri izin vermediği için sınıf fotoğrafı sırasında kenara çekilmek zorunda kalırsa, bu onu zorbalığa maruz bırakabilir. Aynı zamanda çocuklara sürekli fotoğraf çekip çevrimiçi yüklemenin normal olduğunu öğretiyoruz" dedi.
Sacco, çocukların yüzlerine çıkartma veya emoji eklemenin çok az koruma sağladığı uyarısında bulundu. "Bunlar kolayca kaldırılabilir" dedi. Gizli olduğu varsayılan platformlar bile risk taşıyor. Sacco, "Bir WhatsApp grubu, içindeki kişiler arasındaki güven kadar güvenlidir. Ayrıca WhatsApp hesaplarının ele geçirilebileceğini de biliyoruz. Birisi hesabınızı ele geçirir ve yedeklere erişirse tüm fotoğraflarınıza ulaşabilir" dedi. Okul grup sohbetlerinde bazen çocukların sınıf arkadaşlarının fotoğraflarını düzenleyip orijinal grubun dışında dolaşıma soktuğuna dikkat çekti.
Polis, Malta'daki çocukların fotoğraflarının yabancılar tarafından manipüle edildiğine dair doğrulanmış vaka bilmese de Xuereb, bu tür vakaların tespit edilmemiş olabileceği uyarısında yaptı. Malta'daki çocuk cinsel istismarı materyali soruşturmalarının çoğu, büyük sosyal medya platformlarından ihbar alan ABD merkezli Kayıp ve İstismara Uğramış Çocuklar Ulusal Merkezi'nden (NCMEC) gelen raporlarla başlıyor. Bilgiler daha sonra Europol ve ulusal polis aracılığıyla iletiliyor. Xuereb, "Nüfusumuzu düşününce oldukça büyük miktarda materyal alıyoruz" dedi. Bu materyaller arasında yurt dışında üretilip Malta'da indirilen veya paylaşılan istismar görüntüleri de yer alıyor.
Polis ayrıca çocukların kendi ürettiği istismar materyallerinde de artış görüyor. Xuereb, "Geçen yıl yaklaşık 30 vaka vardı. Bazıları beş yaşındaki çocukların çıplak halde kendilerini videoya çekip genellikle ebeveynlerinin telefonu veya hesabı üzerinden yüklemesini içeriyordu" dedi. Polis tarafından arandıklarında ebeveynler genellikle şok oluyor. "Çocuk kayıt yaparken diğer odada ebeveynlerin konuştuğunu sık sık duyabiliyorsunuz." Polis ayrıca tanıdıkları kişilerin deepfake cinsel görüntülerini oluşturan az sayıda vakayı da soruşturdu.
Yetkililer, mağdurlar söz konusu olduğunda yasal süreçlerin daha hızlı işlemesi gerektiğini savundu. Hukuk uzmanı Antonio Ghio yakın zamanda Malta yasalarının yapay zeka deepfake'lerinin yükselişine ayak uyduramadığını söylemişti. Ghio, şu anda tamamen yeni bir deepfake oluşturmak için bir araç kullanmanın suç sayılmadığını belirtti. Xuereb ve Sacco, Malta yasalarına göre polisin, tuzak kurma anlamına gelebilecek şekilde şüpheli pedofillerle çevrimiçi gizli görüşmeler yapamayacağını kaydetti.
Şubat ayında hükümetin çocukları çevrimiçi ortamda daha iyi korumayı amaçlayan sosyal medya reformuyla ilgili kamuoyu istişaresi sona erdi. Henüz kamuoyuna herhangi bir sonuç bildirilmedi. Bu arada Avrupa Birliği, sosyal medya için asgari yaş sınırını yükseltme ve teknoloji platformlarına daha fazla sorumluluk yükleme önerileri de dahil olmak üzere daha güçlü yasaları tartışmaya devam ediyor.
Çocuk Komiseri ve Lisa Maria Vakfı çocuk koruma komitesi, çocuk görsellerinin çevrimiçi paylaşımında daha fazla dikkatli olunması çağrısında bulundu. Çocuk Komiseri Antoinette Vassallo, kuruluşların tanımlanabilir görselleri paylaşmanın gerçekten gerekli olup olmadığını dikkatlice değerlendirmesi gerektiğini söyledi. Okullar ve etkinlik sağlayıcılarının yapay zeka risklerini yansıtan çocuk koruma politikaları benimsemesi, bilgilendirilmiş ebeveyn onayı alması, uygun durumlarda çocukları kararlara dahil etmesi ve kişisel bilgileri açığa çıkaran görselleri paylaşmaktan kaçınması gerektiğini belirtti. "Ebeveynler çocukları için oluşturdukları uzun vadeli dijital ayak izini düşünmeli ve bir görselin gerçekten paylaşılması gerekip gerekmediğini sorgulamalı." Lisa Maria Vakfı da benzer bir mesaj verdi: "Ne yazık ki masumca paylaşılan görseller yanlış ellere geçebilir ve yapay zeka manipülasyonuna açık hale gelebilir. Bakıcılar olarak kendimize sormalıyız: Çocuğumun bu görselini gerçekten paylaşmam gerekiyor mu?"
Polis desteğine ihtiyaç duyanlar 119 numaralı Crime Stop hattını arayabilir veya www.pulizija.gov.mt ya da www.childwebalert.gov.mt adreslerini ziyaret edebilir.
