Yapay zeka tarafından üretilen videoların internette nefret ve ırkçılığı yaymasıyla endişeler artıyor: 'Güvenlik kuralı yok'
İlk bakışta yapay zekanın insanları güldürmek için ürettiği ilginç bir video klibi gibi görünüyor.
Videoda, kovboy şapkası ve Amerikan bayrağı desenli bir yelek giymiş, tüylü bir Bigfoot bir kamyonetin direksiyonunda oturuyor.
"Bugün LGBT yürüyüşüne gidiyoruz," diyor maymun benzeri yaratık gülerek. "Bayılacaksın."
Ardından Bigfoot çığlık atan, bazıları gökkuşağı bayrakları tutan bir kalabalığın arasından geçerken olaylar şiddetli ve rahatsız edici bir hal alır.
Haziran ayında AmericanBigfoot TikTok sayfasında yayınlanan klip, 360 binden fazla izlenme ve yüzlerce yorum aldı; yorumların çoğu videoyu alkışlıyordu.
Son aylarda yapay zeka tarafından üretilen benzer içerikler sosyal medya platformlarını doldurdu, açıkça şiddeti teşvik etti ve LGBTQ+, Yahudi, Müslüman ve diğer azınlık gruplarına mensup kişilere karşı nefret yaydı.
Hikaye reklamın altında devam ediyor
Bu videoların çoğunun kaynağı belirsiz olsa da, sosyal medyada yayılmaları uzmanlar ve savunucular arasında öfke ve endişeye yol açıyor. Bu kişiler, Kanada düzenlemelerinin yapay zeka tarafından üretilen nefret içeriklerinin hızına yetişemediğini ve kamu güvenliğine yönelik riskleri yeterince ele almadığını söylüyor.
Saskatchewan başbakanı, kendisi ve Carney'nin yapay zeka 'deepfake'lerinin yaratıcılarını yakalayacak
LGBTQ+ savunuculuğu yapan bir kuruluş olan Egale Canada, topluluğun sosyal medyada transfobik ve homofobik yanlış bilgi içeriklerinin artışından endişe duyduğunu söylüyor.
İcra Direktörü Helen Kennedy yaptığı açıklamada, "Bu yapay zeka araçları, trans ve cinsiyet çeşitliliğine sahip insanları insanlıktan çıkarmak ve itibarsızlaştırmak için silah olarak kullanılıyor ve mevcut dijital güvenlik yasaları bu yeni tehdidin ölçeğini ve hızını ele almada başarısız oluyor" dedi.
Kennedy, hızla gelişen teknolojinin kötü niyetli kişilere yanlış bilgi ve nefret yaymak için güçlü bir araç sağladığını, trans bireylerin orantısız bir şekilde hedef alındığını söyledi.
Hikaye reklamın altında devam ediyor
Kanada Nefret Karşıtı Ağı'nın yönetici direktörü Evan Balgord, LGBTQ+ topluluğunun tek hedef olmadığını söyledi. Üretken yapay zeka araçlarıyla üretilen İslamofobik, Yahudi karşıtı ve Güney Asyalı karşıtı içeriklerin de sosyal medyada yaygın olarak dolaştığını belirtti.
Balgord, telefonla verdiği röportajda, "Bu gruplara yönelik şiddetin kutlandığı bir ortam yaratıldığında, bu gruplara yönelik şiddetin şahsen veya sokakta gerçekleşmesi daha olası hale geliyor" uyarısında bulundu.
Kanada'nın dijital güvenlik yasalarının zaten geride kaldığını ve yapay zekadaki gelişmelerin işleri daha da karmaşık hale getirdiğini söyledi.
Günün en önemli haberlerini, siyasi, ekonomik ve güncel olay başlıklarını günde bir kez e-posta kutunuza alın.
Hikaye reklamın altında devam ediyor
Ontario Tech Üniversitesi'nde hukuk çalışmaları profesörü ve çevrimiçi güvenlik konusunda kapsamlı araştırmalar yapan Andrea Slane, zararlı çevrimiçi içerikleri ele almayı ve düzenleyici bir yapay zeka çerçevesi oluşturmayı amaçlayan yasa tasarılarının, Ocak ayında Parlamento'nun tatil edilmesiyle birlikte rafa kalktığını söyledi.
Slane, hükümetin çevrimiçi zararlar mevzuatını yeniden gözden geçirmesi ve yasa tasarısını "acilen" yeniden sunması gerektiğini söyledi.
"Kanada'nın gerçekten harekete geçmesi gereken bir durumda olduğunu düşünüyorum" dedi.
Adalet Bakanı Sean Fraser, Haziran ayında The Canadian Press'e yaptığı açıklamada, federal hükümetin Çevrimiçi Zararlar Yasası'na "yeniden" bir bakış açısı getireceğini, ancak yasayı yeniden mi yazacağına yoksa sadece yeniden mi yürürlüğe koyacağına henüz karar vermediğini söyledi. Yasa tasarısı, diğer hususların yanı sıra, sosyal medya platformlarını zararlı içeriklere maruz kalmayı azaltma konusunda sorumlu tutmayı amaçlıyordu.
Yeni kurulan Yapay Zeka ve Dijital İnovasyon Bakanlığı'nın sözcüsü, hükümetin özellikle savunmasız azınlık gruplarını hedef alan yapay zeka kaynaklı nefret içerikleri konusunu ciddiye aldığını söyledi.
Alberta'lı bir kızın futbol koçu, yapay zeka kullanarak çocuk pornosu yapmakla suçlandı
Sofia Ouslis, mevcut yasaların "önemli korumalar" sağladığını söyledi ancak bu yasaların tasarlanırken üretken yapay zeka tehdidini ele almayı amaçlamadığını kabul etti.
Hikaye reklamın altında devam ediyor
"Yapay zeka araçlarının nasıl kullanıldığını ve kötüye kullanıldığını ve güvenlik bariyerlerini nasıl güçlendirebileceğimizi anlamak için gerçek bir ihtiyaç var," dedi bir açıklamada. "Bu çalışma devam ediyor."
Ouslis, çalışmanın mevcut çerçeveleri gözden geçirmeyi, mahkeme kararlarını izlemeyi ve "hem hukuk hem de teknoloji uzmanlarını dikkatle dinlemeyi" içerdiğini söyledi. Başbakan Mark Carney hükümetinin ayrıca, rızaya dayanmayan cinsel deepfake içeriklerin dağıtımını suç haline getirmeyi taahhüt ettiğini de sözlerine ekledi.
"Hızla gelişen bu alanda, düzenlemeleri doğru yapmanın, çok hızlı hareket edip yanlış yapmaktan daha iyi olduğuna inanıyoruz" diyen Ottawa'nın Avrupa Birliği ve Birleşik Krallık'tan ders çıkarmak istediğini belirtti.
Slane, Avrupa Birliği'nin yapay zekayı düzenleme ve dijital güvenliği sağlama konusunda diğerlerinden önde olduğunu, ancak "ön saflarda" olmasına rağmen daha fazla şey yapılması gerektiği hissinin bulunduğunu söyledi.
Uzmanlar, sosyal medya devleri tarafından dağıtılan içeriklerin düzenlenmesinin özellikle zor olduğunu, çünkü bu şirketlerin Kanadalı olmadığını söylüyor.
'Beyaz yakalıların kan gölü': Yapay zeka giriş seviyesi ofis işlerini mahvedecek mi?
Slane, bir diğer karmaşık faktörün de sınırın güneyindeki mevcut siyasi iklim olduğunu, ABD'li teknoloji şirketlerinin daha az düzenleme ve kısıtlamalarla karşılaştığını, bunun da onları "daha güçlü ve daha az sorumlu hissettirdiğini" söyledi.
Hikaye reklamın altında devam ediyor
Güvenilir Yapay Zeka alanında Kanada Araştırma Kürsüsü Başkanı Peter Lewis, üretken yapay zekanın birkaç yıldır var olmasına rağmen, son aylarda çoğunlukla ücretsiz veya çok düşük bir fiyata sunulan araçları kullanarak kaliteli videolar üretmeyi kolaylaştıran bir "atılım" yaşandığını söyledi.
"Şunu söylemeliyim ki, biraz teknik bilgiye ve doğru araçlara sahip olan hemen hemen herkesin bunu yapması mümkün." dedi.
Ontario Tech Üniversitesi'nde yardımcı doçent olarak görev yapan Lewis, ChatGPT gibi büyük dil modellerinin zararlı veya yasa dışı içerikleri filtrelemek amacıyla güvenlik önlemleri uyguladığını söyledi.
Ancak video alanında bu tür bariyerlerin oluşturulması için daha fazla şey yapılması gerektiğini söyledi.
"Videoyu izleyip muhtemelen dehşete düşebiliriz," diyen uzman, "Yapay zeka sisteminin yarattığı şeyi yansıtma yeteneğine sahip olup olmadığı kesin değil," diye ekledi.
Çin yamaç paraşütünün viral videosu muhtemelen yapay zeka görüntüleriyle düzenlendi
Lewis, hukuk uzmanı olmadığını ancak mevcut yasaların AmericanBigfoot videolarında nefret ve şiddetin çevrimiçi olarak yüceltilmesine karşı mücadele etmek için kullanılabileceğine inandığını söyledi.
Hikaye reklamın altında devam ediyor
Ancak, üretken yapay zekanın hızla gelişmesi ve yeni araçların yaygın olarak bulunmasının "yeni bir teknolojik çözüm" gerektirdiğini ve hükümetler, tüketiciler, savunucular, sosyal platformlar ve yapay zeka uygulama geliştiricileri arasında sorunun ele alınması için iş birliğinin gerekli olduğunu da sözlerine ekledi.
"Bu şeyler yükleniyorsa... bunları mümkün olduğunca çabuk internetten kaldırabilmek için gerçekten güçlü, duyarlı işaretleme mekanizmalarına ihtiyacımız var." dedi.
Lewis, yapay zeka araçlarının bu tür videoları tespit edip işaretlemesinin faydalı olduğunu ancak sorunu çözmeyeceğini söyledi.
Saskatchewan başbakanı, kendisi ve Carney'nin yapay zeka 'deepfake'lerinin yaratıcılarını yakalayacak
Çalışma, ChatGPT'nin tavsiye arayan kullanıcılara yarısından fazlasında tehlikeli yollarla yanıt verdiğini buldu
