4Chan Kullanıcısı, Emma Watson'ın Sesini Deepfake Etmek İçin Yapay Zeka Ses Simülatörü Kullanırken İnternet Silahlandı, Ona Hitler'in Otobiyografisini Okuttu
Eski Google ve Palantir çalışanları birlikte, yapay zeka ses klonlama araçları aracılığıyla ünlülerin yüksek kaliteli sesli derin sahtelerini oluşturmayı amaçlayan Elevenlabs girişimini başlattı. Ancak beta lansmanı, yapay zeka ses klonlama aracı aracılığıyla Emma Watson da dahil olmak üzere ünlülerin seslerini kötüye kullanmasıyla kısa süre sonra geri tepti.
Bazı troller, en sevdikleri ünlülerin seslerini çirkin yorumlar iletmek için kötüye kullandıktan sonra, birçok hayran yapay zeka aracının etik dışı ve ahlaksız kullanımına öfkelendi. Ancak girişim, herkese daha fazla sorunu önlemek için modelini değiştireceklerine dair güvence verdi.
4Chan kullanıcısı yapay zeka aracıyla Emma Watson'ın sesini kötüye kullandığında hayranlar öfkelendi
Elevenlabs'ın AI ses klonlama aracının tanıtımı, çok sayıda trol bu ücretsiz aracın kullanımını istismar ettikten sonra interneti ateşe verdi. Birçoğu sağlıklı içerik oluşturmak için yazılımı kullanıyor olsa da, internetin bir kısmı aracı ünlüleri ırkçı hakaretler ve çirkin yorumlar kusmak için kötüye kullandı ve kötüye kullanılması Emma Watson'ın sesi bardağı taşıran son damla oldu.
Son zamanlarda. Anakart, saldırgan derin sahte ses oluşturmak için AI yazılımının aşırı derecede kötüye kullanıldığını bildirdi. Ancak bardağı taşıran son damla, videonun bir klibini oluşturan bir 4Chan kullanıcısıydı. Harry Potter yıldız Emma Watson okuma Kavgam , Nazi diktatörü Adolf Hitler'in otobiyografisi.
Hayranlar, yazılımın Emma Watson ve Joe Rogan, Robin Williams gibi diğer ünlü ünlüler hakkında bu etik dışı kullanımı karşısında öfkelendiler. Teknolojiyi halka sunan Elevenlabs, büyüyen bu sorunu ele aldı ve ses klonlama araçlarının kötüye kullanılması.
Ayrıca okuyun: 'Azkaban Tutsağı' Yönetmeni Harry Potter Üçlüsünden Karakterleri Üzerine Bir Deneme Yazmasını İstedi – Emma Watson 16 Sayfa Yazdı, Daniel Radcliffe 1 Sayfa Özeti Vardı, Rupert Grint Bir Deneme Yazmadı
Elevenlabs, AI aracının daha fazla kötüye kullanılmasını önleme sözü verdi
Birçoğu sağlıklı yaratım için AI ses klonlama aracını kullandığından, Startup başlangıçta kendilerine verilen olumlu yanıttan bunalmıştı. Ancak troller yazılımı hain amaçlarla kullanmaya başladıktan sonra şirket kısa süre sonra bir sorunla karşılaştı. Elevenlabs, internete konuyu derinlemesine incelediklerine ve olası çözümleri bulduklarına dair güvence verdi.
Elevenlabs'ın yaratıcıları, yapay zeka aracının gücünü kötüye kullanan kullanıcıların izini sürebileceklerini kabul etseler de, bu sorunu önlemek için ek güvenlik önlemleri arıyorlar. İçerik oluşturucular, konuyla başa çıkmak için, her bir klonlama için manuel doğrulamanın tanıtılması ve ödeme veya başka herhangi bir yöntemle kullanıcının tam kimliğinin doğrulanması dahil olmak üzere farklı fikirler paylaştı.
Startup'ın beta testi karışık bir başlangıç yapsa da, pek çok hayran yapay zeka aracı aracılığıyla ünlü seslerin, özellikle de Emma Watson'ın etik olmayan bir şekilde kullanılmasına öfkelendi. Ancak insanlar, girişimi durumu gözden kaçırmadığı ve bu internet trolleriyle başa çıkmak için aktif önlemler aldığı için de kabul etti.
Kaynak: yardımcısı
