Instagram’ın yapay zeka tarafından oluşturulan içerikleri tespit etmek ve kullanıcıların sentetik görselleri ayırt etmesine yardımcı olmak amacıyla kullandığı sistem, yeniden tartışmaların odağına yerleşti. Platformda son dönemde çok sayıda kullanıcı, herhangi bir üretken yapay zeka aracıyla oluşturulmayan veya yapay zekayla anlamlı biçimde değiştirilmemiş gerçek fotoğrafların “Yapay Zeka İçeriği” etiketiyle işaretlendiğini bildiriyor.
Sorunun özellikle görseller üzerinde gerçekleştirilen bazı basit düzenlemelerin ardından ortaya çıktığı belirtiliyor. Kullanıcı deneyimleri, Instagram’ın görselin gerçekten yapay zeka tarafından üretilip üretilmediğini anlamak yerine, bazı düzenleme işlemlerini yapay zeka kullanımıyla ilişkilendirebildiğine işaret ediyor. Bu durum, sosyal medya platformlarının yapay zeka içeriklerini belirleme konusunda kullandığı otomatik sistemlerin yanlış pozitif sonuç üretme riskini yeniden gündeme taşıdı.
Kullanıcıların paylaştığı örneklerde özellikle Canva gibi tasarım ve fotoğraf düzenleme platformlarının arka plan kaldırma araçlarının sorun yaratabildiği görülüyor. Bazı kullanıcılar, yalnızca bir fotoğrafın arka planını değiştirmek veya kaldırmak için ilgili aracı kullandıktan sonra Instagram gönderisinin otomatik olarak yapay zeka içeriği şeklinde etiketlendiğini belirtiyor. Başka bir kullanıcı ise fotoğrafındaki yalnızca küçük bir kusuru gidermek amacıyla Canva’da düzenleme yaptığını ve bunun ardından görselin yapay zeka tarafından oluşturulmuş gibi işaretlendiğini aktarıyor.
Buradaki temel sorun, bir görselin yapay zeka destekli bir araçla düzenlenmesi ile görselin tamamen yapay zeka tarafından oluşturulmasının aynı şey olmaması. Örneğin bir fotoğrafın arka planını kaldırmak, bir nesneyi kadrajdan çıkarmak veya küçük bir görüntü kusurunu düzeltmek, fotoğrafın tamamının sentetik olduğu anlamına gelmiyor. Ancak otomatik etiketleme sistemleri bu ayrımı her zaman doğru şekilde yapamayabiliyor.
Meta, yapay zeka içeriklerinin etiketlenmesi konusundaki yaklaşımını daha önce değiştireceğini açıklamıştı. Şirket 2024 yılında, bir görselde yapay zekanın ne ölçüde kullanıldığına daha fazla dikkat eden bir etiketleme yaklaşımına geçmeyi planladığını duyurmuştu. Meta ayrıca kendi araçları dışındaki şirketlerin yapay zeka araçları tarafından oluşturulan içeriklerde bulunan sektör standardındaki sinyallerden yararlandığını belirtmişti.
Ancak şirketin kullandığı sistemin teknik ayrıntıları konusunda kamuoyuna kapsamlı bilgi verilmemesi, yanlış etiketleme tartışmalarının önemli nedenlerinden biri olarak öne çıkıyor. Kullanıcıların karşılaştığı etiketlerin hangi teknik sinyale dayanarak oluşturulduğu, bir görselin hangi düzenleme sonrasında yapay zeka içeriği olarak sınıflandırıldığı ve sistemin yanlış pozitif sonuçları nasıl değerlendirdiği konusunda yeterince şeffaf bilgi bulunmuyor.
Sorunun yalnızca bireysel kullanıcılarla sınırlı kalmaması da dikkat çekiyor. Halsey tarafından kurulan kozmetik markası About Face tarafından paylaşılan bazı görsellerin de yapay zeka içeriği olarak etiketlendiği bildirildi. Markanın sosyal medya yönetiminden sorumlu olduğu belirtilen bir yetkili ise söz konusu görsellerin hazırlanmasında yapay zeka kullanılmadığını ifade etti. Böylece yanlış etiketleme sorununun yalnızca kişisel hesapları değil, markaların sosyal medya iletişimini de etkileyebileceği ortaya çıktı.
Canva tarafında da benzer bir durumun farkında olunduğu görülüyor. Platform, bazı yardımcı yapay zeka özelliklerinin Instagram tarafından yanlış biçimde üretken yapay zeka kullanımı olarak değerlendirilebildiğini açıklamıştı. Buna karşın kullanıcıların arka plan kaldırma gibi özellikleri kullandıktan sonra bile yanlış etiketlerle karşılaşmaya devam ettiklerine ilişkin bildirimler bulunuyor.
Bu durum sosyal medya platformları açısından daha büyük bir probleme işaret ediyor. Yapay zeka ile oluşturulan içeriklerin hızla çoğalması, platformları gerçek ve sentetik içerikleri birbirinden ayırabilecek otomatik sistemler geliştirmeye zorluyor. Ancak tespit sistemlerinin fazla hassas çalışması gerçek içeriklerin de yapay zeka üretimi olarak gösterilmesine, yeterince hassas olmaması ise gerçekten yapay zeka tarafından oluşturulan içeriklerin etiketsiz kalmasına neden olabiliyor.
Instagram açısından ortaya çıkan tablo tam olarak bu ikili riskin bir örneği. Bir tarafta gerçek fotoğrafların yanlışlıkla yapay zeka içeriği olarak işaretlenmesi, diğer tarafta ise gerçekten yapay zeka tarafından oluşturulan bazı görsellerin herhangi bir uyarı olmadan platformda dolaşabilmesi bulunuyor. Kullanıcıların aktardığı deneyimler, sistemin her iki yönde de kusursuz çalışmadığını gösteriyor.
Özellikle içerik üreticileri ve markalar açısından yanlış etiketleme önemli sonuçlar doğurabilir. Bir fotoğrafın yapay zeka tarafından oluşturulduğu izleniminin oluşması, içeriğin güvenilirliği konusunda takipçilerin algısını değiştirebilir. Haber, moda, reklam, sanat ve ürün tanıtımı gibi görsel içeriğin önemli olduğu alanlarda bu durum daha da kritik hale geliyor. Bir içeriğin gerçek olup olmadığı konusunda kullanılan etiketin kendisinin yanlış olması, platformun güvenilirliğini de doğrudan etkileyebilir.
Öte yandan yapay zeka etiketleme sistemlerinin temel amacının kullanıcı güvenini artırmak olduğu düşünüldüğünde, yanlış etiketlerin yaygınlaşması ters bir etki yaratabilir. Kullanıcılar zaman içinde gerçek fotoğrafların da sürekli olarak “AI İçeriği” şeklinde etiketlendiğini görürse, bu etikete olan güven azalabilir. Böyle bir durumda gerçekten yapay zeka tarafından oluşturulmuş içeriklerde kullanılan etiketler de anlamını yitirebilir.
Burada teknoloji şirketlerinin karşı karşıya olduğu en önemli sorunlardan biri “AI kullanıldı mı?” sorusundan ziyade “AI ne amaçla ve ne ölçüde kullanıldı?” sorusunu doğru cevaplayabilmek. Basit bir arka plan temizleme işlemi ile tamamen yapay bir insan yüzünün veya gerçek olmayan bir fotoğrafın oluşturulması aynı kategoride değerlendirilmemeli. Kullanıcının yalnızca küçük bir düzenleme yaptığı gerçek fotoğraf ile sıfırdan üretilmiş sentetik bir görsel arasındaki farkın sistem tarafından anlaşılabilmesi gerekiyor.
Meta’nın gelecekte bu konuda daha ayrıntılı ve daha şeffaf bir yaklaşım benimsemesi, hem kullanıcıların hem de içerik üreticilerinin güveni açısından önem taşıyor. Yapay zeka etiketlerinin yalnızca var olması değil, doğru olması da gerekiyor. Aksi halde yapay zeka içerikleriyle mücadele etmek için geliştirilen sistem, gerçek içeriklerin yanlış sınıflandırılmasına ve kullanıcıların etiketleme mekanizmasına olan güveninin azalmasına yol açabilir.
Instagram’daki son gelişmeler, sosyal medya platformlarının yapay zeka çağında yalnızca sentetik içerikleri tespit etmesinin yeterli olmadığını da gösteriyor. Doğru tespit, doğru sınıflandırma ve şeffaflık, önümüzdeki dönemde platformların içerik politikalarının en önemli üç unsuru haline gelecek. Instagram’ın karşılaştığı yanlış etiketleme vakalarının artması ise bu teknolojilerin henüz hatasız bir noktaya ulaşmadığını bir kez daha ortaya koyuyor.








