Çin'de 'dijital insanlar' dönemi: Ölen yakınlarıyla yapay zekayla buluşuyorlar
Pekin (Rûdaw) - Babasını kanserden kaybettikten sonra derin bir yas sürecine giren Zhang Xin Yu, teselliyi yapay zeka teknolojisinde buldu. Zhang, babasının tıpatıp aynısı olan ve onun sesiyle konuşan bir dijital avatar (dijital insan) oluşturdu. Çin’de hızla yayılan bu "dijital yas" fenomeni, beraberinde getirdiği etik tartışmalar ve dolandırıcılık riskleri nedeniyle Pekin yönetimini harekete geçirdi.
Çin İnternet Denetleme Kurumu, bu yeni nesil teknolojiyi kontrol altına almak için sert kurallar getirmeye hazırlanıyor.
Şu an Çin sosyal medya platformlarının her köşesinde bu dijital varlıklara rastlamak mümkün. Son derece doğal hareketleri ve ses tonlarıyla dikkat çeken bu karakterler, sadece yas süreçlerinde değil, ürün tanıtımlarından reklamlara kadar pek çok alanda kullanılıyor.
Ancak teknolojinin bu denli hızlı yayılması, toplumsal huzurun korunması ve kişisel hakların ihlal edilmesi noktasında ciddi endişelere yol açıyor.
Yeni yasa teklifiyle; çocukların korunması, toplumun etik değerlerinin gözetilmesi ve kişilerin rızası olmadan sahte dijital kimliklerinin oluşturulmasının engellenmesi hedefleniyor.
Sahte teselli, gerçek sevgi
Babasını kaybetmenin yarattığı yalnızlıkla başa çıkmak için iki yıl önce bir teknoloji şirketine başvuran 47 yaşındaki Zhang, bugün internet üzerinden babasının görüntüsü ve sesiyle sohbet edebiliyor.
Bu yöntemin kendisine anında enerji verdiğini ve huzur bulmasını sağladığını belirten Zhang, arkadaşlarının "gerçeklikten kopma" uyarılarına rağmen duruşunu koruyor. Zhang, "Avatarın sunduğu teselli sahte olsa bile, onun arkasındaki sevgi benim için çok gerçek" diyerek yaşadığı duygusal bağı savunuyor.
Çin’de "dijital insan" endüstrisinin yarattığı pazar, 2024 yılında 600 milyon dolara ulaşırken, sektörün her yıl yüzde 85 oranında devasa bir büyüme kaydettiği belirtiliyor.
"İyi yalanlar" ve etik sınırlar
Pekin’in gündemindeki yeni düzenleme, yapay zeka ile üretilen her türlü içeriğin "yapay" olduğunun açıkça belirtilmesini zorunlu kılıyor.
Özellikle "deepfake" teknolojisiyle bir başkasının kimliğini kopyalamak, sahibinden izin alınmadığı sürece yasaklanacak.
Ölen kişilerin avatarlarını üreten Super Brain şirketinin kurucusu Zhang Zewei, bu kuralların teknolojik büyüme ile hakların korunması arasında bir denge kurmak için gerekli ve olumlu olduğunu savunuyor.
Yakın zamanda Çin’de yayılan bir videoda, oğlunun öldüğünden habersiz olan yaşlı bir kadının, görüntülü aramada oğlunun dijital avatarıyla konuştuğu görülmüştü.
Ailenin "onu üzmemek için" başvurduğu bu "iyi yalan" yöntemi, yapay zekanın etik sınırları ve istismara açıklığı konusundaki tartışmaları yeniden alevlendirdi.
Ağır cezalar ve çocukların korunması
Çin hükümeti, yapay zeka alanındaki liderliğini korurken bu gelişimin kontrolden çıkmasını engellemekte kararlı görünüyor.
Yeni kuralları ihlal eden kişi veya kurumlara yaklaşık 30 bin dolara varan ağır para cezaları verilmesi öngörülüyor. Yasaların öncelikli hedeflerinden biri de çocukların korunması.
Düzenleme, çocuklar için duygusal yapay zeka bağları öneren veya onları şiddet ve kötü alışkanlıklara teşvik eden hizmetleri kesin bir dille yasaklıyor. Bu hamleyle Çin, dijital geleceğini hem teknolojik hem de hukuki olarak güvence altına almayı amaçlıyor.