Yapay zeka Claude'un sırları internete düştü: Rüyalar ve gizli görevler erişime açıldı
Haber Merkezi - Yapay zeka devi Anthropic, popüler aracı Claude Code’un kaynak kodlarını yanlışlıkla sızdırıldı.
Gazete Oksijen’de yer alan habere göre, şirketin 380 milyar dolarlık değerlemesini sarsan hata; yapay zekanın "rüya görme" tekniklerinden gizli çalışma talimatlarına kadar tüm ticari sırları rakiplerin ve korsanların erişimine açtı.
Anthropic, kodlama işlemlerinde kullanan yapay zeka ajanı "Claude Code"un temel talimatlarının yanlışlıkla ifşa edilmesinin ardından oluşan hasarı kontrol altına almak için zamana karşı yarışıyor.
Wall Street Journal'ın haberine göre, Anthropic temsilcileri, telif hakkı ihlali talebinde bulunarak, geliştiricilerin GitHub platformunda paylaştığı Claude Code kaynak kodlarının 8 binden fazla kopyasını ve uyarlamasını sildirdi.
Şirket sözcüsü, sızıntının müşteri bilgilerini veya verilerini içermediğini, ayrıca yapay zeka modellerinin "ağırlıklar" (weights) olarak bilinen değerli matematiksel verilerinin de güvende olduğunu belirtti.
“Hata insan kaynaklı”
Sözcü, olayın bir siber saldırıdan ziyade bir paketleme hatası olduğunu vurgulayarak şu açıklamayı yaptı:
"Bu bir güvenlik ihlali değil, insan hatasından kaynaklanan bir paketleme sorunuydu. Bunun tekrarlanmaması için gerekli önlemleri alıyoruz."
Söz konusu sızıntı Anthropic’in yapay zeka modellerini kodlama ajanları olarak çalışmaya ikna etmek için kullandığı tescilli teknikleri, araçları ve talimatları açığa çıkardı. Bir binicinin atı yönlendirmesini sağlayan koşu takımına benzetilen bu araçlar, modellerin kontrol edilmesini ve yönlendirilmesini sağlayan en kritik yapı taşları olarak biliniyor.
Rakiplere “altın tepside” yol haritası
Bu sızıntının en ağır sonucu, Anthropic’in rakiplerinin ve sayısız girişimin artık Claude Code’un özelliklerini tersine mühendislik yapmaya gerek duymadan kopyalayabilecekleri detaylı bir yol haritasına sahip olması.
Ayrıca sızıntı, kötü niyetli aktörlere yazılımdaki açıkları bulmaları veya Claude modelini siber saldırılara yardım etmesi için manipüle etmeleri konusunda geniş bir bilgi havuzu sundu.
Bu durum, hem Anthropic hem de bu araçları kullanan geliştiriciler için ciddi güvenlik riskleri barındırıyor.
Rüyalar ve gizli görevler
Kaynak kodlarını inceleyen programcılar, Anthropic’in Claude modellerini birer "kodlama ajanı" gibi çalıştırmak için kullandığı ilginç yöntemleri sosyal medyada şaşkınlıkla paylaştı. Kodlarda öne çıkan bazı detaylar şunlar:
Rüya görme: Yapay zekanın belirli aralıklarla geçmiş görevleri gözden geçirip hafızasını pekiştirmesini sağlayan süreç.
Gizli görev: Claude Code’un, GitHub gibi platformlarda kod yayınlarken bazı durumlarda yapay zeka olduğunu açıklamaması yönündeki talimatlar.
Sanal bebek: Kodların içine gizlenmiş, kullanıcıların etkileşime girebileceği Tamagotchi tarzı bir dijital evcil hayvan.
Sızıntı durdurulamıyor
Anthropic’in GitHub’daki kopyaları sildirme çabasına karşılık, bir programcı yapay zeka araçlarını kullanarak Claude Code’un işlevselliğini farklı programlama dillerinde yeniden yazdı.
Bu yeni versiyonun, telif hakkı takibine takılmadan bilginin yayılmasını sağlamak amacıyla geliştirildiği ve kısa sürede platformda popülerlik kazandığı gözlemlendi.
Bu skandal, özellikle bu yıl içinde halka arz (IPO) planlayan ve 380 milyar dolar değerlemeye ulaşan Anthropic için hem güvenlik itibarını sarsan hem de ticari sırlarını tehlikeye atan büyük bir darbe olarak nitelendiriliyor.