xAI'nin Grok Build kodlama CLI'si, yalnızca kodlama görevinin ihtiyaç duyduğu dosyaları değil, Git depolarının tamamını, tam taahhüt geçmişini ve hepsini xAI tarafından çalıştırılan bir Google Cloud Storage paketine yüklüyordu.
olarak yayınlayan bir araştırmacıbeyin, test sürümü0.2.93, bu yüklemelerden birini yakaladı, ele geçirilen istekten git paketini klonladı ve aracıya açıkça açmaması söylenen bir dosyayı geri çekti.
Yükleme, modelin kendisinden ayrı bir kanalda gerçekleşti ve bayt bölünmesiyle tartışmak zor. 12 GB'lik bir dosya deposunda, model asla okumaz, trafiği modele dönüştürür/v1/responsesdepolama kanalı ise yaklaşık 192 KB'ye ulaştı/v1/storage5,10 GiB hareket etti; bu, modelin ihtiyaç duyduğu ile makineden ayrılan arasında yaklaşık 27.800 kat fark anlamına geliyordu.
Bu depolama yüklemesi, her biri HTTP 200 döndüren, yaklaşık 75 MB'lık 73 parça halinde gerçekleştirildi ve araştırmacının boyutu boyunca izlenen hacim toplam repo boyutunu taradı. Hedef kova,grok-code-session-traces, ikili dosyada ve aşamalı olarak adlandırılırmetadata.jsondosya başına yolları işaret edengs://grok-code-session-traces/.
Okunmamış dosya şuydu:src/_probe/never_read_canary.txt, benzersiz bir işaretleyiciyle dikildi. Yakalanan paketin klonlanması, deponun tam taahhüt geçmişiyle birlikte onu kelimesi kelimesine kurtardı ve aynı test, ilgisiz ikinci bir depoda tekrarlandı. Yakalamaların ortaya koyduğu şey eğitim değil iletim, kabul ve depolamadır.
Parçalama işlemi, xAI'nin kod üzerinde eğitildiğini, personelin kodu okuduğunu veya gitignored dosyaların her zaman içeri alındığını iddia etmiyor. Telgrafta izlenen dosyalar artı geçmiş görülüyor.
Sırların yolu ayrı ve daha basittir. Grok bir dosyayı okuduğunda içeriği model sırasına girer ve izlenen bir.envonlarla birlikte redaksiyon yapılmadan gitti, kanaryaAPI_KEY and DB_PASSWORDdeğerler ve hepsi. Aynı içerik şuraya da indi:session_statearşiv depolama için ciltlendi. Yerleştirilen sırlar sahteydi, dolayısıyla testte gerçek hiçbir şey sızdırılmadı. Davranış hala sorun teşkil ediyor: Aracının bir görev sırasında okuduğu kimlik bilgisi dosyası dışarı çıktı ve herhangi bir düzeltme yapılmadan saklandı.
Çoğu geliştiricinin ulaşacağı ayar burada hiçbir şey yapmadı. "Modeli geliştir" seçeneği kapalıyken Grok hâlâ depoyu ve sunucunun kendi deposunu yüklemeye devam ediyordu./v1/settingsyanıt geri gelmeye devam ettitrace_upload_enabled: true. Bu geçiş, verilerinizin modeli eğitip eğitmediğini yönetir. Kodunuzun makineden çıkıp çıkmayacağını etkilemez. Bunlar iki farklı kontroldür ve bunlardan yalnızca biri kullanıcıya sunulmuştur.
Her bulut kodlama aracısının işini yapması için uzaktaki bir modele bir kaynak göndermesi gerekir, bu nedenle ilk kanalın olması beklenir. İzlenen havuzun tamamını ve geçmişini göndermek, bir görevin ihtiyaç duyduğu dosyaları göndermekten daha geniş bir sınırdır.
Bir depo, çalışma ağacından kaldırılan ancak taahhüt geçmişinde kalmaya devam eden özel kodları, dahili URL'leri, müşteri verilerini ve kimlik bilgilerini tutabilir. İçindecereblab'ın kendi çapraz araç karşılaştırmasıClaude Code ve Codex hiçbir depo paketi göndermedi; Gemini boşta kalan testte hiçbir şey göndermedi, ancak gerçekçi görev çalıştırması bitmeden kota bloke edildi.
Grok Build aykırı olandı. Bunlar hâlâ açtıkları dosyaları gönderen bulut araçlarıdır, dolayısıyla "yalnızca yerel" bunların herhangi biri için yanlış zihinsel modeldir. Ancak çalışma alanının toptan toplanması Grok Build'a özeldi.
xAI'nin yanıtı
13 Temmuz'da da aynı0.2.93ikili depolama istekleri yapmayı durdurdu. cereblab altı kez tekrar test yaptı ve sıfır gördü/v1/storageyüklemeler yapıldı ve sunucu artık geri döndüdisable_codebase_upload: true and trace_upload_enabled: false.
Geliştirici Peter Dedeneaynı bayrağın kendi hesabı için de döndürüldüğünü bildirdiyani kapatma yalnızca Cereblab'ın tek makineli gözlemi değildi. Test edilen müşteri açık kaldı0.2.93sunucu ayarları değiştiğinden bu bir güncellemeyle gönderilen bir düzeltme değil, sunucu tarafı bir anahtardı. xAI, her hesaba ulaşıp ulaşmadığını veya kalıcı olup olmadığını doğrulamadı.
xAI şu ana kadar sorunu bir güvenlik tavsiyesi veya değişiklik günlüğü notu yerine X ile ele aldı.@SpaceXAI hesabısıfır veri saklamayı benimseyen kurumsal ekiplerin hiçbir zaman kod veya izleme verileri saklamadığını, API anahtarı kullanımının ZDR'ye saygı duyduğunu ve bunu etkinleştirmemiş tüketicilerin çalıştırabileceğini söyledi/privacySaklamayı devre dışı bırakmak ve önceden senkronize edilmiş verileri silmek için CLI'de.
Elon Musk daha da ileri gitti,söyleyerekdaha önce yüklenen tüm kullanıcı verileri "tamamen ve tamamıyla silinecek" ve geride hiçbir şey kalmayacaktır. ZDR, kurumsal ekipleri ve API kullanımını kapsar; dolayısıyla bireysel aboneler için/privacykomut sunulan kontroldür.
Aracı halihazırda çalıştırmış olan herkes için yapılacak hamle xAI'yi beklemek değildir. Grok'un göndermiş olabileceği herhangi bir kimlik bilgisini döndürün: okuduğu her şey, izlenen bir dosyadaki herhangi bir şey ve sizin taahhüt ettiğiniz ve daha sonra sildiğiniz bir sır da dahil olmak üzere paketin taşıdığı git geçmişindeki herhangi bir şey.
Git yok sayılan ve hiçbir zaman işlenmeyen bir dosya paketin dışında kaldı. Kendini adamış bir kişi tarih boyunca ilerlemiştir ve onu daha sonra silmek onu geri çekmez.Yapı 0.2.99'un ayrı bir analiziyükleme kodunun hala ikili dosyada olduğunu ve sunucu bayrağı tarafından durdurulduğunu buldu, böylece xAI onu güncelleme olmadan tekrar açabilir.
Ayrıca tüm depoların neden varsayılan olarak yüklendiği, ne kadar süreyle tutulduğu veya kaç kullanıcının etkilendiği hala açıklanmadı. Eğitimin devre dışı bırakılması, kodunuzun aynı kalacağına dair bir söz değildir ve makineden ne çıkacağını kendiniz kontrol etmeye değer.
