synthesizing synthetic data with game theory and evolutionary algorithms

Neden Sentetik Veri Üretiminde Stratejiye İhtiyaç Var?

Üç Temel Kavram: Sentetik Veri, Oyun Teorisi ve Evrimsel Algoritma

D — Durumu ve amacı tanımla
Korunması gereken özellikleri, hedef kullanım senaryosunu ve gerçek test verisini belirleyin.

E — Etkileşimi doğrula
Politikanın getirisinin rakibe, denetçiye veya popülasyon dağılımına bağlı olup olmadığını test edin.

N — Nesil tabanlı arama gerçekleştir
Üretim politikasını ağırlıklar, sıcaklık, gürültü ve nadir olay kotası gibi parametrelerle kodlayın.

G — Güvenlik ve kalite kapılarını uygula
Privacy, minimum coverage, adalet ve iş kurallarını telafi edilemez sert koşullar olarak uygulayın.

E — Etkiyi bağımsız veride doğrula
Seçilen politikayı ayrılmış gerçek test setinde, birden fazla tohumda ve gizlilik saldırı testleriyle değerlendirin.

Nash Dengesi ve Evrimsel Stabil Strateji

Strateji, Denge ve Karar Akışları: Derin Teknik Çerçeve

Oyun teorisinin gerçekten gerekli olup olmadığını test edin.
Bir adayın ödülü rakip stratejiye, popülasyon karışımına veya bir denetçinin karşı hamlesine göre değişmiyorsa problem stratejik değildir. Bu durumda ödül matrisi eklemek yalnızca terminolojik bir katman oluşturur; doğru araç kısıtlı çok amaçlı optimizasyon, NSGA-II veya kalite-çeşitlilik aramasıdır.

KatmanFormal gösterimSentetik veri karşılığıDenetim sorusu
Durumz ∈ ZAlt grup, zaman, model güveni, privacy budget, veri kaymasıPolitika hangi bağlama tepki veriyor?
Eylema ∈ AÜretici seçimi, örnekleme sıcaklığı, nadir olay kotası, gürültüKarar gerçekten değiştirilebilir mi?
Politikaπ(a|z)Duruma bağlı üretim stratejisi veya strateji karışımıStatik ağırlık mı, koşullu karar kuralı mı?
Etkileşimq veya s₋ᵢRakip politika, denetçi, popülasyon frekansı, veri alt grubuGetiri kime veya neye göre değişiyor?
Ödüluᵢ(a, q; θ)Fidelity, utility, coverage, oyun getirisi ve maliyetÖdül gözlenebilir ve kalibre edilebilir mi?
Kısıt / belirsizlikC(a)≤0, θ∈ΘPrivacy, adalet, iş kuralı, senaryo ve ölçüm belirsizliğiHangi ihlal başka bir skorla telafi edilemez?
Problem yapısıUygun hedefMatematiksel tanıKritik uyarı
İki taraflı, sıfır toplamlı üretici-denetçiMinimax / eyer noktasımaxₓ minᵧ xᵀAy = minᵧ maxₓ xᵀAyGenel toplamlı problemi zorla sıfır toplamlı yapmayın.
Birden çok bağımsız aktör, genel toplamlı oyunNash veya ε-NashTek taraflı sapma kazancı ≤ εVarlık teoremi dinamiğin yakınsayacağını söylemez.
Ortak sinyal / merkezi öneri ile koordinasyonKorelasyonlu denge (CE)Öneriyi izlememenin koşullu kazancı yokDışsal regret yalnızca CCE verir; CE için içsel regret gerekir.
Frekans bağımlı tek popülasyonESS + replikatör dinamiğiMutant istilasına dayanıklılık ve yerel kararlılıkNash olmak ESS olmak için yeterli değildir.
Tek taraflı iyileşmeleri izleyen ortak amaçPotansiyel oyun / saf NashKazanç farkları Φ farklarıyla eşleşirPotansiyel fonksiyon yoksa iyileştirme yolu çevrime girebilir.
Lider önce politika ilan ediyor, takipçi yanıtlıyorStackelberg dengesiİki seviyeli lider-takipçi optimizasyonuTakipçinin en iyi yanıt modeli hatalıysa lider çözümü yanıltıcıdır.
Çelişen kalite metrikleri; stratejik rakip yokPareto / NSGA-IIBaskın olmayan çözüm kümesiBu bir denge kavramı değil, çok amaçlı seçim problemidir.
Yüksek kaliteli ve davranışça farklı çözümlerMAP-Elites / Quality-DiversityHer davranış hücresinde elit çözümTek bir global optimum yerine arşiv üretilir.
Teorem / sonuçKesin ifadeBu dokümandaki anlamı
Nash varlık teoremi (1950)Her sonlu oyunda en az bir karma strateji Nash dengesi vardır.Denge vardır; fakat genetik algoritma veya replikatörün onu bulacağı garanti değildir.
Von Neumann minimax teoremiSonlu iki oyunculu sıfır toplamlı oyunda max-min ile min-max değeri eşittir.Adversarial denetçi oyunu gerçekten sıfır toplamlıysa worst-case politika hesaplanabilir.
Potansiyel oyun sonucuSonlu tam potansiyel oyunda her katı daha-iyi-yanıt yolu sonlu adımda saf Nash dengesinde durur.Yakınsama iddiası için ödül tasarımının ortak bir Φ fonksiyonuyla uyumlu olduğu gösterilebilir.
Regret-matching sonucuTüm oyuncular regret-matching kullanırsa ampirik oyun dağılımı olasılık 1 ile CE kümesine yaklaşır.Tek bir son strateji yerine zaman ortalaması ve içsel regret izlenmelidir.
ESS ve replikatör ilişkisiESS, Nash dengesidir ve standart sürekli replikatörde yerel asimptotik kararlılık için yeterli koşuldur; ters yön genel değildir.“Durağan nokta gördüm, ESS buldum” sonucu çıkarılamaz; mutant testi ayrıca yapılır.
ui(si,si)ui(si,si)i, siu_i(s_i^*, s_{-i}^*) \geq u_i(s_i, s_{-i}^*) \qquad \forall i,\ \forall s_i
aiμ(ai,ai)[ui(ai,ai)ui(ai,ai)]0\sum_{a_{-i}} \mu(a_i,a_{-i}) \cdot \left[u_i(a_i,a_{-i}) – u_i(a_i’,a_{-i})\right] \geq 0
ui(si,si)ui(si,si)=Φ(si,si)Φ(si,si)u_i(s_i,s_{-i}) – u_i(s_i’,s_{-i}) = \Phi(s_i,s_{-i}) – \Phi(s_i’,s_{-i})

Durağanlık Tek Başına Yeterli Değildir

εNash(p)=maxi(Ap)ipAp\varepsilon_{\mathrm{Nash}}(p) = \max_i (Ap)_i – p^\top A p
TanılamaÖlçümYanlış pozitif yakınsama sinyali
Durağanlık||pᵗ⁺¹ − pᵗ||Çok küçük öğrenme oranı veya popülasyon çökmesi
Exploitabilitymax sapma kazancı / NashConvDüşük hareket varken hâlâ kârlı sapma bulunabilir
RegretDışsal ve içsel ortalama pişmanlıkSon iterasyon çevrimde olabilir; zaman ortalaması daha anlamlıdır
Yerel kararlılıkJacobian teğet özdeğerlerinin reel kısımlarıDurağan nokta itici veya nötr olabilir
HassasiyetBootstrap A matrisleri, tohum ve hiperparametre dağılımıTek tohum tesadüfi bir denge seçebilir
Kısıt ihlaliprivacy, adalet ve iş kuralı eşiklerinin aşımıYüksek fitness kritik bir ihlali maskeleyebilir

Ödül Değil, Kısıt Öncelikli Tasarım

maximizes (Fi(s),Di(s),Ut(s),Ga(s))koşuluylaPr(s)τp,Δgroup(s)τg,Co(s)τc\operatorname*{maximize}_{s}\ \left(F_i(s),\,D_i(s),\,U_t(s),\,G_a(s)\right) \quad \text{koşuluyla} \quad P_r(s)\leq \tau_p,\; \Delta_{\mathrm{group}}(s)\leq \tau_g,\; C_o(s)\geq \tau_c
s=arg maxs minθΘF(s;θ)s^* = \operatorname*{arg\,max}_{s}\ \min_{\theta \in \Theta} F(s;\theta)
CVaRα(L)=minζ{ζ+11α𝔼[(Lζ)+]}\operatorname{CVaR}_{\alpha}(L) = \min_{\zeta} \left\{ \zeta + \frac{1}{1-\alpha} \mathbb{E}\left[(L-\zeta)_{+}\right] \right\}

Popülasyon, Fitness, Seçilim, Çaprazlama ve Mutasyon

Temsili Üretim Politikası Optimizasyonu

Kodun kapsamı

Temsili SonuçDeğer
Strateji ağırlıkları[0,420; 0,340; 0,240]
Gürültü / keşif parametresi σ0,903
Fidelity0,984
Diversity0,901
Coverage0,892
Utility0,999
Privacy risk0,363
Game payoff0,718
Bileşik fitness0,884

Algoritma akışı;

Girdi: Gerçek veri özeti R, üretici G, ödül matrisi A, popülasyon boyutu N
Çıktı: Kabul edilen sentetik veri kümesi D_synth

1. N adet aday strateji s_i başlat.
2. Her nesil için:
   a. Her s_i ile sentetik veri üret: D_i = G(R, s_i)
   b. Fidelity, diversity, coverage, utility ve risk metriklerini hesapla.
   c. Popülasyon strateji dağılımını p ile özetle.
   d. Oyun getirisini hesapla: game_i = s_i^T A p
   e. Bileşik fitness veya çok amaçlı Pareto sıralamasını oluştur.
   f. Seçilim, çaprazlama ve mutasyon uygula.
   g. Elit çözümleri koru; durdurma koşulunu kontrol et.
3. En iyi/Pareto adaylarını bağımsız test kümesinde değerlendir.
4. Kalite ve risk eşiklerini geçen üretimi kabul et; geçmeyeni yeniden kalibre et.

Örnek Senaryo: E-Ticaret Yorumları İçin Sentetik Duygu Verisi

Örnek Geliştirme Kodu: Lütfen tıklayınız…

Bu senaryoda üretim politikaları şu şekilde tanımlanabilir:

Strateji 1 — Gerçeğe yakınlık: Gerçek yorumların uzunluk, kelime kullanımı, duygu ve konu dağılımını korumaya odaklanır.

Strateji 2 — Çeşitlilik: Tekrarlanan kalıp cümleleri azaltır ve farklı dilsel anlatımlar üretir.

Strateji 3 — Nadir durum kapsamı: Az görülen şikâyet ve hata sınıflarının temsilini artırır.

BoyutÖrnek ölçüm
FidelityDuygu, konu, uzunluk ve kelime dağılımı benzerliği
DiversityTekrar oranı ve semantik benzerlik
CoverageNadir şikâyet kümelerinin kapsanma oranı
UtilitySentetik veride eğitilen modelin gerçek test verisindeki macro-F1 değeri
PrivacyGerçek yorumlarla aşırı benzerlik ve üyelik çıkarımı riski

Avantajlar, Sınırlılıklar ve Riskler

Avantajlar

  • Çok amaçlı denge: Gerçeğe benzerlik, çeşitlilik ve nadir durum kapsamı aynı arama içinde ele alınabilir.
  • Türev gerektirmeyen optimizasyon: Karmaşık, kesikli veya simülasyon tabanlı kalite fonksiyonlarında kullanılabilir.
  • Alan bilgisinin eklenmesi: Ödül matrisi ve kısıtlar üzerinden uzman kuralları modele dahil edilebilir.
  • Açıklanabilir politika: Aday çözümün hangi strateji ağırlıklarını kullandığı görülebilir.
  • Modelden bağımsız katman: Temel üretici GAN, VAE, difüzyon, kural tabanlı simülatör veya istatistiksel örnekleyici olabilir.

Sınırlılıklar ve Riskler

Risk GrubuİçerikAlınacak önlem
Optimizasyon RiskiYerel optimum, çevrim, çoklu dengeÇoklu tohum, zaman ortalaması, exploitability
Metrik RiskiYanlış fitness, ölçek farkıNormalizasyon, ablation, ağırlık hassasiyeti
Veri RiskiDengesiz temsil, model collapseGerçek-sentetik oranı, köken takibi, deduplikasyon
Güvenlik RiskiPrivacy, kopyalama, alt grup farkıSert eşikler, saldırı testi, bağımsız doğrulama
  • Yakınsama garantisi yoktur: Evrimsel arama yerel optimumda kalabilir; oyun dinamiği döngü oluşturabilir.
  • Fitness yanlış tasarlanabilir: Ölçülen skor yükselirken gerçek iş değeri düşebilir. Bağımsız test ve insan denetimi gerekir.
  • Ölçek problemi: Farklı aralıklardaki metrikler normalize edilmezse bir bileşen fitness’ı domine eder.
  • Gizlilik otomatik değildir: Sentetik veri gerçek kayıtları sızdırabilir. Gerekiyorsa diferansiyel gizlilik veya saldırı testleri eklenmelidir.
  • Dengesiz temsil riski: Nadir olayları artırmak, gerçek sınıf oranlarını bozabilir; kullanım senaryosuna göre yeniden ağırlıklandırma gerekir.
  • Hesaplama maliyeti: Her birey için veri üretmek ve çok sayıda metrik hesaplamak pahalı olabilir.
  • Deterministik süreçler: Kaynak paylaşımın da belirttiği gibi tam deterministik sistemlerde rastgele çeşitlilik, gerçek mekanizmayı bozabilir.
  • Çoklu denge seçimi: Birden fazla Nash/ESS varsa denge kavramı hangi politikanın seçileceğini tek başına belirlemez; sosyal fayda, risk, başlangıç havzası ve operasyon maliyeti için dış seçim kuralı gerekir.
  • Son iterasyon yanılgısı: Kaya-kağıt-makas benzeri çevrimsel oyunlarda son strateji yakınsamazken zaman ortalaması dengeye yaklaşabilir; son-iterasyon ve ampirik-ortalama ayrı raporlanmalıdır.
  • Sentetik geri besleme ve model collapse: Ardışık modeller aşırı sentetik veriyle eğitildiğinde nadir modlar kaybolabilir ve çıktı homojenleşebilir; gerçek/sentetik oranı, veri kökeni ve deduplikasyon izlenmelidir.

Sekiz Adımlı Uygulama Planı

Stratejiyi modelle, dengeyi ölç, sentetik veriyi doğrula.

,

İlgili Yazılar