336M Gate-B: kapasite etkisi kurulmadı; mimari tasarım kapısı açıldı

Sonuç

336M Gate-B değerlendirmesi tamamlandı. Eğitim daha önce dondurulmuş hedef olan 36,755 optimizer step ve 1,200,012,349 cumulative supervised token düzeyine ulaşmıştı.

Eşleştirilmiş Gate-B sonuçları:

• breadth macro: 110M 0.3364583 → 336M 0.4333333
• breadth delta: +0.096875; preregistered minimum +0.20
• minimum 336M breadth family: 0.15; preregistered minimum 0.45
• FORM EOS: 0.8333333 → 0.96875
• FORM repetition: 0.1666667 → 0.0416667
• V1.8 macro: 0.44125 → 0.44125
• V1.8 competencies above chance: 4 → 4
• positive-control macro: 0.7142857 → 0.8571429

Gate kararı

Resmî karar:

GATE_B_CAPACITY_EFFECT_NOT_ESTABLISHED_OPEN_ARCHITECTURE_DESIGN_GATE

capacity_effect_supported: false

336M, özellikle FORM ve positive-control readout'larında daha iyi sonuç verdi; ancak preregistered breadth koşullarını karşılamadı. Bu nedenle deney "daha büyük model kapasite etkisini kurdu" sonucunu desteklemiyor.

Ne anlama gelmiyor?

Bu karar "Transformer çalışmaz", "ölçek hiçbir işe yaramaz" veya "alternatif mimari üstündür" demiyor. Model bazı alanlarda gerçekten iyileşti; fakat hedeflenen geniş transfer/capability etkisi ölçek artışıyla yeterli düzeyde kurulmadı.

Ne değişiyor?

Bir sonraki araştırma kapısı artık varsayılan olarak daha fazla parametre eklemek değil. Architecture-design gate açıldı: veri, evaluator ve compute disiplinini koruyarak daha basit alternatif açıklamalar ve kontrollü mimari müdahaleler matched baseline'larla sınanacak.