Tether AI Research, bilim, teknoloji, mühendislik ve matematik (STEM) alanlarında daha yetkin küçük yapay zekâ modelleri geliştirmek amacıyla 191,43 milyar tokenlık sentetik veri seti QVAC Genesis III‘ü yayımladı. QVAC Genesis I ve II’nin devamı olan veri seti, 159,6 milyon dokümandan oluşuyor ve COLM 2026’da sunulmak üzere kabul edildi.
- Veri seti 159,6 milyon dokümanda 191,43 milyar token içeriyor.
- Genesis III ile eğitilen 1,7 milyar parametreli model, benchmark yanıtlarının yüzde 99,45’inde geçerli sonuç üretti.
- Aynı token sayısında Genesis III, ARC-Easy’de 28,57, ARC-Challenge’da 21,35 ve MMLU STEM’de 15,03 puan artış sağladı.
Genesis III ile eğitilen modeller, bilim ve STEM alanındaki akıl yürütme testlerinde açık kaynaklı referansları geride bıraktı. Veri seti 19 STEM alanını kapsıyor; fizik problemlerini çözebilen, hataları açıklayabilen ve akıl yürütme süreçlerini analiz edebilen yapay zekâ öğretmenlerinin geliştirilmesine olanak sağlıyor. Modellerin küçük ölçekte olması, bu teknolojilerin telefon, bilgisayar ve yerel sunucularda, sınırlı internet erişimine sahip ortamlarda da çalıştırılabilmesini mümkün kılıyor.
Modeller nasıl eğitiliyor?
- Failure Analysis yöntemi, modelin yaptığı hataları analiz ederek yanlış akıl yürütmenin nedenini ve doğru çözüm yolunu öğretiyor.
- Option-Level Reasoning yöntemi, doğru cevabın neden doğru, diğer seçeneklerin neden yanlış olduğunu açıklıyor.
- Genesis III’ün Option-Level veri setiyle eğitilen modeller, Qwen, Llama, SmolLM ve Gemma gibi farklı mimarilerde Cosmopedia-v2’ye kıyasla daha yüksek performans gösterdi.
Tether CEO’su Paolo Ardoino, veri setiyle ilgili şu değerlendirmeyi yaptı:
“Yapay zekâ sektörünün büyük bölümü modelleri büyütmeye ve onlara daha fazla işlem gücü sağlamaya odaklandı. Genesis III ise daha küçük modellerin öğrendiği veriyi iyileştirdiğimizde neler olabileceğini gösteriyor. Amacımız, faydalı yapay zekâyı büyük bulut altyapılarından insanların hâlihazırda sahip olduğu cihazlara taşımak.” — Paolo Ardoino, Tether CEO’su
QVAC, açık, merkeziyetsiz ve uyarlanabilir yapay zekâ sistemleri geliştirmeye odaklanan Tether’in ileri yapay zekâ araştırma girişimi. Şirket, Genesis III ile daha küçük modellerin daha az işlem gücüyle daha doğru ve açıklanabilir sonuçlar üretmesini hedefliyor; araştırmacılar için hassas verileri harici sunuculara göndermeden yerel ortamda çalışabilen uzmanlaşmış teknik asistanların geliştirilmesine de olanak tanıyor.