Küçük kalmak bir eksiklik değil,
bir tasarım kararıdır.

Görünmeyen bir fatura var.

Bir yapay zekâ modeli ekranınızda bir metin kutusu gibi görünür. Arkasında ise ısınan bir bina, soğutmak için su isteyen bir sistem ve o binayı besleyen bir şebeke vardır. Bu maliyet kullanıcıya hiç gösterilmez — ama bir yerlerde gerçekten ödenir.

Sektörün son yıllardaki refleksi tek yönlü oldu: bir şey yeterince iyi çalışmıyorsa, üstüne donanım koy. Daha büyük model, daha çok GPU, daha büyük veri merkezi. Bu yaklaşım işe yarıyor; ama bedeli her kullanımda yeniden ödenen bir bedel.

Biz farklı bir soru soruyoruz: Aynı işi, bunun küçük bir kısmıyla yapamaz mıyız?

Genişleterek değil, daraltarak kazanmak.

Hiper AI'ın sadece kod yazması bir pazarlama tercihi değil — bu manifestonun mühendislik karşılığı. Bir model her şeyi yapmak zorunda değilse; şiir yazmayı, tarih anlatmayı, resim üretmeyi taşımak zorunda değilse, çok daha küçük kalabilir. Küçük model daha az bellek, daha az elektrik, daha az donanım demektir.

Hedefimiz, bu modeli GPU çiftliklerine değil, tek bir makinenin NVMe diskine yaslamak: ağırlıkları diskten akıtarak, yalnızca o an gereken parçayı belleğe alarak çalışan bir mimari. Bir kurumun kendi ofisindeki tek sunucuda dönebilen bir yapay zekâ.

Yedi madde.

Bunlar reklam cümlesi değil; ürünü geliştirirken kendimizi bağladığımız kurallar. Birini çiğnersek, bunu burada yazarız.

1. Küçüklük bir hedeftir, artık değil

   Bir sürüm bir öncekinden daha çok kaynak tüketiyorsa, o sürüm bizim için başarısızdır — yetenek artmış olsa bile. Model büyütmek en son çare.

2. Kapsamı dar tutarız

   Hiper AI sadece kod yazar. Her yeni yetenek talebine "ekleyelim" demek, modeli büyütmek ve enerjiyi artırmak demektir. Hayır demek de bir mühendislik kararıdır.

3. Boşta enerji harcamayız

   Görev yokken model uyur. Kullanılmayan bir yapay zekânın ısınan bir makineyi meşgul etmesi için hiçbir sebep yok.

4. Tek seferde doğru yapmaya çalışırız

   Kendi çıktısını doğrulayan bir sistem, on kez yeniden üretilen bir çıktıdan daha az enerji harcar. Doğruluk aynı zamanda bir tasarruf biçimidir.

5. Donanımı yenilemeye zorlamayız

   Elinizdeki makinede çalışsın istiyoruz. Bir yazılımın yeni donanım satın aldırması da bir çevresel maliyettir; en temiz sunucu, üretilmesi gerekmeyen sunucudur.

6. Ölçer ve yayımlarız

   Bir görevin ne kadar enerji ve süre harcadığını ölçmeyi, yöntemiyle birlikte açıkça paylaşmayı taahhüt ediyoruz. Ölçmediğimiz bir şey hakkında iyi rakamlar uydurmayız.

7. Verinizi taşımayız

   Kodun kıtalar arası dolaşması da enerji harcar. En verimli mimari, veriyi olduğu yerde işleyendir — bu hem çevresel hem güvenlik açısından doğru olan.