Qwenputer: Qwen 3.5 modeline 32 bitlik RISC-V işlemci gömüldü, DOOM çalıştırılabiliyor

Divyansh Agrawal'ın deneysel Qwenputer projesi, 4 milyar parametreli Qwen 3.5 modeline derleyiciyle üretilmiş bir RISC-V işlemciyi ağırlıklarına yerleştiriyor ve model bu işlemci üzerinde C ile MicroPython kodu çalıştırabiliyor.

Yapay zekâ mühendisi Divyansh Agrawal, Qwenputer adlı deneysel bir sürümü yayımladı. Proje, 4 milyar parametreli Qwen 3.5 modelini 32 bitlik bir RISC-V işlemciyle birleştiriyor. İşlemcinin ağırlıkları eğitimle değil, bir derleyici tarafından üretiliyor.

İşlemci, Qwen'in kendi katmanlarının önüne yerleştirilmiş on bir katman olarak duruyor. Bu katmanların ağırlıkları öğrenilmiyor, çünkü derleyici tarafından hesaplanıyor. Model, dış bir araç ya da çalışma zamanı çağırmadan, içinde C ve MicroPython kodu çalıştırabiliyor. Dil modellerinin genellikle zorlandığı tam aritmetik işlemler de bu sayede mümkün oluyor.

Agrawal, modelin Gated DeltaNet durumunu çalışma belleği olarak yeniden kullandı. Aynı temel üzerine 1.024 yuvalı bir dosya sistemi ekledi; bu sistem en fazla 512 dosya tutabiliyor. Dosya içerikleri yalnızca bir konuşmanın sonunda durum kaydedildiğinde kalıcı oluyor. Büyütülmüş model yaklaşık 19 GB. Agrawal, en az 24 GB VRAM'e sahip bir iş istasyonu öneriyor. MIT lisansıyla yayımlanan proje DOOM'u çalıştırabiliyor, ancak yavaş.