Uçtan Uca Üretim Yığını Laboratuvarı

Adım 1: Model seç ve indir.

from transformers import WhisperForConditionalGeneration, WhisperProcessor

model = WhisperForConditionalGeneration.from_pretrained("openai/whisper-tiny")
processor = WhisperProcessor.from_pretrained("openai/whisper-tiny")

39M parametre. SIDRA Y1’in %9’u kullanılır.

Adım 2: Türkçe ile fine-tune (CPU/GPU).

import torch
from datasets import load_dataset

tr_dataset = load_dataset("mozilla-foundation/common_voice_13_0", "tr")

# Standart PyTorch eğitimi
optimizer = torch.optim.Adam(model.parameters(), lr=1e-5)
for epoch in range(3):
    for batch in tr_dataset:
        loss = model(**batch).loss
        loss.backward()
        optimizer.step()

# Sonuç: Türkçe WER %15 (kabul edilebilir).

Adım 3: QAT (Quantization-Aware Training).

from torch.quantization import prepare_qat, convert

model_qat = prepare_qat(model)
# 1 epoch QAT
for batch in tr_dataset:
    model_qat(**batch).loss.backward()
    optimizer.step()

model_int8 = convert(model_qat)

Sonuç: INT8 model. Doğruluk kaybı %0.5.

Adım 4: SIDRA compile.

import sidra

compiled = sidra.compile(
    model_int8,
    calib_data=tr_dataset[:100],
    target="y1",
    optimization_level=2
)
print(compiled.size_mb, compiled.crossbar_count)
# 78 MB, 600 crossbar

Adım 5: Simulator validation.

sim = sidra.AccurateSimulator(compiled)
test_wer = sim.benchmark_wer(tr_test_set)
print(f"Sim WER: {test_wer:.1%}")  # 16.5%

Kabul kriteri: WER < %20. Geçti.

Adım 6: FPGA test.

FPGA prototipinde aynı binary’yi çalıştır. Doğruluk teyit edilir.

fpga = sidra.FPGADevice("xilinx_u280")
fpga.deploy(compiled)
fpga_wer = fpga.benchmark_wer(tr_test_set)
# 16.7% (sim ile uyumlu)

Adım 7: Y1 deploy.

chip = sidra.Chip(0)  # gerçek Y1
chip.deploy(compiled)

# Inference
audio = record_microphone(seconds=5)
text = chip.infer_whisper(audio)
print(text)  # "Merhaba, nasılsın?"

5 saniye ses → 100 ms inference. 50 mJ enerji.

Adım 8: Translation modeli ekle.

Marian NMT TR→EN benzer pipeline:

nmt = sidra.compile(marian_model, ...)
chip.deploy([whisper_compiled, nmt_compiled])  # iki model paralel

text = chip.infer_whisper(audio)        # TR
translation = chip.infer_marian(text)   # EN
print(translation)  # "Hello, how are you?"

Toplam pipeline: 200 ms ses → metin → çeviri.

Adım 9: CI/CD.

GitHub Actions workflow:

name: SIDRA Build & Test
on: [push, pull_request]
jobs:
  test:
    runs-on: ubuntu-latest
    steps:
    - uses: actions/checkout@v4
    - name: Install SIDRA SDK
      run: pip install sidra
    - name: Test on simulator
      run: python tests/test_whisper.py
    - name: Test on FPGA (self-hosted runner)
      run: python tests/test_fpga.py
      if: github.ref == 'refs/heads/main'

Her commit otomatik test. PR review’ları CI sonucu görünür.

Versiyon yönetimi:

my-app v1.0.0
├── sidra-sdk 1.2.3
│   ├── sidra-driver 1.1.0
│   ├── sidra-firmware 1.0.5
│   └── sidra-compiler 1.2.0
├── pytorch 2.4.0
└── transformers 4.50.0

SemVer + lock file. Production stable, dev streets bleeding edge.

Üretim deploy:

Müşteri cihazına yüklenen aşamalar:

1. SIDRA driver (kernel modülü, sistem-kurulum).
2. Firmware (Y1 boot ROM, bir kez).
3. SDK runtime (uygulama ile gelir).
4. Compiled model (uygulama içinde).

OTA (Over-The-Air) update: model + firmware sahada güncellenebilir.

Üretim ölçek:

Yerli AI Asistanı startup’ı 100K cihaz/yıl yıllık üretim. Her cihaz 1 SIDRA Y1 → 100K çip/yıl.

SIDRA atölye kapasitesi: 100K/yıl (Modül 5.14). Eşleşir. Yerli üretim mümkün.

Y10 + ölçek:

Y10 ile aynı cihaz: GPT-4 boyutunda model. Cep telefonu boyutta cihaz. 100K/yıl → 1M/yıl artar. Mini-fab gerek (Modül 7.5).