퀵스타트 및 실행 레시피

1줄 브라우저 스크립트, Node.js 패키지 및 Python SDK 최소 실행 가이드 (AMEVA-Forge)

Release: v1.0.1 PyPI Version WebGPU Engine License
핵심 가치 제안 (Why It Matters)

복잡한 환경 구축 없이 순수 브라우저 환경에서 단 1줄의 스크립트 임포트만으로 고속 온디바이스 AI 및 Autograd 엔진을 활성화합니다.

1. 브라우저 1줄 즉시 임포트 레시피 (CDN)

HTML 파일의 <script> 태그에 아래 CDN 주소를 삽입하면 전역 window.AmevaForge 객체가 바인딩됩니다:

<script src="https://uno-km.vercel.app/lib/forge/dist/index.js"></script>
<script>
  async function runWebGPU() {
    const { ForgeEngine } = window.AmevaForge;
    const engine = new ForgeEngine();
    await engine.init({ devicePreference: "high-performance" });
    
    // Hugging Face CDN에서 가중치 즉시 스트리밍 및 파싱
    await engine.loadModel("https://huggingface.co/HuggingFaceTB/SmolLM-135M-Instruct/resolve/main/smollm-135m-instruct-q4_k_m.gguf");
    
    // 비동기 제너레이터를 통한 실시간 타자기 토큰 출력
    for await (const token of engine.generate("WebGPU의 장점은?")) {
      document.body.append(token);
    }
  }
  runWebGPU();
</script>

2. Node.js & TypeScript 번들러 연동

npm install @uno-km/ameva-forge
import { ForgeEngine } from '@uno-km/ameva-forge';

const engine = new ForgeEngine();
await engine.init();
await engine.loadModel('./models/smollm-135m-q4_k_m.gguf');

for await (const token of engine.generate("Explain WebGPU in one sentence:")) {
  process.stdout.write(token);
}

3. Python 패키지 매니저 레시피 (PyPI)

pip install ameva-forge
import ameva_forge as forge

# GGUF 모델 로드 및 WebGPU / 로컬 컴퓨트 추론
model = forge.load_model("smollm-135m-q4_k_m.gguf")
for token in model.generate("Hello world"):
    print(token, end="", flush=True)

4. 사전 검증된 공식 추천 모델 카탈로그

모델명 파라미터 크기 VRAM 필요량 다운로드 및 구동 시간
SmolLM-135M-Instruct 135M (Q4_K_M) 약 85 MB 초고속 로딩 (< 3초), 모바일 스마트폰 최적화
Qwen2.5-0.5B-Instruct 490M (Q4_K_M) 약 350 MB 균형 잡힌 대화 성능, 한국어 지원
LLaMA-3.2-1B-Instruct 1.2B (Q4_K_M) 약 780 MB 고품질 추론 능력, 데스크톱 브라우저 권장