Multi-LLM Ensemble (MoA)

How It Works#

Mixture of Agents (MoA) pattern:

1. All available proposer models query the task in parallel ( asyncio.gather)
2. A synthesizer model combines the best elements of all responses
3. Optionally repeat for multiple rounds (higher quality, more latency)

Providers are auto-detected from environment variables — no config needed.

Env VarProviderDefault models usedANTHROPIC_API_KEYClaudeclaude-sonnet-4-6, claude-haiku-4-5OPENAI_API_KEYOpenAIgpt-4o, gpt-4o-miniGEMINI_API_KEYGeminigemini-2.0-flash, gemini-1.5-proOLLAMA_HOST (optional)Ollamallama3, mistral (auto-listed)

Usage#

bash

uv run {baseDir}/scripts/ensemble.py \
  --prompt "분석할 태스크 또는 질문" \
  [--models claude-sonnet-4-6,gpt-4o,gemini-2.0-flash] \
  [--synthesizer claude-opus-4-7] \
  [--rounds 1] \
  [--format text|json] \
  [--output result.txt]

Key options:

• --models / -m — 쉼표 구분 모델 목록 (생략 시 감지된 모델 자동 선택)
• --synthesizer / -s — 합성 모델 지정 (생략 시 가장 강한 모델 자동 선택)
• --rounds / -r — MoA 반복 횟수. 1=빠름, 2=품질 최대 (기본: 1)
• --format — text (기본) 또는 json (모델별 응답 포함)
• --output / -o — 파일로 저장 (생략 시 stdout)

When to Use#

• 복잡한 추론, 전략 분석, 의사결정이 필요할 때
• 단일 모델 응답의 품질이 부족하다고 판단될 때
• 코드 리뷰, 버그 분석, 리서치 요약
• 트레이딩 신호 품질 향상 등 정확도가 중요한 작업

Notes#

• API 키 없는 프로바이더는 조용히 제외됨 (오류 아님)
• 한 모델이 실패해도 나머지로 진행
• 자세한 튜닝 옵션: references/moa-guide.md