llm-council

KO | EN

gitlite — search

#javascript #dotfiles #ruby #java #vim #game #hacktoberfest #c-plus-plus #php #nodejs #shell #unmaintained

★ 24,091 Open GitHub ↗

LLM Council은 함께 협력하여 가장 어려운 질문에 답변합니다.

// repository documentation

Was this content helpful?

★ 0 (0 ratings)

# LLM Council

![llmcouncil](https://raw.githubusercontent.com/karpathy/llm-council/master/header.jpg)

이 레포지토리의 아이디어는 즐겨 찾는 단일 LLM 제공업체(예: OpenAI GPT 5.1, Google Gemini 3.0 Pro, Anthropic Claude Sonnet 4.5, xAI Grok 4 등)에게 질문하는 대신, 여러 모델을 묶어 나만의 "LLM Council"을 구성하는 것입니다. 이 레포지토리는 기본적으로 ChatGPT처럼 생겼지만, OpenRouter를 통해 여러 LLM에게 사용자의 쿼리를 보내고, 서로의 답변을 검토 및 순위 매기도록 요청한 뒤, 마지막으로 Chairman LLM이 최종 응답을 도출하는 간단한 로컬 웹 앱입니다.

조금 더 자세히 설명하자면, 쿼리를 제출했을 때 다음과 같은 과정이 진행됩니다.

1. **1단계: 초기 의견 수집**. 사용자의 쿼리가 모든 LLM에게 개별적으로 전달되고 응답이 수집됩니다. 각 응답은 "탭 뷰"로 표시되어 사용자가 하나씩 확인할 수 있습니다.
2. **2단계: 검토**. 각 LLM에게 다른 LLM들의 응답이 전달됩니다. 이때 내부적으로 LLM의 신원은 익명화되어, LLM이 자신의 출력을 평가할 때 편파적인 판단을 하지 못하도록 합니다. LLM은 정확성과 통찰력을 바탕으로 순위를 매기도록 요청받습니다.
3. **3단계: 최종 응답**. LLM Council의 지정된 Chairman이 모든 모델의 응답을 취합하여 사용자에게 제시될 단 하나의 최종 답변으로 컴파일합니다.

## Vibe Code Alert

이 프로젝트는 [LLM과 함께 책 읽기](https://x.com/karpathy/status/1990577951671509438) 과정을 진행하는 동안 여러 LLM을 나란히 놓고 탐색하고 평가하고 싶어서, 토요일에 재미 삼아 99% 바이브 코딩(vibe coded)으로 만든 것입니다. 여러 응답을 나란히 비교해 볼 수 있고, 각 LLM의 출력에 대한 다른 LLM들의 상호 의견을 볼 수 있어서 유용하고 좋습니다. 필자는 이 프로젝트를 따로 지원할 계획이 없으며, 다른 사람들에게 영감을 주기 위해 있는 그대로 제공하는 것이므로 개선할 의도가 없습니다. 이제 코드는 일회성이고 라이브러리의 시대는 끝났으니, 원하는 대로 코드를 수정해 달라고 LLM에게 요청하세요.

## 설정

### 1. 의존성 설치

이 프로젝트는 프로젝트 관리를 위해 [uv](https://docs.astral.sh/uv/)를 사용합니다.

**백엔드:**
```bash
uv sync
```

**프론트엔드:**
```bash
cd frontend
npm install
cd ..
```

### 2. API 키 설정

프로젝트 루트에 `.env` 파일을 생성합니다:

```bash
OPENROUTER_API_KEY=sk-or-v1-...
```

[openrouter.ai](https://openrouter.ai/)에서 API 키를 발급받으세요. 필요한 크레딧을 충전하거나 자동 충전 기능을 설정해야 합니다.

### 3. 모델 설정 (선택 사항)

Council을 커스터마이즈하려면 `backend/config.py`를 편집하세요:

```python
COUNCIL_MODELS = [
    "openai/gpt-5.1",
    "google/gemini-3-pro-preview",
    "anthropic/claude-sonnet-4.5",
    "x-ai/grok-4",
]

CHAIRMAN_MODEL = "google/gemini-3-pro-preview"
```

## 애플리케이션 실행

**옵션 1: 시작 스크립트 사용**
```bash
./start.sh
```

**옵션 2: 수동으로 실행**

터미널 1 (백엔드):
```bash
uv run python -m backend.main
```

터미널 2 (프론트엔드):
```bash
cd frontend
npm run dev
```

그 후 브라우저에서 http://localhost:5173을 엽니다.

## 기술 스택

- **백엔드:** FastAPI (Python 3.10+), async httpx, OpenRouter API
- **프론트엔드:** React + Vite, 렌더링을 위한 react-markdown
- **스토리지:** `data/conversations/` 디렉터리의 JSON 파일들
- **패키지 관리:** Python용 uv, JavaScript용 npm

llm-council

Explore Similar Repositories

Was this content helpful?

Recent Feedback

Download README