llm-council - GitLite

KO | EN

gitlite — search

#hacktoberfest #golang #android #deep-learning #linux #docker #macos #nodejs #awesome #awesome-list #security #ios #mcp #open-source

llm-council

(★ 24,209)

LLM Council은 함께 협력하여 가장 어려운 질문에 답변합니다.

파일 탐색기

최종 버전 다운로드 (.zip)

- __init__.py
- config.py
- council.py
- main.py
- openrouter.py
- storage.py
- - vite.svg
- - api.js
  - App.css
  - App.jsx
  - index.css
  - main.jsx
- .gitignore
- eslint.config.js
- index.html
- package-lock.json
- package.json
- README.md
- vite.config.js
.gitignore
.python-version
CLAUDE.md
header.jpg
main.py
pyproject.toml
README.md
start.sh
uv.lock

🚀 설치 가이드

1. 코드 내려받기

git clone https://github.com/karpathy/llm-council

깃허브에서 프로젝트 코드 전체를 내 컴퓨터로 내려받습니다.

cd llm-council

방금 내려받은 프로젝트 폴더 안으로 이동합니다.

2. Node.js

쉬움 추천

사전 준비물

Git GitHub에서 프로젝트 코드를 내려받으려면 필요합니다.
Node.js npm 명령어를 쓰려면 Node.js가 설치되어 있어야 합니다. LTS(장기지원) 버전을 추천합니다.

npm install

package.json에 명시된 라이브러리들을 내려받아 설치합니다.

npm run dev

개발/실행 서버를 켭니다.

✅ 명령어 실행 후 터미널에 나타나는 주소(보통 http://localhost:3000 형태)를 브라우저에서 열어보세요.

이 레포의 README에 적힌 실제 명령어를 그대로 가져왔습니다.

3. Python

쉬움

사전 준비물

Git GitHub에서 프로젝트 코드를 내려받으려면 필요합니다.
Python 3 설치 시 'Add Python to PATH' 옵션을 꼭 체크하세요 (Windows).

uv run python -m backend.main

파이썬 스크립트(또는 모듈)를 실행합니다.

✅ 에러 메시지 없이 실행되고 터미널에 안내 문구가 출력되면 정상입니다.

이 레포의 README에 적힌 실제 명령어를 그대로 가져왔습니다.

// repository documentation

Was this content helpful?

★ 0 (0 ratings)

# LLM Council

![llmcouncil](https://raw.githubusercontent.com/karpathy/llm-council/master/header.jpg)

이 레포지토리의 아이디어는 즐겨 찾는 단일 LLM 제공업체(예: OpenAI GPT 5.1, Google Gemini 3.0 Pro, Anthropic Claude Sonnet 4.5, xAI Grok 4 등)에게 질문하는 대신, 여러 모델을 묶어 나만의 "LLM Council"을 구성하는 것입니다. 이 레포지토리는 기본적으로 ChatGPT처럼 생겼지만, OpenRouter를 통해 여러 LLM에게 사용자의 쿼리를 보내고, 서로의 답변을 검토 및 순위 매기도록 요청한 뒤, 마지막으로 Chairman LLM이 최종 응답을 도출하는 간단한 로컬 웹 앱입니다.

조금 더 자세히 설명하자면, 쿼리를 제출했을 때 다음과 같은 과정이 진행됩니다.

1. **1단계: 초기 의견 수집**. 사용자의 쿼리가 모든 LLM에게 개별적으로 전달되고 응답이 수집됩니다. 각 응답은 "탭 뷰"로 표시되어 사용자가 하나씩 확인할 수 있습니다.
2. **2단계: 검토**. 각 LLM에게 다른 LLM들의 응답이 전달됩니다. 이때 내부적으로 LLM의 신원은 익명화되어, LLM이 자신의 출력을 평가할 때 편파적인 판단을 하지 못하도록 합니다. LLM은 정확성과 통찰력을 바탕으로 순위를 매기도록 요청받습니다.
3. **3단계: 최종 응답**. LLM Council의 지정된 Chairman이 모든 모델의 응답을 취합하여 사용자에게 제시될 단 하나의 최종 답변으로 컴파일합니다.

## Vibe Code Alert

이 프로젝트는 [LLM과 함께 책 읽기](https://x.com/karpathy/status/1990577951671509438) 과정을 진행하는 동안 여러 LLM을 나란히 놓고 탐색하고 평가하고 싶어서, 토요일에 재미 삼아 99% 바이브 코딩(vibe coded)으로 만든 것입니다. 여러 응답을 나란히 비교해 볼 수 있고, 각 LLM의 출력에 대한 다른 LLM들의 상호 의견을 볼 수 있어서 유용하고 좋습니다. 필자는 이 프로젝트를 따로 지원할 계획이 없으며, 다른 사람들에게 영감을 주기 위해 있는 그대로 제공하는 것이므로 개선할 의도가 없습니다. 이제 코드는 일회성이고 라이브러리의 시대는 끝났으니, 원하는 대로 코드를 수정해 달라고 LLM에게 요청하세요.

## 설정

### 1. 의존성 설치

이 프로젝트는 프로젝트 관리를 위해 [uv](https://docs.astral.sh/uv/)를 사용합니다.

**백엔드:**
```bash
uv sync
```

**프론트엔드:**
```bash
cd frontend
npm install
cd ..
```

### 2. API 키 설정

프로젝트 루트에 `.env` 파일을 생성합니다:

```bash
OPENROUTER_API_KEY=sk-or-v1-...
```

[openrouter.ai](https://openrouter.ai/)에서 API 키를 발급받으세요. 필요한 크레딧을 충전하거나 자동 충전 기능을 설정해야 합니다.

### 3. 모델 설정 (선택 사항)

Council을 커스터마이즈하려면 `backend/config.py`를 편집하세요:

```python
COUNCIL_MODELS = [
    "openai/gpt-5.1",
    "google/gemini-3-pro-preview",
    "anthropic/claude-sonnet-4.5",
    "x-ai/grok-4",
]

CHAIRMAN_MODEL = "google/gemini-3-pro-preview"
```

## 애플리케이션 실행

**옵션 1: 시작 스크립트 사용**
```bash
./start.sh
```

**옵션 2: 수동으로 실행**

터미널 1 (백엔드):
```bash
uv run python -m backend.main
```

터미널 2 (프론트엔드):
```bash
cd frontend
npm run dev
```

그 후 브라우저에서 http://localhost:5173을 엽니다.

## 기술 스택

- **백엔드:** FastAPI (Python 3.10+), async httpx, OpenRouter API
- **프론트엔드:** React + Vite, 렌더링을 위한 react-markdown
- **스토리지:** `data/conversations/` 디렉터리의 JSON 파일들
- **패키지 관리:** Python용 uv, JavaScript용 npm