prometheus-eval

(โ˜… 1,107)

Evaluate your LLM's response with Prometheus and GPT4 ๐Ÿ’ฏ

  • .gitignore
  • LICENSE
  • README.md

# ์„ค์น˜ ๊ฐ€์ด๋“œ

1. ์ฝ”๋“œ ๋‚ด๋ ค๋ฐ›๊ธฐ
git clone https://github.com/prometheus-eval/prometheus-eval

๊นƒํ—ˆ๋ธŒ์—์„œ ํ”„๋กœ์ ํŠธ ์ฝ”๋“œ ์ „์ฒด๋ฅผ ๋‚ด ์ปดํ“จํ„ฐ๋กœ ๋‚ด๋ ค๋ฐ›์Šต๋‹ˆ๋‹ค.

cd prometheus-eval

๋ฐฉ๊ธˆ ๋‚ด๋ ค๋ฐ›์€ ํ”„๋กœ์ ํŠธ ํด๋” ์•ˆ์œผ๋กœ ์ด๋™ํ•ฉ๋‹ˆ๋‹ค.

2. ๊ณต์‹ ์„ค์น˜ ์Šคํฌ๋ฆฝํŠธ

์‰ฌ์›€ ์ถ”์ฒœ
์‚ฌ์ „ ์ค€๋น„๋ฌผ
  • Python 3 pip ๋ช…๋ น์–ด๋ฅผ ์“ฐ๋ ค๋ฉด Python์ด ํ•„์š”ํ•ฉ๋‹ˆ๋‹ค.
pip install prometheus-eval

PyPI์— ๋ฐฐํฌ๋œ ํŒจํ‚ค์ง€๋ฅผ ๋ฐ”๋กœ ์„ค์น˜ํ•ฉ๋‹ˆ๋‹ค. ์†Œ์Šค ํด๋ก ์ด ํ•„์š” ์—†์Šต๋‹ˆ๋‹ค.

pip install vllm

PyPI์— ๋ฐฐํฌ๋œ ํŒจํ‚ค์ง€๋ฅผ ๋ฐ”๋กœ ์„ค์น˜ํ•ฉ๋‹ˆ๋‹ค. ์†Œ์Šค ํด๋ก ์ด ํ•„์š” ์—†์Šต๋‹ˆ๋‹ค.

โœ… ์„ค์น˜ ํ›„ ์ƒˆ ํ„ฐ๋ฏธ๋„์„ ์—ด๊ณ , ํ”„๋กœ๊ทธ๋žจ์˜ ๋ฒ„์ „ ํ™•์ธ ๋ช…๋ น(์˜ˆ: --version)์œผ๋กœ ์ •์ƒ ์„ค์น˜๋๋Š”์ง€ ํ™•์ธํ•˜์„ธ์š”.

์ด ๋ ˆํฌ์˜ README์— ์ ํžŒ ์‹ค์ œ ๋ช…๋ น์–ด๋ฅผ ๊ทธ๋Œ€๋กœ ๊ฐ€์ ธ์™”์Šต๋‹ˆ๋‹ค.

3. Python

์‰ฌ์›€
์‚ฌ์ „ ์ค€๋น„๋ฌผ
  • Git GitHub์—์„œ ํ”„๋กœ์ ํŠธ ์ฝ”๋“œ๋ฅผ ๋‚ด๋ ค๋ฐ›์œผ๋ ค๋ฉด ํ•„์š”ํ•ฉ๋‹ˆ๋‹ค.
  • Python 3 ์„ค์น˜ ์‹œ 'Add Python to PATH' ์˜ต์…˜์„ ๊ผญ ์ฒดํฌํ•˜์„ธ์š” (Windows).
pip install prometheus-eval

PyPI์— ๋ฐฐํฌ๋œ ํŒจํ‚ค์ง€๋ฅผ ๋ฐ”๋กœ ์„ค์น˜ํ•ฉ๋‹ˆ๋‹ค. ์†Œ์Šค ํด๋ก ์ด ํ•„์š” ์—†์Šต๋‹ˆ๋‹ค.

pip install vllm

PyPI์— ๋ฐฐํฌ๋œ ํŒจํ‚ค์ง€๋ฅผ ๋ฐ”๋กœ ์„ค์น˜ํ•ฉ๋‹ˆ๋‹ค. ์†Œ์Šค ํด๋ก ์ด ํ•„์š” ์—†์Šต๋‹ˆ๋‹ค.

โœ… ์—๋Ÿฌ ๋ฉ”์‹œ์ง€ ์—†์ด ์‹คํ–‰๋˜๊ณ  ํ„ฐ๋ฏธ๋„์— ์•ˆ๋‚ด ๋ฌธ๊ตฌ๊ฐ€ ์ถœ๋ ฅ๋˜๋ฉด ์ •์ƒ์ž…๋‹ˆ๋‹ค.

์ด ๋ ˆํฌ์˜ README์— ์ ํžŒ ์‹ค์ œ ๋ช…๋ น์–ด๋ฅผ ๊ทธ๋Œ€๋กœ ๊ฐ€์ ธ์™”์Šต๋‹ˆ๋‹ค.

4. Make

๋ณดํ†ต
์‚ฌ์ „ ์ค€๋น„๋ฌผ
  • Git GitHub์—์„œ ํ”„๋กœ์ ํŠธ ์ฝ”๋“œ๋ฅผ ๋‚ด๋ ค๋ฐ›์œผ๋ ค๋ฉด ํ•„์š”ํ•ฉ๋‹ˆ๋‹ค.
  • Make Linux/macOS๋Š” ๋ณดํ†ต ๊ธฐ๋ณธ ์„ค์น˜๋˜์–ด ์žˆ์Šต๋‹ˆ๋‹ค. Windows๋Š” ๋ณ„๋„ ์„ค์น˜(์˜ˆ: MSYS2, WSL)๊ฐ€ ํ•„์š”ํ•ฉ๋‹ˆ๋‹ค.
cd libs/prometheus-eval

์ด ํ”„๋กœ์ ํŠธ์˜ ๊ด€๋ จ ํŒŒ์ผ์ด ํ•˜์œ„ ํด๋” ์•ˆ์— ์žˆ์–ด์„œ, ๋จผ์ € ๊ทธ ํด๋”๋กœ ์ด๋™ํ•ฉ๋‹ˆ๋‹ค.

make

์ƒ์„ฑ๋œ ๋นŒ๋“œ ์„ค์ •์„ ๋ฐ”ํƒ•์œผ๋กœ ์‹ค์ œ ์ปดํŒŒ์ผ์„ ์ง„ํ–‰ํ•ด ์‹คํ–‰ ํŒŒ์ผ์„ ๋งŒ๋“ญ๋‹ˆ๋‹ค.

โœ… ์—๋Ÿฌ ์—†์ด ๋๋‚˜๋ฉด ์„ฑ๊ณต์ž…๋‹ˆ๋‹ค. ์ƒ์„ฑ๋œ ์‹คํ–‰ ํŒŒ์ผ์„ ์ง์ ‘ ์‹คํ–‰ํ•ด๋ณด์„ธ์š”.
// repository documentation