llm-structured-output-benchmarks
Benchmark various LLM Structured Output frameworks: Instructor, Mirascope, Langchain, LlamaIndex, Fructose, Marvin, Outlines, etc on tasks like multi-label classification, named entity recognition, synthetic data generation, etc.
파일 탐색기
최종 버전 다운로드 (.zip)- .gitkeep
- multilabel_classification.pkl
- ner.pkl
- data_models.py
- generate_dataset.py
- __init__.py
- base.py
- fructose_framework.py
- instructor_framework.py
- llamaindex_framework.py
- lm_format_enforcer_framework.py
- marvin_framework.py
- metrics.py
- mirascope_framework.py
- modelsmith_framework.py
- outlines_framework.py
- vanilla_openai_framework.py
- FructoseFramework.pkl
- InstructorFramework.pkl
- LlamaIndexFramework.pkl
- LMFormatEnforcerFramework.pkl
- MarvinFramework.pkl
- MirascopeFramework.pkl
- ModelsmithFramework.pkl
- OutlinesFramework.pkl
- VanillaOpenAIFramework.pkl
- InstructorFramework.pkl
- LlamaIndexFramework.pkl
- LMFormatEnforcerFramework.pkl
- MarvinFramework.pkl
- MirascopeFramework.pkl
- VanillaOpenAIFramework.pkl
- InstructorFramework.pkl
- LlamaIndexFramework.pkl
- LMFormatEnforcerFramework.pkl
- MarvinFramework.pkl
- MirascopeFramework.pkl
- ModelsmithFramework.pkl
- OutlinesFramework.pkl
- VanillaOpenAIFramework.pkl
- .gitkeep
- .gitignore
- config.yaml
- LICENSE
- main.py
- README.md
- requirements.txt
# 설치 가이드
1. 코드 내려받기
git clone https://github.com/stephenleo/llm-structured-output-benchmarks
깃허브에서 프로젝트 코드 전체를 내 컴퓨터로 내려받습니다.
cd llm-structured-output-benchmarks
방금 내려받은 프로젝트 폴더 안으로 이동합니다.
2. Python
쉬움 추천사전 준비물
- Multilabel classification: `python -m main generate-results`
파이썬 스크립트(또는 모듈)를 실행합니다.
- NER: `python -m main generate-results --task ner`
파이썬 스크립트(또는 모듈)를 실행합니다.
- Synthetic data generation: `python -m main generate-results --task synthetic_data_generation`
파이썬 스크립트(또는 모듈)를 실행합니다.
- Benchmarking test is run using synthetic data generated by running: `python -m data_sources.generate_dataset generate-multilabel-data`.
파이썬 스크립트(또는 모듈)를 실행합니다.
- The synthetic data is generated by sampling and combining rows from the base data to achieve multiple classes per row according to some distribution for num classes per row. See `python -m data_sources.generate_dataset generate-multilabel-data --help` for more details.
파이썬 스크립트(또는 모듈)를 실행합니다.
에러 메시지 없이 실행되고 터미널에 안내 문구가 출력되면 정상입니다.
이 레포의 README에 적힌 실제 명령어를 그대로 가져왔습니다.
// repository documentation
Was this content helpful?
(0 ratings)
