FloTorch
FloTorch is an open-source tool for optimizing Generative AI workloads on AWS. It automates RAG proof-of-concept development with features like hyperparameter tuning, vector database optimization, and LLM integration. FloTorch streamlines experimentation, ensures security, and accelerates production with cost-efficient, validated workflows.
파일 탐색기
최종 버전 다운로드 (.zip)- Build_Deploy_Dev.yaml
- Build_Deploy_QA.yaml
- bug_report.yml
- config.yml
- __init__.py
- logger.py
- __init__.py
- database.py
- s3.py
- general.conf
- proxy.conf
- security.conf
- app.conf
- auth.conf
- nginx.conf
- __init__.py
- bedrock_config.py
- config.py
- cost_and_duration_calculation.py
- execution.py
- experiment.py
- expert_eval.py
- health.py
- uploads.py
- __init__.py
- configuration_validation.py
- Dockerfile
- main.py
- marketplace_app.Dockerfile
- models.py
- orchestrator.py
- price_calculator.py
- requirements.txt
- seed_data.py
- base_classes.py
- app-runner-template.yaml
- dynamodb-template.yaml
- ecr-repository-template.yaml
- ecs-template.yaml
- lambda-template.yaml
- master-template.yaml
- opensearch-template.yaml
- state-machine-template.yaml
- vpc-endpoint-template.yaml
- vpc-template.yaml
- __init__.py
- config.py
- experimental_config.py
- __init__.py
- app_constants.py
- sagemaker_constants.py
- validation_status.py
- __init__.py
- fixed_chunker.py
- hierarchical_chunker.py
- __init__.py
- bedrock_embedder.py
- cohere_embedder.py
- titanv1_embedder.py
- titanv2_embedder.py
- __init__.py
- sagemaker_embedder.py
- __init__.py
- embedding_factory.py
- ragas_eval.py
- ragas_llm_eval.py
- ragas_non_llm_eval.py
- __init__.py
- eval_factory.py
- bedrock_guardrails.py
- bedrock_inferencer.py
- llama_inferencer.py
- sagemaker_inferencer.py
- __init__.py
- inference_factory.py
- __init__.py
- chunking_processor.py
- embed_processor.py
- eval_processor.py
- inference_processor.py
- rerank.py
- experimental_config_service.py
- __init__.py
- dynamodb.py
- knowledgebase_vectorstore.py
- opensearch_vectorstore.py
- Amazon_Bedrock_Dataset.pdf
- Amazon_bedrock_gt.json
- Amazon_Bedrock_Prompt.json
- medical_abstracts.pdf
- medical_prompt.json
- medical_qa_50.json
- pricing-calculation.md
- Dockerfile
- eval.py
- fargate_evaluation.Dockerfile
- requirements.txt
- fargate_eval_handler.py
- fargate_indexing_handler.py
- fargate_retriever_handler.py
- task_processor.py
- __init__.py
- Dockerfile
- fargate_indexing.Dockerfile
- indexing.py
- requirements.txt
- cost_compute_handler.py
- Dockerfile
- pricing.py
- requirements.txt
- utils.py
- evaluation_handler.py
- indexing_handler.py
- opensearch_handler.py
- retriever_handler.py
- opensearch.Dockerfile
- opensearch_index_manager.py
- opensearch_requirements.txt
- Hierarchical_Chunking.png
- Indexing_Algorthm_HNSW_BQ_SQ.png
- ReRanking.png
- Release v1.0.2.md
- Release v2.0.0.md
- Dockerfile
- fargate_retriever.Dockerfile
- requirements.txt
- retriever.py
- FloTorch.ai TestReport.pdf
- Integration Test Report.pdf
- Test Plan for FloTorch.pdf
- settings.json
- main.css
- Upload.vue
- UploadKb.vue
- UploadModal.vue
- DataStrategyStep.vue
- EvalStrategyStep.vue
- Form.vue
- IndexingStrategyStep.vue
- RetrievalStrategyStep.vue
- Assessments.vue
- DetailsButton.vue
- DirectionalPricing.vue
- HumanEvaluation.vue
- List.vue
- ValidList.vue
- DownloadConfigButton.vue
- List.vue
- UploadConfigButton.vue
- Breadcumb.vue
- DownloadResultsButton.vue
- FetchKbModels.vue
- FieldTooltip.vue
- ModelSelect.vue
- Page.vue
- PromptGuideHelp.vue
- PromptGuideSelect.vue
- RegionSelect.vue
- VectorDimensionSelect.vue
- api.ts
- fileoperation.ts
- projects.ts
- shared.ts
- tooltip.ts
- useShareData.ts
- default.vue
- [experimentId].vue
- index.vue
- execute.vue
- humanevaluation.vue
- index.vue
- validexperiments.vue
- [id].vue
- create.vue
- index.vue
- index.vue
- 03.vuequery.ts
- mitt.ts
- json-csv.ts
- app.config.ts
- app.vue
- android-chrome-192x192.png
- android-chrome-512x512.png
- apple-touch-icon.png
- favicon-16x16.png
- favicon-32x32.png
- favicon.ico
- favicon.png
- flotorch-hero.gif
- logo.png
- prompt-guide.json
- robots.txt
- site.webmanifest
- tsconfig.json
- breadcumb.type.ts
- experiments.type.ts
- humaneval.type.ts
- projects.type.ts
- .env.example
- .gitignore
- .ncurc.json
- .npmrc
- eslint.config.mjs
- nuxt.config.ts
- package.json
- pnpm-lock.yaml
- README.md
- tsconfig.json
- bedrock_utils.py
- boto3_utils.py
- date_time_utils.py
- dynamo_utils.py
- error_handling.py
- guard_rails_utils.py
- open_search_config_utils.py
- pdf_utils.py
- s3util.py
- .gitignore
- CODE_OF_CONDUCT.md
- CONTRIBUTING.md
- CONTRIBUTORS.md
- cover-image.png
- Dockerfile
- faq.md
- FloTorch Colour Logo.png
- flotorch-arch.png
- Help_Links.MD
- install.md
- LICENSE
- provision.sh
- README.md
- usage_guide.md
# 설치 가이드
1. 코드 내려받기
git clone https://github.com/FissionAI/FloTorch
깃허브에서 프로젝트 코드 전체를 내 컴퓨터로 내려받습니다.
cd FloTorch
방금 내려받은 프로젝트 폴더 안으로 이동합니다.
2. Docker
쉬움 추천사전 준비물
- Git GitHub에서 프로젝트 코드를 내려받으려면 필요합니다.
- Docker Desktop 컨테이너를 빌드하고 실행하려면 필요합니다. 설치 후 실행해서 백그라운드에 켜두세요.
docker build -t flotorch .
Dockerfile을 기반으로 실행 가능한 이미지를 빌드합니다.
docker run -p 8080:80 flotorch
빌드된 이미지를 실제 컨테이너로 실행합니다.
터미널에 docker compose ps 를 입력해 컨테이너들이 Up 상태인지 확인하세요. README에 포트 번호가 적혀있다면 브라우저에서 http://localhost:포트번호 로 접속해보세요.
3. Node.js
쉬움사전 준비물
cd ui
이 프로젝트의 관련 파일이 하위 폴더 안에 있어서, 먼저 그 폴더로 이동합니다.
npm install
package.json에 명시된 라이브러리들을 내려받아 설치합니다.
npm start
개발/실행 서버를 켭니다.
명령어 실행 후 터미널에 나타나는 주소(보통 http://localhost:3000 형태)를 브라우저에서 열어보세요.
4. Python
쉬움사전 준비물
pip install -r app/requirements.txt
requirements.txt 등에 명시된 파이썬 라이브러리를 설치합니다.
python <실행할 파일명>.py # README에서 정확한 실행 파일명을 확인하세요
파이썬 스크립트(또는 모듈)를 실행합니다.
에러 메시지 없이 실행되고 터미널에 안내 문구가 출력되면 정상입니다.
// repository documentation
Was this content helpful?
(0 ratings)