33 lines
1.5 KiB
Bash
33 lines
1.5 KiB
Bash
# ---- Backend LLM -----------------------------------------------------------
|
|
# Najprościej: nie ustawiaj tego ręcznie, tylko uruchom
|
|
# task llm:up && eval "$(task llm:env)"
|
|
# Zmienne poniżej to dokładnie to, co wygeneruje `task llm:env` z llm/models.yml.
|
|
#
|
|
# Wybór backendu: auto (domyślnie) | vllm-gpu | vllm-metal | ollama | mock
|
|
# LLM_BACKEND=ollama task llm:up
|
|
CODEMOD_MODEL_PROVIDER=vllm # vllm | openai_like | ollama
|
|
CODEMOD_LLM_BASE_URL=https://vllm.apps.ocp.internal/v1
|
|
CODEMOD_LLM_API_KEY=dummy # w CI: zmienna masked/protected
|
|
CODEMOD_MODEL_PLANNER=Qwen/Qwen3-32B
|
|
CODEMOD_MODEL_CODER=Qwen/Qwen3-Coder-30B
|
|
CODEMOD_MODEL_REVIEWER=Qwen/Qwen3-32B
|
|
CODEMOD_MODEL_SCRIBE=Qwen/Qwen3-8B
|
|
|
|
# ---- Budżety i guardraile --------------------------------------------------
|
|
CODEMOD_MAX_ITERATIONS=4
|
|
CODEMOD_MAX_FILES_CHANGED=40
|
|
CODEMOD_MAX_FILE_BYTES=400000
|
|
CODEMOD_TOOL_CALL_LIMIT=60
|
|
CODEMOD_VERIFY_TIMEOUT_S=900
|
|
|
|
# ---- GitLab ---------------------------------------------------------------
|
|
CI_SERVER_URL=https://gitlab.internal
|
|
CI_PROJECT_ID=1234
|
|
CODEMOD_GITLAB_TOKEN= # PAT/Project Access Token z api+write_repository
|
|
|
|
# ---- Lokalne uruchamianie modelu (opcjonalne) ------------------------------
|
|
# HUGGING_FACE_HUB_TOKEN= # modele za bramką na Hugging Face
|
|
# HF_CACHE=$HOME/.cache/huggingface # współdzielony cache modeli dla kontenera vLLM
|
|
# LLM_PORT=8000 # port vLLM
|
|
# LLM_WAIT_TIMEOUT=900 # ile sekund czekać na wstanie endpointu
|