Python 에이전트 설정

기본 필수 활성화 옵션

llm_license= llm.whatap.server.host=

파이썬 에이전트는 APM과 LLMOBS 프로젝트를 함께 사용할 수 있으며, LLM 프로젝트의 관련 값들은 이와 같은 옵션에 태깅을 해야만 합니다.

llm_enabled=true

이 옵션을 통해 LLM 로그싱크팩과 메트릭 수집을 활성화 할 수 있습니다. LLMOBS 사용시 필수적으로 해당 옵션은 true 로 되어 있어야 합니다.

llm_api_hosts=localhost:8000,api.openai.com:443

자동 계측이 모르는 LLM API endpoint (vLLM / LiteLLM / 사설 게이트웨이 등) 를 LLM 호출로 판단하기 위한 설정 옵션 입니다. httpc driver 가 해당 호스트로 가는 호출을 LLM API 드라이버로 마킹하게 됩니다.

llm_model_pricing=gpt-4o|2.50|10.00|1.25,gpt-4o-mini|0.15|0.60|0.075,my-custom-model|1.00|5.00

모델의 토큰 별 가격을 수동 지정할 수 있습니다. 설정된 값은 실제 비용이 인식되더라도 가장 최우선으로 반영됩니다.

형식: model|input_per_1m|output_per_1m|cached_per_1m