본문으로 건너뛰기

LLM Java 에이전트 설치

LLM Observability Java 에이전트는 Spring AI 기반 LLM 호출을 추적하는 에이전트입니다. 에이전트 JAR을 다운로드하고, JVM 시작 옵션에 -javaagent를 추가한 뒤 whatap.conf의 weaving 옵션으로 Spring AI 버전을 지정하여 적용합니다. 지원 환경은 LLM Observability 지원 환경 문서를 참조하세요.

에이전트 다운로드​

액세스 키를 발급받은 다음 에이전트 다운로드 섹션으로 이동하세요. 다음 명령어를 실행해 에이전트를 다운로드하세요.

wget https://api.whatap.io/agent/whatap.agent.java.tar.gz
팁

wget 명령으로 다운로드할 수 없다면 콘솔의 다운로드 버튼으로 설치 파일을 받으세요. 다운로드한 파일을 압축 해제하세요.

tar xzvf whatap.agent.java.tar.gz

JVM 옵션 설정​

Java 9 이상에서는 모듈 보안 정책으로 에이전트 일부 기능이 제한될 수 있습니다. JVM 시작 옵션에 다음을 추가하세요.

--add-opens=java.base/java.lang=ALL-UNNAMED

사용 중인 OS에 맞게 -javaagent 옵션을 추가하세요.

########## WHATAP START ############
WHATAP_HOME={압축 해제한 경로}/whatap
WHATAP_JAR=`ls ${WHATAP_HOME}/whatap.agent-*.jar | sort -V | tail -1`
JAVA_OPTS="${JAVA_OPTS} -javaagent:${WHATAP_JAR} "
########## WHATAP END ############

또는 직접 경로를 지정할 수 있습니다.

-javaagent:{에이전트 설치 경로}/whatap.agent-X.Y.Z.jar

에이전트 설정​

액세스 키 및 수집 서버 IP 설정​

whatap.conf 파일에 액세스 키와 수집 서버 IP를 설정하세요.

whatap.conf
license={ACCESS_KEY}
whatap.server.host={COLLECTION_SERVER_IP}

Spring AI 버전별 weaving 설정​

사용 중인 Spring AI 버전에 맞는 weaving 옵션을 whatap.conf에 추가하세요.

whatap.conf
# Spring AI 2.0.0 M1 ~ M2
weaving=spring-ai-2.0

# Spring AI 2.0.0 M3
weaving=spring-ai-2.0-m3

설정을 완료한 다음 애플리케이션을 다시 시작하세요.

최종 수정: