Spring AI Explainable Agents: LLM Tool Call Reasoning을 추적하는 방법
Spring AI의 Tool Argument Augmenter를 활용해 LLM이 왜 특정 도구를 호출했는지 reasoning과 confidence를 캡처하는 방법을 예제로 정리합니다.
있는 것 없는 것 아무거나 다 공유합니다.
태그: #spring-ai · 23개의 글
초기화Spring AI의 Tool Argument Augmenter를 활용해 LLM이 왜 특정 도구를 호출했는지 reasoning과 confidence를 캡처하는 방법을 예제로 정리합니다.

에이전트라는 단어는 요즘 너무 넓게 쓰인다. 그래서 오히려 실무에서는 질문을 더 좁혀야 한다. - 정말 자율적인 에이전트가 필요한가 - 아니면 정해진 코드 경로를 따라가는 워크플로가 더 나은가 - 복잡성을 늘릴 만큼 품질 이득이 있는가 Spring AI의 `Building Effective Agents` 문서는 이 지점을

프롬프트 엔지니어링은 한동안 과장되게 소비되기도 했지만, Spring AI 문서를 보면 꽤 현실적인 주제로 정리된다. 핵심은 멋진 문장을 만드는 재주가 아니라, **어떤 작업에 어떤 프롬프트 패턴이 잘 맞는지 분류하고 코드로 재현 가능하게 만드는 일**이다. `Prompt Engineering Patterns` 문서는 이

ChatClient와 RAG를 이해하고 나면 곧바로 부딪히는 질문이 있다. **대화 이력은 어디에 둘 것인가?** 데모에서는 한 번 호출하고 끝나지만, 실제 서비스는 다르다. - 이전에 사용자가 무엇을 물었는지 기억해야 하고 - 도구 호출 결과도 문맥으로 다시 써야 할 때가 있고 - 세션이 끊겨도 기록을 유지해야 할 수

Spring AI 문서를 처음 읽을 때 가장 과소평가하기 쉬운 페이지가 `AI Concepts`다. 대부분은 빨리 코드로 내려가고 싶어서 `Getting Started`나 `ChatClient` 예제부터 본다. 그런데 그렇게 들어가면 뒤에서 나오는 RAG, Tool Calling, Structured Output, Eva

Tool Argument Augmentation으로 reasoning과 메타데이터를 어떻게 포착하는지 정리했다.

Dynamic Tool Discovery가 대규모 툴 환경에서 왜 중요한지 정리했다.

Spring AI A2A가 원격 에이전트 협업을 어떻게 가능하게 하는지 정리했다.

Spring AI의 Task 도구로 메인 에이전트와 전문 서브에이전트를 계층적으로 구성하는 방법, 내장 서브에이전트, 커스텀 설정, 멀티 모델 라우팅, 백그라운드 실행까지 원문 흐름에 맞춰 자세히 정리했다.

TodoWriteTool이 복잡한 작업을 어떻게 명시적 계획과 진행 추적으로 바꾸는지 정리했다.