Chain-of-Thought(CoT) 프롬프트 이해하기

어떻게 질문해야 LLM 이 더 잘 이해하고 내가 원하는 답변을 만들어줄까? 라는 고민을 하면서 프롬프트를 어떻게 작성할까? 하는 질문을 하게 된다. 프롬프트를 입력해 LLM 에게 전달해 답변을 생성하게 되는데 이 프롬프트를 어떻게 작성하느냐에 따라서 답변의 질이 달라진다고 할 수 있다. 그래서 프롬프트 기법의 하나인 CoT(Chain-of-Thought) 에 대해서 이해하고 정리해보려고 한다. 참고로 아래의 문서를 보면 여러 프롬프트 기법에 대해서 잘 설명이 되어있어 참고하면 좋을 것 같다. Chain-of-Thought Prompting – NextraA Comprehensive Overview of Prompt Engineeringwww.promptingguide.ai CoT (Chain-of-Th..

• format_list_bulleted AI/개념정리
• · 2026. 1. 21.
• textsms

LangChain ToolCalling 알아보기 (2)

해당 포스트는 인프런에서 "AI 에이전트로 구현하는 RAG 시스템(w. LangGraph)" 강의를 듣고 정리한 내용입니다. 지난 포스트에 이어서 이번에는 LLM 에 Tool Message 를 전달해서 답변을 생성하는 과정에 대해서 공부하고 정리해보려고 한다. ToolMessage 를 LLM 에 전달해서 답변 생성하기지난 포스트에서는 도구를 사용해보고 LLM 을 통해 도구를 바인딩해서 사용해보는 과정을 하나씩 진행했었는데이번에는 하나로 연결해서 답변까지 생성해주는 과정을 진행해보려고 한다. 먼저, Tavily 검색 도구와 LLM 모델을 각각 정의해서 객체로 만들어주었다. Tavily 검색 도구 정의 (tavily_search_tool.py)import warningswarnings.filterwarnin..

• format_list_bulleted AI/RAG
• · 2025. 5. 10.
• textsms

OpenRouter 에서 LLM 모델 사용해보기

LLM 모델을 사용해보고 싶은데 대부분 유료 서비스로 비용을 지불하고 사용해야만 한다.만약 직접 서버를 구축해서 모델을 사용하려고 하더라도 최소 사양의 서버를 구축하는데 상당한 비용이 들기 때문에 쉽지 않다. 직접 구축해서 사용해보고 싶어도 서버 비용이 많이 들게 되고 그렇지 않다면 어느 정도 비용을 지불하고 사용해야 하는데 테스트만 해야하는 입장에서는 상당히 부담스러운 부분이 될 수도 있다. 어떤 모델을 사용해야하고 성능이 얼마나 되는지 가볍게 사용해보고 싶은데 무료로 사용해볼 수 있는 곳은 없을까? 라는 생각에 찾아보다가 OpenRouter 라는 플랫폼을 찾게 되었다. OpenRouter 에 대해서 자세하게 아는 것은 아니지만 내가 직접 사용해본 OpenRouter 에 대해서 정리해보려고 한다. Op..

• format_list_bulleted AI/RAG
• · 2025. 5. 4.
• textsms