전체 글

들어가며요즘 들어 모든 언론과 IT 회사에서 Agentic AI 시대를 맞이하고 있습니다.언론에서는 Agentic AI 에 대해 과하게 포장하는 hype 이 어느정도 있지만, 실제로 개발하는 개발자들은 사용 사례에 따라 각기 다른 평가를 하고 있는 춘추전국시대가 아닐수가 없습니다.그런데 Agentic AI 라는 것은 뭘까요?AI systems that can independently set goals, make plans, and execute multi-step tasks with minimal human supervision.인간의 최소한의 감독만으로도 독립적으로 목표를 설정하고, 계획을 세우고, 여러 단계를 거치는 작업을 실행할 수 있는 인공지능 시스템. 즉, 수행하고자하는 task 에 대해 목표를..

들어가며대규모의 시스템을 설계하면, 서로 다른 백엔드 시스템과의 통신이 많아지고 복잡해지는데요.통신이 많아질 수록 네트워크에 오류가 발생할 확률이 조금씩 늘어나게 됩니다.네트워크 오류는 일시적인 순단이거나 connection timeout 이 발생하는 클라이언트 일시적인 오류거나 패킷 손실 등 다양한 원인일 수 있습니다. 이러한 원인을 매번 파헤치는 것은 시간적 소요가 많이 들 뿐더러, 원인을 찾아낸더라 해도 재발 방지책을 세우기도 쉽지 않습니다.왜냐하면 단순 retry 하는 것으로 끝나는 경우들이 많기 때문입니다. 그래서 Idempotent HTTP 를 설계하려는 노력들을 많이 시작하게 되었는데요. 한번 시작해보겠습니다용어정리우선 앞으로 설명하게 될 용어에 대해 간단하게 소개해보겠습니다.크게 멱등성과 ..

들어가며저번 시간에 우리는 아주 기초적인 LLM API 를 호출하고 간단하게 tool 을 활용하는 방법에 대해 배워보았습니다.혹시나 어떤 내용인지 궁금하시다면 아래 링크를 클릭해주세요~!https://huisam.tistory.com/entry/llm-api LLM API 를 이용하여 Text 와 Tool 을 제공해보자(feat. OpenAi)들어가며안녕하세요~! 저번 시간에는 우리가 LLM 의 기본 동작과 돌아가는 원리에 대해 살펴보았는데요오늘은 조금 더 실무 관점에서 어떤식으로 Frontier Model 을 사용할 수 있는지 설명해보려고huisam.tistory.com 그런데 매번 tool 관련된 복잡한 python code 를 작성하는 것은 보일러플레이트 코드를 양산하고,tool 이 많아질수록 코드..

들어가며안녕하세요~! 저번 시간에는 우리가 LLM 의 기본 동작과 돌아가는 원리에 대해 살펴보았는데요오늘은 조금 더 실무 관점에서 어떤식으로 Frontier Model 을 사용할 수 있는지 설명해보려고 합니다. 먼저 Frontier Model 이라는 용어에 대해 이해가 어려우실텐데요. 우리가 흔히 사용하는 LLM 은 크게 2가지 분류로 분류됩니다Frontier Model: 많은 양의 데이터로 학습되었고, 파라미터 양이 엄청나게 많아 대규모 Model 을 일컫음(ex. GPT, Claude, Gemini ...)Open source Model: 적은 양의 데이터로 학습되었고, 파라미터 양이 적어 무료로 오픈소스로 사용할 수 있는 Model 을 일컫음(ex. llama, gemma, gpt-oss... )우..

들어가며안녕하세요~!오늘은 요즘 핫한 LLM(Large Language Model)의 구조와 동작 방식에 대해 이해하기 쉽게 한번 정리해보려 합니다.깊게 들어가면 들어갈수록 수학적인 공식과, 논문 레벨 단위로 설명을 해야 되는데, 그렇게 deep 한 level 은 다루진 않고이해하기 쉽게 풀어가며 정리해보려고 합니다 😁ArchitectureLLM 은 기본적으로 언어(Language)를 기반으로 다음에 나올 Token 을 예측하여 확률을 할당하는 모델입니다.수십억개의 파라미터를 가진 신경망(Neural Network) 구조를 기반으로 하고 있습니다. 예전에는 통계(ex. Linear Regression)를 기반으로 한 모델들도 있었지만, 요즘은 신경망(Neural Network) 을 기반으로 하는 것이 ..

들어가며안녕하세요~ 오늘은 자동적으로 버젼을 관리해주는 renovate 에 대해 알아보도록 해보겠습니다.소프트웨어를 운영하다보면 여러가지 라이브러리들을 사용하게 되고, 관리하는 라이브러리들이 점점 많아지게 되는데요. 아무래도 소프트웨어를 지속적으로 운영하기 위해서는 버젼관리가 항상 필수적으로 요구되는 사항입니다.우리는 버젼관리 에 대한 자동화를 통해 조금 더 원활하게 버젼관리를 진행하고, 매번 업데이트되는 사항들을 받아보는 것을 기반으로 Pull request 까지 자동 생성하게끔 하는 것이 renovate 를 사용하는 목적이라고 볼 수 있겠습니다.Renovate란?Renovate는 오픈 소스 도구로, GitHub, GitLab, Bitbucket과 같은 다양한 플랫폼에서 의존성의 자동 업데이트를 지원합..