- Retrieval-Augmented Generation (Embedding, Vector DB) 이번 회차의 키워드는 한 문장으로 정리하면 이렇습니다. “LLM이 답하기 전에, 우리 문서에서 먼저 찾아오게 만들자.” LLM은 학습 시점 이후의 정보를 알 수 없고(knowledge cutoff), 회사 내부 문서·도메인 지식은 애초에 학습 데이터에 포함되지 않으며, 모르면 그럴듯하게 지어내는 환각(Hallucination)도 발생합니다. 그래서 실전에서는 “모델을 더 똑똑하게 만들기”보다 “모델이 참고할 근거를 먼저 주기”가 더 빠르고, 더 싸고, 더 안전한 경우가 많습니다. 그 구조가 바로 RAG(Retrieval-Augmented Generation) 입니다. RAG는 말 그대로 검색(Retri..
- 프롬프트 엔지니어링 기술 적용 샘플링 이번 회차에서는 “프롬프트를 어떻게 쓰면 되나요?”를 한 단계 넘어, 같은 문제를 서로 다른 프롬프트 패턴(기법)으로 샘플링해보는 방법을 정리했습니다. 핵심은 간단합니다. LLM은 한 번의 질문으로 끝내기보다, 목적에 맞는 프롬프트 형태를 선택해 출력의 정확도·일관성·구조를 끌어올리는 방식이 실전에서 훨씬 잘 통합니다. 아래는 스터디에서 다룬 기법들을 “정의 → 언제 쓰는지 → 그대로 복붙 가능한 샘플” 흐름으로 정리한 내용입니다. Zero-shot (예시 없이 바로 지시)정의: 예시를 제공하지 않고, 요구 사항만으로 답을 생성하게 하는 방식입니다.언제 유용한가: 빠르게 초안을 뽑거나, 작업 난이도가 낮고 요구 형식이 단순할 때 적합합니다.샘플1: 다음 문장..
- LLM & 프롬프트 엔지니어링 대규모 언어 모델은 어떻게 생각하고, 우리는 어떻게 말을 걸어야 할까 AI 스터디 1회차에서는 LLM(Large Language Model) 과 프롬프트 엔지니어링을 중심으로,요즘 우리가 사용하는 생성형 AI가 어떤 원리로 동작하는지, 그리고 왜 “질문을 잘 던지는 것”이 중요한지를 살펴보았습니다. 이번 글에서는LLM이 무엇인지어떤 방식으로 학습되고왜 프롬프트가 결과를 크게 바꾸는지를 개발자 관점에서 정리해봅니다.대규모 언어 모델(LLM)이란 무엇인가 정의대규모 언어 모델(LLM)은 방대한 텍스트 데이터를 기반으로 인간의 언어를 이해하고 생성하도록 학습된 딥러닝 기반 AI 모델입니다.핵심적으로 LLM은 **“다음 토큰(단어 혹은 글자 조각)을 예측하는 문제”**를 반복..
— “AI를 아는 사람”이 아니라, “AI로 만드는 사람”이 되기까지 최근 AI 기술은 매우 빠른 속도로 발전하고 있습니다.다양한 도구와 서비스가 등장하고 있지만, 실제 현업에서 “그래서 이 기술을 어떻게 활용할 수 있을까?”라는 질문에 명확히 답하기는 쉽지 않습니다. 이번에 AI 스터디를 시작한 이유도 여기에 있습니다.단순히 개념을 이해하는 데서 그치지 않고, AI를 실제 어플리케이션과 서비스에 적용할 수 있는 수준까지 경험해보기 위함입니다. 스터디 목표이번 스터디는 개인의 성장과, 회사 내 실무 활용이라는 두 가지 방향을 함께 고려해 설계했습니다.개인 목표AI 엔지니어로의 성장 (어플리케이션 개발 수준) 모델을 “알고 있는” 단계가 아니라, 실제 서비스에 연결하고 운영할 수 있는 개발 역량을 목표로..