프로젝트가 끝나고 바로 작성하기 시작한, 따끈따끈한 포스트🔥 미니프로젝트가 너무 연달아 계속 되어서 힘들지만.. 그래도 한 번쯤 개발해보고 싶었던 서비스를 개발할 수 있어 기쁘다 ^_^   프로젝트 계기 작년 인턴 생활 동안 슬랙을 정말 많이 썼다. 업무 공유부터 질문, 잡담까지 모든 커뮤니케이션이 슬랙을 중심으로 이뤄졌고, 자연스럽게 “이 안에 AI가 들어가면 꽤 괜찮지 않을까?” 하는 생각이 들었다. 그러던 중, RAG라는 개념을 접하게 됐고, 사내 자료를 검색해서 직원들의 질문에 AI가 답해주는 구조가 가능하다는 걸 알게 됐다. 실제로 검색해보니 많은 기업들이 사내 챗봇 개발에 관심을 가지고 있었고, 굵직한 기업부터 스타트업까지 다양한 시도가 이뤄지고 있었다. 나는 별도의 챗봇 앱을 만드는 것보다는, 직원들이 매일 사용하는 슬랙 같은 메신저에 자연스럽게 챗봇을 녹여넣는 방식이 더 접근성도 좋고, 실제 활용도도 높을 거라고 생각했다. 그래서 “슬랙에서 사용가능한 AI 챗봇을 만…

생성형 AI의 마지막 수업이다..!! RAG 수업을 할 때 빠질 수 없었던 Vector DB를 ‘파묘’해보자.   개요 생성형 AI가 발전하면서 할루시네이션 없는 생성형 콘텐츠의 중요성이 커졌고, 할루시네이션을 방지하고자 RAG가 각광받으며, 벡터 DB 또한 중요해졌다. (그래서 지금부터 우리는 벡터 DB에 대해 자세하게 알아볼 것이다!) 전통적인 데이터베이스가 정확한 값을 찾는 데 강하다면, 벡터 데이터베이스는 비슷한 것을 찾는 데 강하다. 그렇다면 벡터 데이터베이스가 필요해진 이유가 무엇일까? 기존 데이터베이스는 숫자나 텍스트 같은 구조화된 데이터를 저장하고 검색하는 데 최적화되어있다. 즉, 이미지, 음성, 문장 의미 같은 비정형 데이터 검색은 어렵다. 그러나 비정형 데이터의 활용이 많아지며, 유사도 검색이 비효율적인 전통 데이터베이스 이외에 벡터 데이터베이스의 필요성이 대두되고 있다.   벡터 데이터베이스 벡터 데이터베이스는 AI/ML 모델과의 시너지가 좋다. 벡터 데이터베이…

수업 때 배운 실습 파일들을 통해 랭체인에 대해 파묘!해보자 실습 코드는 총 7개이다!   1. LangChain 기초 랭체인은 LLM 어플리케이션을 효율적으로 개발할 수 있게 해주는 라이브러리 invoke() : 랭체인의 구성요소를 실행함 랭체인은 프롬프트 템플릿을 구성할 수 있음 채팅 메시지인 경우, ChatPromptTemplate을 사용하고, format()이 아닌 format_messages()를 사용함 랭체인으로 댓글 자동 분류하기 리뷰가 긍정인지 부정인지 llm으로 분류하기 성능 높이기 CoT 방식의 출력 유도하기 → 추론과정을 통해 분류 능력 향상 CoT 없이 자세한 지시사항 프롬프트 작성하기 → 비용 효율적이지만 프롬프트 구성이 어려움 랭체인 기초 사용법과 프롬프트 템플릿 사용법에 대해 담겨있고, 랭체인을 활용한 아주 간단한 댓글 자동 분류 코드를 짜봄   2. LCEL 랭체인에서 체인을 간결하게 구성하는 문법인 LCEL(LangChain Expression La…

생성형 AI를 더욱 잘 활용할 수 있게 도와주는 LangChain에 대해 공부하고, LCEL 문법과 실습 코드를 통해 랭체인에 익숙해지자!   LangChain이란? 자연어 처리(NLP) 작업에서 사용되는, 언어 모델을 연결하고 체인화하여 복잡한 워크플로우를 처리할 수 있게 도와주는 오픈 소스 프레임워크 LCEL이란? LangChain 내에서 데이터 처리 및 프롬프트 생성을 더욱 유연하게 설계하기 위해 도입된 표현식 언어 LCEL 동작 방식 이해 다양한 체인을 구성하여, 입/출력 및 중간 과정을 직관적으로 구현할 수 있음 LCEL 문법 LCEL은 LangChain 내에서 데이터 처리 및 프롬프트 생성을 더욱 유연하게 설계하기 위해 도입된 표현식 언어 LCEL을 통한 데이터 전처리 데이터 전처리 : 우리가 원하는 형식으로 데이터를 처리하는 것 / 머신러닝, 딥러닝 할 때 데이터 전처리가 은근 시간 소요 크고 중요함 데이터 정제 : 결측값 처리, 중복 제거, 이상값 제거 등 데이터 품…

LLM에 대한 전반적인 개념을 공부하자   LLM 배경 및 구조 이해 Transformer BERT GPT 출시연도 2017 2018 2018 주요 목적 양방향 변환 및 시퀀스 생성 양방향 문맥 이해 단방향 텍스트 생성 입력 처리 Sequence2Sequence 입력받은 전체 문장으로 Context 이해 이전 단어들을 기반으로 다음 단어 예측 모델 유형 Encoder-Decoder Encoder Decoder 특징 병렬 처리 가능 마스킹된 단어를 예측하여 문맥 이해도 높음 이전 토큰만 보고 예측하는 방식으로 자연스러운 생성 가능 파라미터 수 증가 방향 복잡도 증가 따라 확장 가능 파라미터를 늘려 더 정밀한 문맥 이해 가능 대규모 파라미터로 더 자연스러운 텍스트 생성 가능   LLM이 생성형 AI로 동작하는 기술 원리 인코더 입력 문장의 의미를 벡터로 추출 디코더 인코더 결과를 해석하여 목표 문장 생성 LLM이 생성형 AI로 작동하는 원리는, 주어진 문장과 단어를 토대로 다음에 올…