AdelieAI 만들면서 정리한 LLM 용어집 (시스템 프롬프트, 하이브리드 RAG)
AdelieAI 출시 글을 쓰면서 본문에 등장한 용어들이 너무 많아서, 따로 정리한 용어집입니다. 작은 LLM에 페르소나를 입힐 때 자주 마주치는 단어들이고, 두 영역으로 나눴습니다. 시스템 프롬프트 쪽과 하이브리드 RAG 쪽. 시스템 프롬프트 영역 용어 정의 AdelieAI 맥락 ...
AdelieAI 출시 글을 쓰면서 본문에 등장한 용어들이 너무 많아서, 따로 정리한 용어집입니다. 작은 LLM에 페르소나를 입힐 때 자주 마주치는 단어들이고, 두 영역으로 나눴습니다. 시스템 프롬프트 쪽과 하이브리드 RAG 쪽. 시스템 프롬프트 영역 용어 정의 AdelieAI 맥락 ...

작은 LLM에 페르소나를 직접 훈련시켜서 패키징하는 오픈소스 엔진 AdelieAI를 공개했습니다. 60에서 120쌍 정도의 대화 데이터를 넣으면 캐릭터를 유지하는 LoRA가 나오고, GGUF로 양자화해서 노트북에서도 돌릴 수 있게 만드는 파이프라인입니다. 오늘 두 개의 학습된 체크포인트를 HuggingFace에 같이 올렸습니다. 코드: gith...

어제 글에서 8.7M LLM은 분위기용이고, 다음 빌드는 1B 이상으로 옮겨갈 예정이라고 적어뒀다. 그 작업의 결과 정리. TinyLlama 1.1B Chat이 Unity 데스크탑 게임에서 영어로 답한다. 빌드는 900MB 늘어났다. 통합하기까지 NuGet 의존성, 버전 매칭, native search path 추적이 다 한 번씩 발목을 잡았다. 다음...

둘이서 시작한 인디 게임 Save the Penguin. 시작할 때 서로 지인들한테 확정 판매로 미리 약속을 잡아두고 들어갔다. 작은 프로젝트지만 들어줄 사람이 정해져 있다는 게 작업의 결을 바꿨다. 다만 둘 다 시간이 다르게 비어서 어차피 비동기로 굴러간다. 그래서 Discord 채널 하나를 공용 회의실로 두고, 누가 피드백을 던지면 Claude C...

인디 Unity 게임의 펭귄 DJ가 영어로 한마디씩 답하게 하고 싶었다. 그래서 세상에서 가장 작은 LLM 중 하나인 8.7M 파라미터짜리 모델을 게임 안에 올려봤다. 결론부터 말하면 어설프다. 근데 그래서 귀엽다. 어떤 모델인가 arman-bd/guppylm-9M을 썼다. MIT 라이선스, GPT-2 스타일 decoder, 6 layer × 6 ...
BibleCardAI의 전체 플로우를 2분짜리 영상으로 정리했다. 구절 선택부터 묵상 작성, AI 이미지 생성, 카드 완성까지 실제로 어떻게 흐르는지 한 번에 보여주는 게 목적. 플로우 성경 구절 선택은 카테고리 → 세부 → 구절 3단계 대화형 UI로 받는다. 그다음 자유 텍스트로 묵상을 쓰면 RAG가 관련 구절을 실시간으로 추천한다. 스타일은...
BibleCardAI를 한국어/영어 이중 언어로 운영하면서 겪은 i18n 삽질들. next-intl 기반이고, SSO 사이트(blessflow.com)와 서비스 사이트(biblecardai.blessflow.com)가 분리된 구조다. 1. next/link 쓰면 locale이 날아간다 가장 큰 삽질. 한국어로 쓰고 있다가 카드를 클릭하면 갑자기 영...
BibleCardAI의 첫 페이지가 Hero 텍스트 + 기능 소개 카드 3장이 전부였다. 서비스가 뭔지 한눈에 안 보이고, 실제 결과물을 보려면 갤러리까지 들어가야 했다. 리뉴얼 목표는 단순하다. 들어오자마자 “이 서비스는 이런 카드를 만든다”가 보이게 하는 것. 구조 Hero — CTA 버튼 2개 (만들기 / 갤러리 둘러보기) 인기 카...
사용자 묵상은 개인적인 내용이라 암호화해서 저장해야 했다. 문제는 묵상 텍스트를 암호화하면 RAG(시맨틱 검색)이 안 된다는 것. 딜레마 암호화된 텍스트로는 임베딩을 만들 수 없고, 검색도 안 된다. 그렇다고 평문을 DB에 두면 유출 위험이 있다. 처음에는 클라이언트 사이드 E2E 암호화를 고려했다. 서버가 평문을 아예 모르는 방식. 하지만 그러...
카드 생성이 갑자기 안 됐다. 서버 로그: could not access file "$libdir/vector": No such file or directory RAG 검색도 죽었다. pgvector가 사라졌다. 원인 ArgoCD가 postgres StatefulSet을 재생성하면서 새 Pod이 떴다. PVC(데이터)는 살아있었지만, 컨테이너...