https://southglory.github.io/개발과 프로그래밍에 대한 이야기를 나누는 블로그입니다. 2026-04-29T14:33:14+09:00 SouthGlory https://southglory.github.io/ Jekyll © 2026 SouthGlory /assets/img/favicons/favicon.ico /assets/img/favicons/favicon-96x96.png 2026-04-29T12:00:00+09:00 2026-04-29T12:00:00+09:00 https://southglory.github.io/posts/adelieai-llm-%EC%9A%A9%EC%96%B4%EC%A7%91/ SouthGlory

AdelieAI 출시 글을 쓰면서 본문에 등장한 용어들이 너무 많아서, 따로 정리한 용어집입니다. 작은 LLM에 페르소나를 입힐 때 자주 마주치는 단어들이고, 두 영역으로 나눴습니다. 시스템 프롬프트 쪽과 하이브리드 RAG 쪽. 시스템 프롬프트 영역 용어 정의 AdelieAI 맥락 System prompt 모델 호출 시 최상단에 들어가는 지시문. 사용자 prompt 위에 위치. 페르소나의 정체성과 룰, 금기를 정의 core/personas/registry.py에 페르소나마다 하드코딩 Instruction tuning base 모델(Qwen2.5-7B) ...

2026-04-29T00:00:00+09:00 2026-04-29T14:32:33+09:00 https://southglory.github.io/posts/adelieai-%EC%B6%9C%EC%8B%9C-%ED%8E%98%EB%A5%B4%EC%86%8C%EB%82%98-lora-%ED%9B%88%EB%A0%A8/ SouthGlory

작은 LLM에 페르소나를 직접 훈련시켜서 패키징하는 오픈소스 엔진 AdelieAI를 공개했습니다. 60에서 120쌍 정도의 대화 데이터를 넣으면 캐릭터를 유지하는 LoRA가 나오고, GGUF로 양자화해서 노트북에서도 돌릴 수 있게 만드는 파이프라인입니다. 오늘 두 개의 학습된 체크포인트를 HuggingFace에 같이 올렸습니다. 코드: github.com/southglory/AdelieAI GPU LoRA: ramyun/adelie-qwen-roleplay-v2-lora CPU GGUF: ramyun/adelie-qwen-roleplay-v2-gguf 라이선스: 코드 Apache 2.0, 모델 가중치 Tongyi Qianwen v1 (Qwen2.5 상속) “어시스턴트”라는 추상화의...

2026-04-26T00:00:00+09:00 2026-04-26T00:00:00+09:00 https://southglory.github.io/posts/%EA%B2%8C%EC%9E%84%EC%97%90-%EC%9B%90%ED%95%98%EB%8A%94-%EC%98%A4%ED%94%88%EC%86%8C%EC%8A%A4-llm-%EC%9E%90%EC%9C%A0%EB%A1%AD%EA%B2%8C-%EB%84%A3%EB%8A%94-%EB%B0%A9%EB%B2%95/ SouthGlory

어제 글에서 8.7M LLM은 분위기용이고, 다음 빌드는 1B 이상으로 옮겨갈 예정이라고 적어뒀다. 그 작업의 결과 정리. TinyLlama 1.1B Chat이 Unity 데스크탑 게임에서 영어로 답한다. 빌드는 900MB 늘어났다. 통합하기까지 NuGet 의존성, 버전 매칭, native search path 추적이 다 한 번씩 발목을 잡았다. 다음 사람은 이 글대로 따라가면 한 시간 안에 끝낼 수 있게 정리해뒀다. ORT GenAI가 뭔가 Microsoft가 만든 ONNX Runtime용 LLM 추론 라이브러리다. MIT 라이선스. raw ONNX Runtime은 그냥 텐서 추론기라 LLM을 돌리려면 토크나이저, KV cache, sampling을 직접 짜야 한다. ORT GenAI는 이 셋을 ...

2026-04-25T12:00:00+09:00 2026-04-26T01:21:48+09:00 https://southglory.github.io/posts/discord-claude-code-%EC%97%90%EC%9D%B4%EC%A0%84%ED%8A%B8%EC%99%80-%EA%B2%8C%EC%9E%84-%EB%A7%8C%EB%93%A4%EA%B8%B0/ SouthGlory

둘이서 시작한 인디 게임 Save the Penguin. 시작할 때 서로 지인들한테 확정 판매로 미리 약속을 잡아두고 들어갔다. 작은 프로젝트지만 들어줄 사람이 정해져 있다는 게 작업의 결을 바꿨다. 다만 둘 다 시간이 다르게 비어서 어차피 비동기로 굴러간다. 그래서 Discord 채널 하나를 공용 회의실로 두고, 누가 피드백을 던지면 Claude Code 에이전트가 그걸 받아 코드를 고치고 빌드를 다시 올리는 식으로 굴리고 있다. 어떻게 굴러가나 파이프라인 역할은 직접 만든 southglory/system-agents-plugins가 한다. Claude Code의 슬래시 스킬로 Discord ↔ 에이전트를 연결하는 도구 모음이다. 쓰는 스킬은 네 개다. /discord-huddle-sync는 R...

2026-04-25T00:00:00+09:00 2026-04-26T01:07:17+09:00 https://southglory.github.io/posts/unity-%EA%B2%8C%EC%9E%84%EC%97%90-87m-llm%EC%9D%84-%EC%98%AC%EB%A0%B8%EB%8B%A4/ SouthGlory

인디 Unity 게임의 펭귄 DJ가 영어로 한마디씩 답하게 하고 싶었다. 그래서 세상에서 가장 작은 LLM 중 하나인 8.7M 파라미터짜리 모델을 게임 안에 올려봤다. 결론부터 말하면 어설프다. 근데 그래서 귀엽다. 어떤 모델인가 arman-bd/guppylm-9M을 썼다. MIT 라이선스, GPT-2 스타일 decoder, 6 layer × 6 head × 384 hidden, BPE vocab 4096, max sequence 128 tokens. 원작자가 “Build your own LLM in 5 minutes” 교육용으로 공개한 토이 모델이다. 이름엔 LLM이 붙어 있지만 GPT-4의 약 1/170,000 크기다. 모델 파라미터 GuppyL...