Dependency Injection 제대로 이해하기
의존성 주입(DI)의 개념을 Car와 Engine 예제로 짚어봅니다. 의존성 분리와 의존관계 역전 원칙(DIP), 제어의 역전(IoC)까지, 의존 화살표의 방향이 어떻게 뒤집히는지를 중심으로 정리합니다.
Airflow DAG Hash가 계속 바뀌는 문제: Variable.get()의 함정
Airflow DAG Hash가 30초마다 바뀌면서 Task가 실패하는 원인과, Variable.get()을 Task 실행 시점으로 옮겨 해결하는 방법을 정리합니다.
조건부 확률과 베이즈 정리: 사전 정보를 업데이트하는 방법
조건부 확률의 정의부터 베이즈 정리까지, ML의 핵심 도구인 확률 업데이트 메커니즘을 Monty Hall 시뮬레이션과 의료 검사 예제로 완전 이해하는 가이드.
XGBoost와 LightGBM은 실제로 무엇 이 다른가
트리를 키우는 순서(level-wise와 leaf-wise), XGBoost의 정규화된 목적 함수와 히스토그램 분할, LightGBM의 GOSS와 EFB, 범주형 처리까지 두 구현체가 갈라지는 지점을 정리한다.
Prisma가 만든 enum 마이그레이션이 P3006으로 막히는 이유
새 enum 값은 커밋 전까지 같은 트랜잭션에서 쓸 수 없습니다. 이 PostgreSQL 제약이 Prisma의 Shadow DB 재실행과 만나 P3006이 되는 과정을 짚습니다.
FlashAttention은 왜 더 많이 계산하면서 더 빠를까
어텐션의 진짜 병목은 연산이 아니라 데이터 이동입니다. FlashAttention은 타일링과 online softmax로 점수 행렬을 없애고, 재계산으로 FLOPs를 더 쓰면서도 실행 시간을 줄였습니다.
LLM
Qwen3.8-Flash-Next 테크 리포트 정리, 무엇이 달라졌나
125B MoE에서 6B만 활성화하면서 397B 플래그십을 넘기는 Qwen3.8-Flash-Next의 28페이지 테크 리포트를 정리합니다. GDN, QSA, Gated Residual, N-gram Embedding과 Muon 옵티마이저의 설계 결정을 분석합니다.
Transformer 블록 뜯어보기
Transformer가 레이어를 100개 쌓아도 학습이 되는 이유를 잔차 연결, 정규화, FFN에서 찾습니다. 잔차가 기울기 고속도로를 열고, RMSNorm이 크기를 다스리고, SwiGLU가 비선형 용량을 더합니다.
LLMPositional Encoding에서 RoPE까지, 어텐션에 순서를 부여하는 법
어텐션의 내적에는 토큰 순서가 없습니다. 위치 벡터를 더하는 Positional Encoding에서 벡터를 돌리는 RoPE까지, 순서를 부여하는 두 방식의 원리와 차이를 숫자로 따라갑니다.
LLMLLM은 왜 가장 확률 높은 토큰을 고르지 않을까
LLM이 내놓는 확률 분포에서 토큰을 고르는 방법을 greedy와 beam search의 실패에서부터 따라갑니다. 최빈값이 반복으로 무너지는 이유, top-p와 temperature가 분포의 어디를 손대는지, 추론 모델이 greedy를 피하는 이유를 정리합니다.
LLM토큰은 왜 단어가 아닐까
LLM이 텍스트를 단어도 글자도 아닌 토큰으로 쪼개는 이유를 BPE 알고리즘부터 따라갑니다. 토큰 ID를 벡터로 바꾸는 임베딩 테이블과 확률 분포로 되돌리는 lm_head까지, 비용의 단위인 토큰을 정의합니다.
LLMQwen3.8-27B 출시, 로컬 모델이 프론티어급 점수?
24GB GPU에 들어가는 27B가 Artificial Analysis 52점으로 GPT-5.6 Luna와 동점을 기록했습니다. 점수를 만든 토큰 소비와 양자화 격차, 좁은 전문화까지 확인된 사실로 정리합니다.
Transformer는 왜 Q, K, V 셋으로 나눴을까
Transformer 어텐션의 Q, K, V가 무엇이고 왜 셋으로 나뉘는지 문장 하나로 계산을 따라갑니다. √d_k로 나누는 이유, causal mask가 막는 것과 그 덕에 KV Cache가 성립하는 이유, head와 KV head의 정의까지 짚습니다.
LLMLLM은 왜 다음 토큰 하나만 예측할까
LLM이 다음 토큰 하나를 예측하는 문제로 정의된 이유를 확률의 연쇄 법칙에서부터 따라갑니다. 세는 방식이 무너진 지점, 신경망이 바꾼 것, 그리고 목적함수 하나에서 여러 능력이 나온 과정을 정리합니다.
LLMLLM 서빙 성능 지표와 튜닝
TTFT, TPOT, ITL과 지연 목표(SLO)를 정의하고 대역폭과 KV 용량이라는 두 하드웨어 천장을 계산한 뒤, vllm bench로 측정한 지표를 근거로 서빙 인자를 조정하는 방법을 정리합니다.
LLM Serving
