AI·머신러닝
AI 이론, 머신러닝·딥러닝 개념
363 POSTS · 7 / 13
장기 과업 에이전트의 실행 지속성 설계
장기 과업 에이전트가 목표 이탈과 재시도 낭비를 줄이도록 체크포인트, 검증 게이트, 중단 조건을 설계하는 방법
2026-09-03
내부 RAG와 실시간 검색을 분리하는 소스 라우팅 설계
내부 문서 RAG와 실시간 웹 검색을 질의 의도·신선도·근거 충족 여부에 따라 연결하는 소스 라우팅 아키텍처
2026-09-01
LLM 벤치마크 포화와 장기 자율 작업 평가 설계
LLM 벤치마크 포화의 징후와 Time Horizon 기반 평가, 에이전틱 자율성 및 자체 평가셋 설계 원칙을 정리한다.
2026-08-02
Kimi Delta Attention으로 설계하는 롱컨텍스트 상태 압축 서빙
Kimi Delta Attention의 고정 크기 순환 상태와 하이브리드 어텐션 구조를 바탕으로 롱컨텍스트 서빙의 KV 캐시, 용량, 품질 관리 방식을 정리한다.
2026-07-28
LLM 작업당 토큰 비용으로 예산을 통제하는 방법
LLM 단가 인하에도 비용이 늘어나는 원인을 작업당 총 토큰, 호출 체인, 캐시, 예산 한도 관점에서 정리한다.
2026-07-28
1M 롱컨텍스트 시대의 RAG 경계와 컨텍스트 예산 설계
1M 롱컨텍스트 환경에서 RAG, 프롬프트 캐싱, 컨텍스트 예산, 위치별 회수율을 기준으로 검색 계층 경계를 설계하는 방법
2026-07-28
최신 AI 모델에서 과도한 프롬프트 지시가 성능을 낮추는 이유
지시 밀도와 제약 충돌이 최신 AI 모델의 추론 품질에 미치는 영향을 분석하고, 회귀셋과 A/B 평가를 활용한 프롬프트 감축 방법을 다룬다.
2026-07-27
초장문 컨텍스트 시대의 RAG 경계와 컨텍스트 예산 설계
100만 토큰 컨텍스트 모델에서 직접 투입과 RAG를 구분하고, 프롬프트 캐싱·리랭킹·권한 검증을 포함한 컨텍스트 예산 설계를 다룬다.
2026-07-27
Kimi K3 오픈웨이트 모델과 지식 증류 IP 리스크
Kimi K3의 MoE 구조와 오픈웨이트 배포 특성, 지식 증류 의혹이 AI 조달·보안·기술 주권에 미치는 영향을 정리한다.
2026-07-24
LLM 사회 시뮬레이션이 드러낸 Constitutional AI의 행동 정렬
Emergence World에서 Claude·Grok·ChatGPT·Gemini가 만든 가상 사회를 비교하고 Constitutional AI의 행동 정렬 효과를 분석한다.
2026-06-10
소프트 레이블은 교사의 편향까지 그대로 넘겨준다
LLM 지식 증류 과정에서 교사 모델의 편향이 학생 모델로 전이·증폭되는 메커니즘과 자기 증류의 누적 효과, LLM 공정성 평가 분류체계와 완화 프레임워크를 정리한다.
2026-04-20
LightRAG의 듀얼 레벨 검색과 지식 그래프 RAG 운영
LightRAG의 지식 그래프 인덱싱과 Low-Level·High-Level 검색 구조, GraphRAG 대비 효율성, 증분 업데이트 특성을 정리한다.
2026-04-11
언어모델은 어떻게 다음 단어를 예측하는가: 통계 모델에서 Transformer까지
n-gram 같은 통계 기반 언어모델의 한계와, 이를 극복한 신경망·Transformer 기반 언어모델의 구조·평가지표·과제를 정리한다.
2026-04-09
로지스틱 회귀분석: 시그모이드로 이진 결과를 예측하는 법
종속변수가 이진값일 때 시그모이드 함수로 확률을 예측하는 로지스틱 회귀분석의 원리, 학습 방법, 평가 지표, 장단점을 정리한다.
2026-04-09
LLM 아키텍처, 논문 대신 다이어그램으로 이해하기: Raschka의 시각화 갤러리
Sebastian Raschka의 LLM Architecture Gallery가 Transformer·GPT-2·BERT·LLaMA·MoE를 어떻게 도식화하는지, 시각화가 학습에 주는 효과와 관련 학습 자료를 정리한다.
2026-03-19
LLM 아키텍처 갤러리: GPT-2 이후 주요 아키텍처가 바뀌어온 방식
GPT-2를 기준점으로 GPT·BERT·T5·LLaMA·Mistral·Mamba 계열의 핵심 아키텍처 혁신과 Attention·위치인코딩·정규화 트렌드 변화를 정리한다.
2026-03-17
LLM 학습 인프라의 메모리 관리와 분산 병렬화
대규모 언어 모델의 메모리 구성부터 ZeRO, 병렬화, 멀티노드 통신, OS 수준 최적화까지 정리한다.
2026-01-16
소프트웨어 에이전트 아키텍처: 반응형부터 학습 에이전트까지의 설계 방식
자율성·지능성·사회성을 가진 소프트웨어 에이전트의 구성요소와 숙고형/반응형 구분, Simple Reflex부터 Learning Agent까지 다섯 가지 설계 방식을 정리한다.
2025-11-26
정수 인코딩: 단어를 정수로 바꿔 모델이 읽게 만드는 방법
정수 인코딩의 개념부터 Counter·NLTK·Keras Tokenizer 구현, OOV 처리, 원-핫 인코딩·임베딩으로 이어지는 다음 단계까지 정리한다.
2025-05-23
IoU(Intersection over Union): 객체 검출 정확도를 재는 기본 척도
예측 경계 상자와 정답 경계 상자의 겹침을 측정하는 IoU 계산법과 임계값, mAP와의 관계, GIoU·DIoU·CIoU 변형과 한계를 정리한다.
2025-05-23
K-폴드 교차검증: K는 어떻게 고르고 폴드마다 결과는 왜 달라지는가
K-폴드 교차검증의 동작 원리와 계층적 K-폴드·LOOCV·그룹 K-폴드 변형, K 값 선택 기준, 중첩 교차검증까지 실무 관점에서 정리한다.
2025-05-23
지식 증류: 큰 모델의 지식을 작은 모델에 옮기는 법
교사-학생 모델 구조로 지식을 전달하는 지식 증류의 소프트 타겟·온도 조절 원리와 DistilBERT·TinyBERT 등 모바일·엣지 적용 사례를 정리한다.
2025-05-23
5언 9품사로 보는 한국어 문법 체계
한국어 문법의 5언(체언·수식언·관계언·독립언·용언)과 9품사 분류를 예문과 함께 정리하고, 형태소 분석기·NLP 파이프라인에서 이 정보가 쓰이는 방식을 설명한다.
2025-05-23
표제어 추출과 어간 추출, 정확도와 속도의 트레이드오프
형태소·형태학 개념부터 표제어 추출과 어간 추출의 차이, 한국어 활용 처리, 언어별 구현 도구까지 비교한다
2025-05-23
선형회귀: 최소제곱법으로 최적의 직선을 찾는 법
선형회귀의 수학적 표현과 최소제곱법 원리, R²·MSE 평가지표, 릿지·라쏘 등 정규화 회귀의 종류, 가정과 위반 시 문제, 금융·마케팅·의료 실무 사례를 정리한다.
2025-05-23
손실함수 고르고 커스텀 설계하고 디버깅하기
MSE·Huber부터 Focal Loss까지 손실함수 유형별 공식과 선택 기준, TensorFlow 커스텀 손실함수 설계, NaN·정체·과적합 디버깅 절차를 정리한다.
2025-05-23
Integrated Gradients와 Anchors로 XAI 설명을 설계하는 법
Integrated Gradients와 Anchors의 설명 방식, 검증 지표, 운영 파라미터를 비교해 모델 해석 가능성을 설계하는 방법을 정리한다.
2024-04-29
교차 집단까지 점검하는 AI 모델 공정성 메트릭
Intersectional Fairness와 Group Fairness Metrics의 기준, 메트릭 충돌, 희소 집단 측정과 완화 전략을 정리한다.
2024-04-29
IoT 센서 스트림에서 Isolation Forest로 이상 징후 탐지하기
IoT 센서 데이터 스트림을 수집·피처링하고 Isolation Forest로 이상을 탐지하는 파이프라인, 재학습, 드리프트 감시와 운영 지표를 정리한다.
2024-04-29
KNN 거리 측도와 차원 저주를 다루는 방법
KNN에서 유클리드·맨해튼 거리, k 선택, 전처리, 인덱스 전략과 차원 저주 대응 방법을 정리한다.
2024-04-29