Topics
RAG
검색 품질, 그래프 구조, 긴 컨텍스트 한계를 시스템 관점에서 봅니다.
LightRAG: Simple and Fast Retrieval-Augmented Generation
GraphRAG의 비용 문제, 이중 수준 검색, 점진적 업데이트
Lost in the Middle
긴 문맥에서 중간 정보가 사라지는 위치 편향 문제
A Graph RAG Approach to Query-Focused Summarization
문서 전역 구조를 활용하는 그래프 기반 요약
Engineering RAG Systems for Real-World Applications
실서비스 RAG 설계에서 필요한 평가와 운영 관점
LLM
Transformer 구조, 장문맥 처리, 추론 안정성 문제를 정리합니다.
Attention Is All You Need
Transformer의 핵심 구조와 현대 LLM 아키텍처로 이어진 변화
Context Rot: How Increasing Input Tokens Impacts LLM Performance
입력 토큰 증가가 성능과 신뢰성에 미치는 영향
Defeating Nondeterminism in LLM Inference
LLM 추론 결과의 재현성과 비결정성 문제
Small Language Models are the Future of Agentic AI
에이전트 시스템에서 작은 언어 모델이 갖는 장점
Generative Models
이미지 생성, diffusion, 시각 이해 모델을 프로젝트와 연결합니다.
Diffusion Models Beat GANs on Image Synthesis
Diffusion 모델이 이미지 합성에서 보인 강점과 실험 구조
MIRAGE: The Illusion of Visual Understanding
비전-언어 모델의 시각 이해 한계와 평가 관점
Foundations
오래 남은 딥러닝 기본 논문을 현재 모델 설계와 연결해 읽습니다.
ImageNet Classification with Deep Convolutional Neural Networks
AlexNet과 대규모 이미지 분류 학습의 출발점
Batch Normalization
학습 안정화와 정규화가 깊은 네트워크에 미친 영향
Deep Residual Learning for Image Recognition
Residual connection이 깊은 모델 학습을 바꾼 방식
Recommender Systems
추천 모델을 retrieval, ranking, personalization 관점으로 정리합니다.
Deep Neural Networks for YouTube Recommendations
대규모 추천 시스템의 candidate generation과 ranking 구조
Deep Learning based Recommender System: A Survey
딥러닝 추천 시스템의 주요 구조와 연구 흐름
Dynamic Multi-Behavior Sequence Modeling for Next Item Recommendation
다중 행동 시퀀스를 활용한 다음 아이템 추천