Continual Training 유연성 확보를 위한 Multi-Step LR Scheduler 도입
Multi-Step Learning Rate Schedulers in LLM Training: Why Some Teams Are Moving Beyond Cosine Decay
Model Collapse 방지를 위한 고품질 Human-generated Data 확보 전략
Valued at Millions, Compensated at Zero
LLM 스크래치 학습의 비용 분석: 1B 모델 구축 시 $427 소요 및 낮은 효용성 확인
I Trained My Own LLM from Scratch in 2025: What That Viral HN Tutorial Doesn't Tell You About the Real Cost
LLM 바닥부터 학습 시 1B 모델 기준 최소 $427 비용 및 29일 소요
Entrené mi propio LLM desde cero en 2025: lo que el tutorial viral de HN no te dice sobre el costo real
100B 달러 AWS 인프라 투자 통한 5GW 규모 AI 연산 자원 확보
Anthropic takes $5B from Amazon and pledges $100B in cloud spending in return
Meta가 AI 인프라 구축에 집중하기 위해 약 700명 직원 감원 및 조직 구조 평탄화 추진
Meta cuts about 700 jobs as it shifts spending to AI
GaLore가 그래디언트의 저랭크 구조를 투영하여 옵티마이저 상태 메모리를 82.5% 감소시키고 소비자용 GPU에서 70억 파라미터 모델 학습 가능
GaLore: Advancing Large Model Training on Consumer-grade Hardware
Hugging Face가 ChatGPT 등 대화형 AI 에이전트의 학습 기법(IFT, SFT, RLHF, CoT)을 비교 분석해 대화형 언어 모델 개발의 핵심 패턴 정리
What Makes a Dialog Agent Useful?