Ryu일무이

@ryu1moo2

Education

가치투자를 지향하는 대학생입니다. https://blog.naver.com/rhsrex

구독자955현재 채널 구독자 수

추적 게시물1,017인덱싱된 게시물 수

최근 도달223최근 게시물 조회수 합계

최근 게시물

태그: #memorywall · 1개

当前筛选 #memorywall清除筛选

게시됨 2월 21일

유사 찾기 보기

#메모리#memorywall https://m.blog.naver.com/freelife-kr/224190489790 AI 성능 병목은 compute에서 memory bandwidth로 구조적으로 이동 중이다. 모델 파라미터(410×/2yrs)와 훈련 FLOPs(750×/2yrs)는 GPU 메모리 증가율(2×/2yrs)을 압도한다. LLM decoder inference는 본질적으로 memory-bound이며 FLOPs 증가는 해결책이 아니다. HBM 및 고대역폭·고용량 메모리 수요는 구조적으로 증가한다.

223 views

Hashtags

#메모리 #memorywall