송진호 교수 사진

연세대학교전기전자공학부

Computer Architecture and Systems Lab (CASL): casl.yonsei.ac.kr

송진호 Associate Professor (William J. Song)

홈페이지의 모집 안내

“Our lab is looking for highly self-motivated and brilliant students broadly interested in”

원문에서 확인하기
연구실 소개

이 연구실은 GPU, 도메인 특화 가속기, 처리-근접 메모리, CXL 기반 메모리 등 이기종·다계층 컴퓨팅 환경에서 기존 메모리 관리와 가상화의 비효율성을 해결하는 연구를 합니다. 또한 LLM 추론에서 시퀀스 길이와 모델 크기에 따라 증가하는 KV 캐시가 메모리 용량과 대역폭에 주는 부담을 연구합니다.

AI가 연구실 홈페이지를 바탕으로 생성한 연구실 소개예요

연구실 홈페이지의 소개

The word cloud image below was generated from the abstracts of our papers published since 2023. This can provide a quick snapshot of our lab’s research interests. The ongoing evolution of computing systems is fundamentally reshaping the role of memory. Traditional CPU-centric architectures built around homogeneous commodity DRAM have given way to heterogeneous platforms that integrate GPUs, domain-specific accelerators, and emerging memory technologies such as processing in/near memory. At the same time, memory hierarchies are expanding into multiple tiers, spanning on-package DRAM and disaggregated memory via CXL. These changes challenge the long-standing assumptions that underpin conventional memory management methods. In this new landscape, existing memory management and virtualization mechanisms designed for traditional host memory have become a critical bottleneck, introducing inefficiencies, constraining scalability, and obscuring the performance potential of future computing systems. While we envision that memory management must ultimately be redesigned to support modern computing environments, our research pursues a pragmatic path forward by identifying and resolving inefficiencies in current system-level memory management, paving the way toward more adaptive, efficient, and scalable memory architectures. Large language models (LLMs) are rapidly redefining the performance requirements of computing systems, with inference tasks emerging as dominant and cost-critical workloads. A central bottleneck in LLM execution is the key-value (KV) cache used by attention mechanisms, which grows linearly with sequence length and model size, placing immense pressure on memory capacity and bandwidth. As LLMs scale toward long-context and multi-tenant settings, simply storing an

원문 보기
졸업생 진로

기업 11명

삼성전자 2 · NVIDIA 2 · SK하이닉스 2 · 네이버 1 · 두산에너빌리티 1 · KB증권 1 · LG전자 1 · Meta 1

기타 1명

대한민국 공군 1

연구실 홈페이지에 진로가 적힌 졸업생 12명을 AI가 집계했어요. 적히지 않은 졸업생은 빠져 있고, 지금 소속과 다를 수 있어요. 원문 보기

컨택 준비
[email protected]

홈페이지에서 읽은 구성원

  • 구성원 14명
  • 졸업생 13명
컨택 메일 쓰는 법

정보가 틀렸거나 삭제를 원하시면 [email protected]로 알려 주세요.

비슷한 연구를 하는 연구실