기타/기술3 [데이터센터] 액체 / 액침 냉각 기술 Liquid Cooling (Direct to Chip, Rear Door, Immersion) 개요 공랭 방식은 한계가 있습니다. 폭증하는 클라우드 및 인공지능 수요에 따라 더 많은 장비와 전력이 필요하고 이로 인해 발생하는 더 많은 열을 더 효율적으로 식혀야 합니다. 데이터센터 업계에서 대두되는 액체 / 액침 냉각 기술 3가지를 소개합니다. Direct to Chip 액체냉각 기술 중 하나액체를 주입하고, 배출할 수 있는 호스를 가진 냉각판을 냉각이 필요한 장치에 부착하는 기술입니다. 기존 칩에 냉각판을 추가로 설치해야 합니다. Rear Door Heat Exchange 액체냉각 기술 중 하나, RDHx라고도 불림냉각 코일과 팬을 통해 장치 주위의 열을 해소하는 방식입니다. 직접 장치를 냉각하는 기술이 아닙니다.기존 공랭 방식에 냉각 코일을 추가하여 냉각 효율을 높이는 방식입니다. ( == D.. 2024. 9. 24. [반도체] HBM (High Bandwidth Memory) 개요 D램을 겹으로 쌓아 공정을 통해 데이터 처리 속도를 높이는 기술 D램과 HBM 차이일반적인 D램을 구멍이 없는 하나의 크래커라고 비유했을 때, HBM은 미세한 구멍을 통해 크래커 간 데이터 연결 통로를 가진 D램 크래커의 집합 D램HBM CXL 과의 관계 둘 다 유망한 기술로 떠오르고 있으며 같은 분류에 속하는 기술은 아니다. 다만 공통점은 메모리 확장성과 연결성에 이점을 주어 인공지능 수요에 필요한 기술임은 동일합니다. 참고 자료 젠슨 황 “삼성 HBM 검증 단계...삼성·하이닉스 엄청난 성장 사이클 올 것”젠슨 황 삼성 HBM 검증 단계...삼성·하이닉스 엄청난 성장 사이클 올 것 AGI 우려엔 나는 오펜하이머와 달라 중국·대만 충돌 가능성 낮지만 최악 대비www.chosun.com HBM .. 2024. 9. 22. CXL (Compute Express Link) 메모리 스스로 내용과 논리가 부실하다고 느끼는 글입니다. 추후 가능할 때 업데이트하도록 하겠습니다. https://www.sedaily.com/NewsView/29YMFR9TU3 이 글에 정말 상세히 설명되어 있으니 위 글을 보시는 걸 추천드립니다.개요 더 좋은 인공지능 모델을 학습, 활용하기 위해서는 더 많은 메모리가 필요합니다. 기존 메모리(DDR) 한계 DDR 으로 불리는 현재 가장 보편적으로 사용되는 메모리 형태는 명확한 한계가 있습니다. [ 확장성 문제 ] DDR 메모리는 램의 확장성에 제한이 있습니다. 개인용 컴퓨터에서는 32GB 또는 64GB의 램을 사용할 수 있지만, 대규모 인공지능 서비스를 운영하기에는 이러한 용량이 충분하지 않습니다. [ 공유 문제 ]DDR 메모리는 하나의 CPU에만 연결할 .. 2024. 8. 11. 이전 1 다음
