AI EXPO KOREA 2024, LLM/GAI 등 새로운 애플리케이션을 위한 KAYTUS의 최신 V2 서버 제품 솔루션 공…
서울--(Business Wire / 뉴스와이어)--선도적인 IT 인프라 솔루션 제공업체인 KAYTUS는 Gold Sponsor로 AI EXPO KOREA 2024에 참가하여 클라우드, AI, 빅데이터 등 새로운 애플리케이션 시나리오를 위한 최신 V2 서버 제품군(와트당 35% 이상의 성능 향상)을 선보였다. 인기 있는 LLM 및 GAI 시나리오를 대상으로 KAYTUS는 풀 스택 AI 솔루션을 제공하여 사용자를 위한 자체 적응형 스마트 인프라를 구축한다.
AI EXPO KOREA는 ‘Quantum Jump’를 주제로 약 300개 기관의 3만5000여 명의 업계 전문가들이 한자리에 모여 최첨단 기술 개발 및 응용을 전시, 토론 및 추진한다. Deawon CTS와 Etevers eBT는 KAYTUS와 함께 전시회에 참가해 더 민첩한 최첨단 제품 솔루션을 보여준다.
대형 모델과 GAI의 등장으로 새로운 인프라에 대한 수요 발생
생성형 AI의 고속 발전은 GPT, LLaMA, Falcon 및 ChatGLM 등 대형 모델을 통해 사회 생산성 향상과 전통 산업의 전환 및 업그레이드를 추진했다. 대형 모델로 인해 컴퓨팅 파워 수요가 급증하고 컴퓨팅 효율이 낮은 문제가 드러났다. 예를 들어 GPT-3 대형 모델의 GPU 클러스터에서 컴퓨팅 효율은 21.3%에 불과하고 에너지 소비는 28만4000kWh에 달한다. 데이터 센터의 AI 컴퓨팅 칩(최대 1000w) 및 컴퓨팅 밀도가 지속적으로 증가한다. 컴퓨팅 효율성을 높이고 에너지 소비를 줄이는 것은 데이터 센터가 직면해야 할 과제다.
KAYTUS는 더 높은 컴퓨팅 효율은 실측 성능과 자원 활용도의 공동 향상에서 비롯된다고 믿는다. 서버의 경우 애플리케이션 중심의 체계적인 설계 아이디어로 서버 소프트웨어와 하드웨어의 공동 최적화를 구현해야 한다. 다중 이기종 컴퓨팅 능력을 갖춘 KAYTUS의 최신 V2 서버 시리즈는 실제 시나리오에 맞게 소프트웨어와 하드웨어를 조정 및 최적화하고, 더 높은 컴퓨팅 효율성과 에너지 효율을 목표로 와트당 성능을 35% 이상 향상해 더 높은 소비 전력당 컴퓨팅 성능을 구현한다.
새로운 AI 애플리케이션 시나리오를 위한 풀 스택 AI 솔루션 역량 제공
급증하는 LLM 및 GAI 시나리오 애플리케이션 요구에 직면하여 KAYTUS는 클러스터 환경 구축, 컴퓨팅 스케줄링, 대형 모델 애플리케이션 개발 등을 포함한 풀 스택 AI 솔루션을 제공하여 사용자의 대형 모델 인프라 구축을 지원한다.
KAYTUS 컴퓨팅 스케줄링 플랫폼 MotusAI 은 AI 모델 개발 및 배포에 대한 원스톱 딜리버리를 제공할 수 있으며 대형 모델 트레이닝에서 자원 사용 및 스케줄링, 트레이닝 프로세스 및 보증, 알고리즘 및 애플리케이션 관리 등을 체계적으로 최적화하여 대형 모델 중단점에 대한 지속적인 트레이닝 기능을 갖추고 장기간의 지속적인 트레이닝을 보장한다. KAYTUS는 강력한 성능과 다양한 옵션의 AI 서버를 보유하고 있으며 1000억 매개 변수 규모의 대형 모델 트레이닝의 컴퓨팅 효율성을 54%까지 향상시켜 트레이닝 시간이 업계 평균보다 일주일 빠르다. AI 추리력 면에서 최대 30%의 향상을 달성하고 최적의 컴퓨팅 능력을 제공한다.
· KR6288V2는 6U 골드 사이즈에서 8개의 GPU를 지원하며,사용자에게 탁월한 성능과 최고의 에너지 효율을 제공한다. 대형 모델 트레이닝, NLP, recommendation, AIGC, AI4Science 등 대형 데이터 센터를 위한 다양한 애플리케이션에 적합하다.
· KR4268V2는 100개 이상의 구성을 지원하며 업계에서 가장 유연한 AI 서버 중 하나입니다. 4U 공간에서 10개의 DS PCIE GPU를 지원하며, 딥러닝, 메타버스, AIGC, AI+Science 등 복잡한 애플리케이션 시나리오에 적합하다.
전체 라인 액체 냉각으로 시스템 에너지 효율 향상
KAYTUS V2 서버 제품군은 전체 라인 냉판식 액체 냉각을 지원하며, 범용 서버, 고밀도 서버, AI 서버 및 세트 캐비닛을 포함해 1000W 단일 칩 냉각, 서버 핵심 부품은 액체 냉각 방열 풀커버, 고밀도 배포 및 1.0에 근접하는 PUE를 지원한다.
KAYTUS의 전체 액체 냉각 캐비닛은 냉판 및 액체 냉각 백도어를 통해 100% 액체 냉각 방열을 구현했으며 기존 공냉식 설계를 대체해 PUE를 1.05로 낮춘다. 전체 액체 냉장 캐비닛은 단일 캐비닛의 100kW 전력 밀도를 지원할 수 있으며 기존 데이터 센터에 비해 전력 밀도가 10배 이상 향상되고 공간 활용도는 5~10배 증가한다.
시간: 5월 1일~5월 3일
장소: Hall D COEX, Seoul
부스: #11
시간: 5월 2일
장소: Hall D COEX, Seoul
주제: 생성 AI 및 ChatGPT, 이 시대의 게임 체인저 및 솔루션 제안
대변인: 이응준 대표
KAYTUS 소개
KAYTUS는 클라우드, AI, 엣지 및 기타 새로운 시나리오를 위한 최첨단, 개방형 및 친환경 인프라 제품을 제공하는 선도적인 IT 인프라 제품 및 솔루션 제공업체다. KAYTUS는 고객 중심의 접근 방식으로 민첩한 비즈니스 모델을 통해 사용자 요구에 유연하게 대응한다. KAYTUS.com에서 자세한 내용을 확인할 수 있다.
관련 보도자료
전체 보도자료 
