[kt cloud] GPU 파워의 AI Train 고속열차 타고 AI 학습의 종착역으로

[ kt cloud AI플랫폼팀 최지우 님]   AI 기술이 빠르게 발전하면서, 인공지능 모델의 학습 과정은 그 어느 때보다 중요한 요소로 자리 잡았습니다. 그러나 대규모 데이터를 처리하고 복잡한 모델을 학습시키는 과정은 여전히 많은 기업과 개발자들에게 큰 도전 과제입니다. 제한된 리소스, 학습 속도 저하, 그리고 효율적인 자원 관리의 필요성은 AI 개발 과정에서 늘 마주하는 고민입니다. 이러한 문제를 해결하기 위해 저희 kt cloud는 AI Train 서비스가 출시했습니다. AI Train은 최신 하드웨어와 소프트웨어 최적화를 통해 복잡한 AI 모델 학습 과정을 단순화하고 가속화합니다. 이 서비스는 단순히 빠르기만 한 것이 아니라, 누구나 쉽게 활용할 수 있는 직관적인 사용자 경험까지 제공합니다. 이..

[ kt cloud AI플랫폼팀 최지우  님]  개요AI가 고도화되며 대규모 언어 모델(LLM)의 응답 품질과 정확도는 중요한 이슈로 떠오르고 있습니다. 그러나 LLM은 훈련 데이터에 포함된 정보만을 기반으로 작동하기 때문에, 최신 데이터나 특정 도메인에 특화된 정보 제공에는 한계가 있습니다. 이를 해결하기 위한 기술로 RAG(Retrieval-Augmented Generation)와 Vector DB가 주목받고 있습니다. 이 글에서는 RAG의 원리와 Vector DB가 어떻게 AI 모델의 응답 정밀도를 높이는지, 그리고 이를 활용해 실제 애플리케이션을 개념적으로 구성하는 방법을 다룹니다.1. RAG와 Vector Database란 무엇인가?RAG를 설명하기에 앞서 Vector DB에 대해 이해하는 것이..

[ kt cloud DC동부운용센터 박지현 님 ] 데이터센터에 새로운 냉각 방식이 필요한 이유2022년 11월 출시된 미국의 인공지능 연구소 오픈AI(OpenAI)의 챗GPT(ChatGPT)로부터 촉발된 인공지능(AI) 혁명은 전 산업 분야로 확산되며 디지털 전환을 가속화하고 있습니다. AI의 학습과 추론을 위해서는 AI 가속기(AI accelerator)와 같은 스펙이 높은 하드웨어가 필요하게 되는데 하드웨어의 성능 향상에 따라 전력 요구 사항 또한 증가하고 있습니다. 장치에서 사용되는 전기 에너지는 열에너지로 변환되기 때문에 AI 인프라가 설치된 데이터센터에서는 열이 많이 발생하게 됩니다. AI 서비스 환경에 특화된 데이터센터(Data Center)에서는 기존의 냉각 방식인 공기 냉각 방식(Air C..

[kt cloud 사업전략팀 박정오 님] 기업은 AX기술을 어떻게 도입하면 될까요? 기업들의 AX기술 도입 전략 소개디지털 전환(DX)을 넘어 AI기술을 중심으로 기업의 변화를 추구하는 AX(AI Transformation)는 새로운 패러다임으로 떠오르고 있습니다. 최근 금융 및 시스템 통합(SI) 업종의 기업 컨퍼런스나 서밋에서는 최신 AX기술들과 그 활용 사례들을 발표하고 있습니다. 생성형AI 기술을 기업내에 적용하여 단순 반복적인 업무부터 의사 결정을 하는 업무까지 해결을 하고 있으며, 이를 통해 기업 경쟁력을 높이고자 노력하고 있습니다. 최근 여러 컨퍼런스와 서밋에서 발표된 자료와 얻은 지식을 활용하여 공통적으로 다루고 있는 AX기술과 기업 내부에 어떻게 구성하고, 업무에 적용하는지 이야기하고자 ..

[kt cloud 사업전략팀 박정오 님] RPA와 IDP의 기술 결합으로 완성되는 스마트 업무 자동화 사례기업들은 급변하는 시장 환경 속에서 경쟁력을 유지하고 생산성을 향상시키기 위해 끊임없이 노력하고 있습니다. 기업 내 단순 반복적인 업무를 자동화하여 인적 자원을 보다 가치 있는 업무에 집중시키고 있습니다. 이러한 흐름 속에서 로보틱 프로세스 자동화(RPA)와 지능형문서처리(IDP) 기술이 주목받고 있습니다.RPA는 소프트웨어 로봇을 통해 사람이 수행하는 반복적인 업무를 자동화하는 기술이며 IDP는 인공지능(AI)기술을 이용하여 문서에서 필요한 정보를 추출하고 처리하는 기술입니다. 특히, RPA와 IDP 기술을 결합하면 비정형 데이터가 포함된 복잡한 업무 프로세스까지 자동화하여 기업의 디지털 전환을 가..

[kt cloud DevOps팀 이초환 님] Harbor, 어떻게 쓸 것인가: Replication RuleHarbor는 아티팩트를 정책과 역할 기반 접근 제어로 보호하고, 이미지가 취약점이 없는지 검사하며, 신뢰할 수 있는 이미지에 서명하는 오픈 소스 레지스트리입니다. Harbor는 CNCF(Cloud Native Computing Foundation)졸업 프로젝트로 Kubernetes와 Docker 같은 클라우드 네이티브 컴퓨팅 플랫폼에서 아티팩트를 일관되고 안전하게 관리할 수 있도록 컴플라이언스, 성능, 상호 운용성을 제공합니다.이번 글을 포함한 앞으로 이어지는 글에서는 Harbor의 상세 기능을 중점적으로 다룹니다. 이미 Harbor의 설치와 기본 사용법은 많은 자료가 나와 있지만, 실제로 복잡한..

[kt cloud CloudSW운영팀 김호균 님] OpenStack 컴퓨팅 서비스 이해하기: 심화편지난 포스팅에서는 컴퓨팅 서비스인 Nova의 아키텍처와 기본 동작 과정에 대해서 간단히 살펴보았습니다. 또한 OpenStack 대시보드 서비스인 Horizon을 통해 가상 머신을 직접 생성해 보고, 이 과정에서 OpenStack의 여러 컴포넌트들이 어떻게 서로 상호 작용하는지 알아보았습니다.이번 포스팅에서는 가상화 관점에서 Nova를 좀 더 자세히 살펴보겠습니다.   OpenStack 가상화 방식: KVM과 QEMU Nova에 대해 설명하기 전에, KVM과 QEMU에 대해 먼저 알아보겠습니다.가상화 방식을 활용하면 호스트 시스템과 독립적인 환경에서 각각 다른 운영체제로 가상 머신(VM)을 동작할 수 있습니다..