AI 56

[Performance Testing] kt cloud AI : 가상화 환경별 GPU 기반 AI 워크로드 성능 비교

[ kt cloud AI플랫폼팀 최지우 님 ] AI의 발전은 GPU를 인공지능과 데이터 분석에 없어서는 안 될 핵심 자원으로 자리매김하게 했습니다. 특히, 딥러닝과 같은 고성능 연산 작업에서 GPU의 처리 속도와 성능은 AI 모델의 결과물에 직접적인 영향을 미칩니다. 최근 대규모 언어 모델(LLM)의 확산과 함께, 이러한 모델을 학습하고 추론하는 데 필요한 GPU 자원의 수요가 기하급수적으로 늘어나고 있습니다. 이에 따라 GPU를 효율적으로 활용할 수 있는 클라우드 환경은 더 이상 선택이 아닌 필수로 여겨지고 있습니다. 클라우드 환경에서는 GPU가 다양한 방식으로 제공되는데, 대표적으로 가상 머신(VM)과 컨테이너 기반 가상화 기술이 있습니다. 각각의 가상화 방식은 자원의 활용성과 관리 효율성을 높이기..

Tech Story/AI Cloud 2025.04.14

[2025 Update] kt cloud AI : 더 쉽고 빠른 AI 운영을 위한 신기능 미리보기

[ kt cloud AI플랫폼팀 최지우 님 ] kt cloud의 AI 서비스가 2025년 상반기에 더욱 강력한 기능을 추가하며 한 단계 발전합니다.AI 모델 서빙과 학습 과정에서의 효율성과 안정성을 높이기 위한 다양한 업데이트가 포함되었는데요. 이번 업데이트를 통해 AI 개발과 운영이 더욱 간편해질 것입니다. 주요 변경 사항을 살펴보겠습니다.1. AI SERV 모델 서비스 컨테이너 오토스케일링 지원AI SERV는 AI 모델을 배포하고 운영하는 과정에서 중요한 역할을 합니다. 이번 상반기 업데이트에서는 AI 모델 서빙의 확장성과 안정성을 높이기 위해 여러 기능이 추가되었으며, 이를 통해 사용자는 더욱 효율적인 AI 서비스를 구축하고 운영할 수 있습니다. 첫 번째로, 오토스케일링 기능을 소개합니다. 기존에..

[Tech Series] kt cloud AI 에이전트 #3 : 에이전트의 활용 패턴과 아키텍처

[kt cloud 마케팅커뮤니케이션팀 김지웅 님 ] Intro안녕하세요, kt cloud 테크 마케터 김지웅 입니다. 🙋‍♂️지난 시리즈에서는 AI 에이전트의 정의와 구성 요소, 그리고 다양한 유형들에 대해 하나씩 알아봤어요.아마 보시면서 이런 궁금증이 떠오르셨을 것 같아요. “이런 AI 에이전트는 실제로 어떻게 활용되고 있을까?”, “그리고 이런 시스템은 어떻게 만들어질까?” 이번 3부에서는 바로 그 궁금증을 풀어보려고 해요. AI 에이전트가 실제 비즈니스 현장에서 어떤 방식으로 사용되는지, 그리고 그 뒤에 숨어 있는 아키텍처는 어떻게 설계되는지를 함께 살펴볼 거예요. 작업 자동화, 대화형 인터페이스, 정보 검색 및 분석. AI 에이전트가 주로 활용되는 이 세 가지 패턴을 중심으로, 각각의 구조가 어..

[웨비나 후기] kt cloud AI 사업 및 GPUaaS 소개 웨비나

안녕하세요, kt cloud 마케팅커뮤니케이션팀입니다.  최근 AI 기술의 급격한 발전과 함께, 기업들은 AI를 도입하고 활용하는 과정에서 여러 가지 고민에 직면하게 됩니다. 인프라 구축의 복잡성, 초기 비용 부담, 안정적인 운영 환경 확보 등 다양한 과제가 뒤따르기 때문인데요. 이러한 고민을 해결하기 위해 kt cloud는 강력한 AI 인프라와 클라우드 솔루션을 기반으로 기업이 보다 쉽게 AI를 도입하고 활용할 수 있도록 돕고 있습니다. 지난 3월 20일, kt cloud는 기업들이 보다 쉽게 AI 인프라와 솔루션을 활용할 수 있도록 안내해 드리기 위해 ‘AI 사업 전략 및 방향성과 GPUaaS’를 주제로 웨비나를 개최했습니다. 이번 웨비나에서는 kt cloud의 주요 AI 사업 추진 사례와 전략을 중..

[Tech Series] kt cloud AI 에이전트 #2 : 에이전트의 유형과 특성

[kt cloud 마케팅커뮤니케이션팀 김지웅 님 ] Intro안녕하세요, kt cloud 테크 마케터 김지웅 입니다. 🙋‍♂️지난 1부에서는 AI 에이전트의 정의부터 핵심 구성 요소까지, 기본적인 개념들을 살펴봤어요. AI 에이전트가 단순한 프로그램이 아닌, 환경을 인식하고 판단하여 행동하는 지능형 시스템이라는 점을 이해하셨을 거예요. 이번 2부에서는 한 걸음 더 나아가 AI 에이전트의 전통적 유형들과 현대 LLM 시대의 변화에 대해 깊이 있게 알아볼게요. 단순 반사 에이전트부터 학습 에이전트까지 전통적 분류를 살펴보고, 2022년 ChatGPT 등장 이후 이러한 경계가 어떻게 허물어지고 있는지 함께 이해해 볼 거예요. 각 에이전트 유형별 특징과 한계, 그리고 실제 비즈니스 활용 사례를 통해 AI 에이..

[Tech Series] kt cloud AI 에이전트 #1 : 에이전트의 이해와 구성 요소

[kt cloud 마케팅커뮤니케이션팀 김지웅 님 ] Intro안녕하세요, kt cloud 테크 마케터 김지웅 입니다. 🙋‍♂️요즘 AI 기술이 정말 빠르게 발전하고 있죠?ChatGPT가 등장한 지 얼마 되지 않은 것 같은데, 2025년 들어 AI는 단순한 대화형 어시스턴트를 넘어 더 진화된 형태로 발전하고 있습니다. 특히 주목받고 있는 것이 바로 'AI 에이전트'입니다. 🤖 "에이전트라고요? 마블에 나오는 그 요원 말씀이신가요?"아니요, 여기서 말하는 에이전트는 조금 다른 의미랍니다. 주어진 임무를 스스로 판단하고 수행한다는 점에서는 비슷한 면이 있죠! 현재 우리가 사용하는 ChatGPT나 Claude 같은 AI 어시스턴트들과도 다른, 더 자율적이고 목표 지향적인 특성을 가진 AI를 말합니다. 오늘은..

[웨비나] AI 비즈니스 성공 전략, kt cloud 웨비나에서 확인해보세요!

안녕하세요, kt cloud 마케팅커뮤니케이션팀입니다.  AI 시장이 폭발적으로 성장하면서 고성능 GPU에 대한 수요도 지속적으로 증가하고 있습니다. 특히, 기업들은 AI 모델의 학습과 추론을 원활하게 수행하기 위해 강력한 컴퓨팅 자원을 필요로 하지만, 고성능 GPU 인프라 구축 및 운영에는 상당한 비용과 기술적 과제가 따릅니다.  AI 도입을 고려하는 많은 기업들이 초기 투자 비용 부담, 복잡한 인프라 설계, 최적의 성능을 유지하기 위한 운영 관리 등 다양한 어려움에 직면하고 있는데요.  이러한 도전 과제를 해결하고 기업들의 AI 경쟁력을 극대화하기 위해, kt cloud는 ‘kt cloud AI 사업 및 GPUaaS 상품 라인업 소개’를 주제로 오는 3월 20일(목) 오후 2시부터 3시까지 온라인 세..

[현장 스케치] AI와 클라우드가 그리는 미래 기술의 지도 - kt cloud가 본 CES 2025 in 라스베이거스

* 본 글은 kt cloud 임직원들의 CES 2025 참관 보고서를 바탕으로 재구성한 내용입니다.  [ kt cloud 마케팅커뮤니케이션 팀]   안녕하세요, kt cloud 마케팅커뮤니케이션팀 입니다. 🙋‍♂️"와, 미래가 정말 눈앞에 와있네요!" 지난 1월, 라스베이거스에서 열린 CES 2025 현장에서 첫 발을 내딛자마자 든 생각이에요. 특히 AI 기술이 우리 생활 곳곳에 깊숙이 스며든 모습을 보면서 정말 놀라웠답니다. 오늘은 kt cloud 참관단이 직접 보고 느낀 생생한 현장 이야기를 여러분과 함께 나누어볼까 해요.🛫 라스베이거스로의 여정라스베이거스의 1월은 늘 특별해요. 매년 전 세계의 기술 업계 종사자들이 모여드는 CES가 열리기 때문이죠. 올해도 어김없이 라스베이거스 컨벤션 센터(LV..

[튜토리얼] kt cloud AI로 배우는 RAG 개념 구현하기: FAISS로 시작하는 첫걸음

[ kt cloud AI플랫폼팀 최지우  님 ]  개요AI가 고도화되며 대규모 언어 모델(LLM)의 응답 품질과 정확도는 중요한 이슈로 떠오르고 있습니다. 그러나 LLM은 훈련 데이터에 포함된 정보만을 기반으로 작동하기 때문에, 최신 데이터나 특정 도메인에 특화된 정보 제공에는 한계가 있습니다. 이를 해결하기 위한 기술로 RAG(Retrieval-Augmented Generation)와 Vector DB가 주목받고 있습니다. 이 글에서는 RAG의 원리와 Vector DB가 어떻게 AI 모델의 응답 정밀도를 높이는지, 그리고 이를 활용해 실제 애플리케이션을 개념적으로 구성하는 방법을 다룹니다.1. RAG와 Vector Database란 무엇인가?RAG를 설명하기에 앞서 Vector DB에 대해 이해하는 것..

Tech Story/AI Cloud 2025.02.06

인공지능이 만드는 회사 홍보 영상! AI 최신 트렌드 체험하기

[kt cloud 서비스개발팀 강상구 님] 인공지능이 만드는 회사 홍보 영상! AI 최신 트렌드 체험하기 최근 GPT의 등장 이후 인공지능(AI)은 전 세계적으로 주목받고 있으며, 다양한 산업에 변화를 이끌고 있습니다. 'AI 분야는 자고 일어나면 신기술이 나와 있다'는 말을 들어본 적이 있으신가요? 한 회사가 새로운 모델을 공개하면 다음 날 경쟁적으로 다른 회사에서 또 새로운 모델을 공개하며 경쟁이 날로 치열해지고 있습니다.Notion, Adobe 등 기존 서비스 기업들 역시 AI가 적용된 기능을 하나둘 공개하고 있습니다. Adobe MAX Sneaks 2024에서 공개된 illustrator AI 기능대화형 인공지능 ‘AI는 ChatGPT다’라고 생각하고 계신가요?ChatGPT는 대화형 인공지능의 한..

Tech Story/etc. 2024.11.11