AIㆍML

글로벌 칼럼 | 클라우드에 생성형 AI를 결합할 때 주의점 3가지

David Linthicum | InfoWorld 2023.06.22
현재 AI의 힘을 의심하는 사람은 거의 없을 것이다. 하지만 기업이 클라우드 운영 과정에서 AI를 무턱대고 도입할 경우 애플리케이션 배포, 인프라 확장, 비용 관리 영역에서 문제를 경험할 수 있다.

필자는 인공지능 개발 경험이 있다. 또한 인공지능 기술을 엔터프라이즈 및 클라우드 아키텍처와 통합한 적도 많다. 그러다 보니 AI의 장점을 누구보다 잘 알고 있으며 단점도 잘 알고 있다. 생성형 AI도 당연히 장단점이 모두 있다. 지금같이 생성형 AI가 빠르게 발전하는 시대에 기업은 생성형 AI를 어떻게 효과적으로 관리하고 부정적인 영향을 최소화할지 알고 싶어 한다. 클라우드 전문가가 알아야 할 생성형 AI의 3가지 단점은 다음과 같이 요약할 수 있다. 
 
ⓒ Getty Images Bank 
 

지나치게 많은 클라우드 애플리케이션 배포

개인적으로 가장 핵심 문제로 여기는 것이 바로 애플리케이션 배포가 늘어나는 부분이다. 생성형 AI 기반 개발 도구는 노코드 또는 로우코드 메커니즘을 사용하여 애플리케이션을 빠르게 구축할 수 있다. 이때 배포된 애플리케이션의 수(모두 관리가 필요하다)는 쉽게 통제하기 어려울 수 있다. 
 
물론 비즈니스 요구 속도에 맞춰 애플리케이션 배포 속도를 높이는 것은 좋은 일이다. 1990년대와 2000년대 초반 애플리케이션 백로그가 비즈니스 운영에 제한을 가했다는 점을 고려하면 배포 속도 개선은 사업에 긍정적인 영향을 줄 수 있다.  

하지만 늘 그런 것은 아니다. 일부 기업은 애플리케이션 개발을 무모할 수준으로 확장하고 있다. 시스템을 구축하고 배포하는 데 필요한 작업은 며칠 또는 때로는 몇 시간밖에 걸리지 않아 가능한 일이다. 그런데 기업 상당수는 애플리케이션의 전체적인 역할에 대해 충분히 고려하지 않고 있다. 전략상 필요해서 애플리케이션을 만들어도 향후 살펴보면 중복된 애플리케이션이 너무 많아질 수 있다. 클라우드옵스 팀이 관리해야 할 애플리케이션과 연결된 데이터베이스는 3~5배 늘어나기도 한다. 혼란은 계속되고 관리 비용은 늘어나는 상황이 이어질 것이다.
 

시스템 확대

생성형 AI 시스템에는 현재 프로비저닝된 것보다 더 많은 컴퓨팅 및 스토리지 리소스가 필요하다. 이렇게 많은 리소스를 활용하여 확장하는 작업은 단순히 스토리지 및 컴퓨팅 서비스를 더 많이 추가하는 것과는 다르게 어려운 일이다. 

기업은 더 많은 리소스를 찾고 배포하는 데 상당한 고민과 계획이 필요하다. 그래야 빠르게 확장되는 생성형 AI 기반 시스템을 지원할 수 있을 것이다. 일반적으로 운영팀은 이러한 시스템의 가치를 떨어뜨리거나 기능을 제한하지 않는 올바른 방법으로 적절한 수의 리소스를 배포해야 한다. 이를 통해 얻을 수 있는 것은 분명 많다. 
 

비용 초과

클라우드 비용이 늘어나자 핀옵스 시스템을 도입해 비용을 모니터링하고 관리하는 기업이 많아지고 있다. 생성형 AI 시스템을 도입한다면 관련 비용도 증가할 수밖에 없다. 어떻게 대처해야 할까?

비용은 기술적 문제라기보다는 비즈니스 문제에 가깝다. 기업은 클라우드 지출이 어떻게, 왜 발생하고 있으며 어떤 비즈니스 이점이 있는지 이해하고 있어야 한다. 그런 다음에야 그 비용을 미리 정의된 예산에 반영할 수 있다.

클라우드 지출에 제한이 있는 기업이라면 더욱 비용 발생 과정을 잘 알고 있어야 한다. 현업 개발자는 보통 써야 할 이유가 있어 생성형 AI 시스템을 활용하려고 한다. 다시 한번 강조하지만, 생성형 AI는 비용이 많이 들어가는 영역이다. 담당자는 예산을 확보하는 것뿐만 아니라 활용해야 하는 이유를 미리 찾아 놔야 한다. 

생성형 AI는 새로운 기술을 좋아하는 전문가들이 다들 사용하고 싶어 한다. 하지만 이용하고 싶다고 해서 무조건 예산을 투입할 수는 없는 노릇이다. 일부 작업은 꼭 생성형 AI를 사용하지 않아도 기존 기술로만 충분히 처리할 수 있다. 실제로 기존 기술로도 가능한 것을 굳이 AI로 해결하는 상황이 AI 등장 이후 자주 나타나고 있다. 따라서 그저 신기하고 쓰고 싶어서 도입하는 게 아니라, 구체적으로 사업 문제를 해결할 수 있는 경우에 한해 도입해야 한다. 하지만 여전히 AI는 지나치게 과대 평가받고 있으며 남용되고 있다.

생성형 AI 기술이 발전하는 만큼, 기업에서도 관련된 경험을 더 늘리며 시행착오를 겪어야 한다. 클라우드 관리자 입장에서 이런 상황은 긍정적인 결과만 가져오지는 않을 것이다.
ciokr@idg.co.kr
Sponsored

회사명 : 한국IDG | 제호: ITWorld | 주소 : 서울시 중구 세종대로 23, 4층 우)04512
| 등록번호 : 서울 아00743 등록발행일자 : 2009년 01월 19일

발행인 : 박형미 | 편집인 : 박재곤 | 청소년보호책임자 : 한정규
| 사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2024 International Data Group. All rights reserved.