기업이 AI 혁신과 리스크의 균형을 맞추는 방법

생성형 AI(GenAI)에 대한 전 세계 지출이 2025년에 6440억 달러에 도달할 것(2024년 대비 무려 76% 증가한 수준)으로 예상됩니다. 이것이 주는 메시지는 명확합니다. 바로, AI 도입에 뒤쳐질 경우 실제적 위협에 직면하게 될 것이라고 생각하는 기업이 많다는 것입니다. 하지만 널리 사용되고 있음에도 불구하고 AI는 보안 리스크부터 운영 문제까지, 기업 리더들에게 계속해서 우려를 불러일으키고 있습니다. 

AI의 리스크와 잠재적 단점을 감안하면서까지 알려진 혜택을 누리는 것이 맞는지에 대한 의견은 언제나 분분했습니다. 혁신은 고객 경험과 효율성을 상당히 높여줄 것을 약속하지만 AI를 기존 운영 환경에 되돌릴 수 없는 수준으로 통합하면 잠재적 리스크로 인해 심각한 결과가 초래될 수 있습니다.

기술 리더들은 섬세하게 균형을 맞춰야 할 상황에 놓여 있습니다. 기업이 수용할 수 없는 수준의 리스크에 노출되지 않고 대규모로 AI 혁신을 추구하려면 어떻게 해야 할까요?

Akamai의 의뢰를 받아 Forrester에서 실시한 새로운 리서치에서 오늘날 기업이 이러한 균형을 어떻게 달성하고 있는지에 대한 몇 가지 답변을 제공합니다. 이 연구에서는 400명의 고위 AI 및 엔터프라이즈 클라우드 전략 의사 결정권자를 대상으로 설문조사를 실시해 기업이 어떻게　가치를 포착하기에 충분한 속도로 움직이는 동시에 비즈니스를 보호하는 데 필요한 보호 장치를　마련하고　있는지　알아냅니다.

Forrester의 리서치에　따르면, 기업 리더들이 AI를 핵심 비즈니스 목표에　직접 통합해　넣어　AI를 비즈니스 전략의 핵심　요소로　만들고　있다는 것이 분명합니다. 그럼에도 리더들은 리스크가 낮고 보상은 높은 활용법을　우선시하기 위해 주의를 기울이고 있습니다. 

응답자들은 다음과　같은　세 가지 주요 목표가　AI 투자를 이끌고　있다고　밝혔습니다.

1. 고객 경험 개선(76%)
2. 운영 효율성 향상(76%)
3. 고객 유지율 강화(71%)

다른 연구 결과에 따르면 고객 경험(CX) 개선이 매출 증가, 고객 손실 감소, 경쟁 차별화 강화와 직접적인 관련이 있는 것으로 나타났습니다.

예를 들어, McKinsey & Company에 따르면 '...세계에서 가장 성공적인 성장 기업이 달성한 가치 창출의 80%는 핵심 비즈니스, 즉 기존 고객으로부터 새로운 매출을 올리는 데서 발생합니다.'

따라서 기업 리더들은 경쟁력을 유지하기 위해 AI를 활용하는 대신 이 새로운 기술을 매출 및 성장에 영향을 미치는 측정 가능한 결과와 주의 깊게 연계하고 있습니다. 이는 우선순위가 가장 높은 AI 사용 사례가 고객과 가장 가까운 곳에 있는 사용 사례인 이유를 설명해 줍니다. 

기업 중 절반 이상이 개인 맞춤화(53%)를 위해 AI를 활용하고 있으며, 고객 해결 프로세스를 자동화(53%)하고 고객 질문에 답변(52%)하는 데 AI를 활용하는 기업도 있습니다. 이러한 활용법은 보다 실험적인 사용 사례에 비해 리스크가 상대적으로 낮지만 빠르고 실질적인 투자 수익률을 제공합니다.

즉각적인 CX 개선에 집중함으로써 기업은 추가적인 탐색에 필요한 자금 조달을 위한 수익을 창출하는 동시에 보다 야심 찬 이니셔티브를 위해 팀과 인프라를 준비할 수 있습니다.

사이버 보안은 응답자의 63%가 우려한 사항이었습니다. AI 시스템은 공격자가 악용할 수 있는 새로운 공격 표면이 생기게 만들고 기존 공격 표면을 확장합니다. 모델 중독, 프롬프트 인젝션, 데이터 유출과 같은 위협은 이미 실제로 관측되고 있습니다. 고객 대면 애플리케이션이 AI를 기반으로 의사 결정을 내리면 작은 취약점이라도 심각한 유출로 이어질 수 있습니다.

정부가 EU AI 법, 미국 프레임워크, 업계별 가이드라인 등 AI 기반 규정을 새롭게 제정함에 따라, 기업은 AI를 확장하며 컴플라이언스 위반이라는 과제에 직면해 있습니다. 기존의 소프트웨어와 달리 AI는 설명 가능성, 감사 가능성, 편향 감소 등의 고유한 문제를 일으킵니다. 규정을 준수하지 않으면 처벌, 법적 리스크, 배포 중단이 초래될 수 있습니다.

AI 실패 사례는 세상에 널리 알려지는 경향이 있습니다. 편중된 추천 엔진이나 환각 문제가 발생한 챗봇은 빠르게 헤드라인을 장식할 수 있습니다. 고객의 데이터 프라이버시가 침해될 수 있습니다. 고객 대면 사용 사례의 경우 실수는 기술적인 문제를 넘어서서 브랜드 평판을 손상시킬 수 있습니다. 기업에 대한 신뢰를 다시 쌓는 데에는 많은 비용이 들 수 있습니다.

제대로 구축되지 않은 AI는 고객 손실, 기회 상실, 투자 낭비로 이어질 수 있습니다. 예를 들어, 리테일 AI 챗봇이 오해를 일으킬 수 있는 재무 자문을 제공하는 경우 기업은 규제 관련 벌금 및 소송뿐 아니라 소비자 역풍에도 직면할 수 있으며, 이로 인해 애초에 AI 시스템으로 달성하려고 했던 유지율 강화 목표가 저지될 수 있습니다.

이러한 리스크에 따른 결과로 인해 심각한 비즈니스 중단까지 기업의 문제가 눈덩이처럼 불어날 수 있습니다. 따라서 리더는 AI 도입에 신중을 기해야 하며 혁신의 리스크와 보상의 균형을 신중하게 맞춰야 합니다.

많은 기업이 야심 찬 GenAI 프로젝트에 전념하는 대신 소규모로 시작하고 있습니다. 이러한 기업은 고객 서비스 자동화와 같은 통제된 사용 사례에 AI를 도입함으로써 중요한 작업을 위험에 노출시키지 않으면서 경험을 얻게 됩니다. 이 반복 모델을 통해 기업은 책임 있는 테스트, 학습, 확장을 진행할 수 있습니다.

AI 인프라를 구축하고 유지하는 것은 복잡한 일이며, 점점 더 많은 기업들이 모델 학습 및 추론을 위해 매니지드 서비스에 의존하고 있습니다. 이렇게 하면 운영 부담이 줄어들고 전문 지식을 보다 쉽게 이용할 수 있게 됩니다. 

기업은 리스크가 큰 작업을 아웃소싱함으로써 노출을 최소화하는 동시에 배포 속도를 높일 수도 있습니다. 핵심은 보안 및 리스크 방어 기준이 유사한 기업의 서비스를 선택하는 것입니다.

설문조사 데이터에 따르면 기업들은 클라우드 네이티브 및 오픈 소스 AI 기술을 실험하고 있는 것으로도 나타났습니다. 클라우드 네이티브 아키텍처는 확장성과 안정성을 제공하며, 오픈 소스 기술은 AI 도입 및 기술 업데이트에 필요한 유연성과 속도를 제공합니다. 장기적인 벤더사 종속성 없이 민첩성이 실현되는 것입니다.

AI 도입의 복잡성을 감안할 때 많은 기업은 검증된 AI 전문 지식을 갖춘 벤더사에 우선순위를 두고 있습니다. 이러한 파트너들은 기업이 기술뿐만 아니라 컴플라이언스, 확장성, 보안도 탐색하는 데 도움을 줍니다. 강력한 벤더사 생태계는 AI 리스크 방어 전략을 지원합니다.

아마도 가장 중요한 항목으로, 많은 기업이 AI 거버넌스를 IT 내에서만 관리할 수 없다는 점을 인식하고 있습니다. 선도적인 기업들은 처음부터 컴플라이언스팀, 법무팀, 보안팀이 참여하는 부서 간 거버넌스 프레임워크를 구축하고 있습니다. 이러한 종합적인 접근 방식은 AI 혁신이 규제 요건 및 윤리적 AI 기준에 부합되도록 합니다.

데이터에서 나타난 주된 패턴은 기업이 구조를 통해 균형을 이루고 있다는 것입니다. 즉, 혁신과 리스크 관리가 동시에 진행될 수 있도록 하는 발판을 세우고 있습니다.

운영 구조 외에도 균형 잡힌 AI 도입을 위해서는 견고한 인프라가 필요합니다. 실제로 Forrester 연구에 따르면 기업의 55%가 기술 및 플랫폼 격차를 AI 도입의 가장 큰 도전 과제로 꼽았습니다. 

기존의 클라우드 플랫폼은 대규모 추론 같이 성능에 민감한 AI 워크로드의 고유한 요구에 맞게 설계되지 않았습니다. 지연 시간, 비용 비효율성, 부적절한 데이터 인접성 제어는 모두 고객 경험 저하부터 컴플라이언스 감사 노출 증가까지 리스크를 야기합니다.

기업은 AI 성능을 위해 특별히 마련된 대안을 탐색하며 인프라 전략을 재검토하고 있습니다. 이때 기업은 분산된 워크로드, 저지연 추론, 설계 차원의 보안에 최적화된 플랫폼을 사용하는 방법을 적용하고 있습니다. 

간단히 말해, 인프라는 단순한 AI 기술의 기반이 아니라 리스크 문제를 적극적으로 해결하는 요소입니다. 잘못된 기반을 선택하면 취약점이 증폭될 수 있습니다. 적절한 기반을 선택하면 AI가 골칫거리에서 장기적인 경쟁 우위로 바뀔 수 있습니다.

엔터프라이즈 AI의 여정이 빠르게 변화하고 있습니다. 초기 도입은 좁은 사용 사례에 집중되어 있다가 생성형 AI가 콘텐츠 제작, 애널리틱스, 자동화까지 확장되었습니다. 

이제 다음 단계인 에이전틱 AI가 시작되는 시점입니다. 에이전틱 AI는 인간 대신 행동하고 기존의 상황에 따라 결정을 내리는 자율성을 갖춘 시스템을 구성합니다. 이러한 발전은 더 많은 이득을 약속하지만, 물론 전례 없는 리스크도 가져옵니다.

AI가 각 단계를 거칠 때마다 잠재적인 장점과 실패 위험이 모두 증가합니다. 이때 안정적이고 성능에 최적화된 인프라에 투자하며 처음부터 거버넌스와 컴플라이언스를 포함함으로써 반복 도입을 통해 자체 역량을 키우는 기업이 성공을 거두게 될 것입니다.

지금이야말로 기술 의사 결정권자들이 AI 솔루션 및 클라우드 전략, 특히 자체적인 인프라 선택을 재평가해 책임감 있게 윤리적 고려 사항을 염두에 두고 확장을 진행하기에 적합한 시기입니다.

400명의 고위 의사 결정권자가 AI 개발 및 도입에 어떻게 접근하고 있는지 자세히 알아보려면 Forrester 보고서 전문인 엔터프라이즈 AI 현황: 경험 축적과 리스크 관리를 다운로드하세요.