우리 모두는 기업이 긴급한 비즈니스 과제를 해결하는 동시에 인간 사회와 상업의 모든 측면을 재편할 수 있는 생성 인공 지능(AI)의 혁신적인 힘을 목격해 왔습니다. 2024년에 기업은 미실현 수익을 방지하기 위해 노동 생산성을 재정의하고, 공격으로부터 소프트웨어 공급망을 보호하고, 경쟁력을 유지하기 위해 지속 가능성을 운영에 포함해야 하는 중대한 혼란에 직면하게 됩니다.

AI는 조직의 번영과 성장을 기하급수적으로 발전시키는 전환점에 있습니다. Gen AI(Generative AI)는 비즈니스의 모든 측면에 혁신적인 혁신을 도입합니다. 지속적인 기술 현대화를 통해 프론트 오피스부터 백 오피스까지, 그리고 새로운 제품과 서비스 개발을 담당합니다.

많은 조직이 AI를 구현했지만 경쟁 우위를 유지하고 비즈니스 성장을 촉진하려면 새로운 접근 방식이 필요합니다. 즉, 동시에 AI 전략을 발전시키고 그 가치를 보여주며 위험 상황을 강화하고 새로운 엔지니어링 기능을 채택하는 것입니다. 이를 위해서는 전체적인 기업 혁신이 필요합니다. 우리는 이러한 변화를 AI+ 기업으로 전환한다고 부릅니다.

AI+ 기업이 되자

AI+ 기업은 AI를 주요 초점으로 혁신하고, AI가 전체 비즈니스의 기본이라는 점을 이해하며, AI가 제품 혁신, 비즈니스 운영, 기술 운영은 물론 사람과 문화 등 비즈니스의 모든 측면에 영향을 미친다는 점을 인식합니다. 

AI+ 기업은 AI를 비즈니스 전반에 걸쳐 최고의 기능으로 통합합니다. 그들은 비즈니스의 한 영역에서 AI를 채택하는 반면 다른 영역에서는 (타당한 우려로 인해) 뒤처지거나 저항할 경우 Shadow AI와 같은 문제가 악화되어 전체적인 전략을 구현하기가 어려워진다는 것을 이해합니다.

AI+ 기업이 되면 얻을 수 있는 이점

Gartner가 산업 전반에 걸쳐 세계 경제에 3~4조 달러의 경제적 이익을 가져올 것으로 예측한 AI를 통한 방대한 비즈니스 기회는 기업이 AI를 효과적으로 사용하는 데 필요한 투자를 인식하게 하고 극적인 투자 수익(ROI)을 요구하고 있습니다. AI 사용 사례에 투자하기 전에.

AI+ 기업이 됨으로써 고객은 AI 사용 사례뿐만 아니라 AI 사용 사례를 대규모 프로덕션에 제공하는 데 필요한 관련 비즈니스 및 기술 역량을 개선하기 위한 ROI를 실현할 수 있습니다.

AI+ 혁신 모델을 기업 구조와 문화에 포함시키는 데이터 성숙도가 높은 조직은 최대 2.6배 더 높은 ROI를 생성할 수 있습니다.

IBM은 AI+ 기업이 되기 위한 비즈니스 및 기술 전략, 아키텍처, 로드맵, 실무 경험을 고객에게 제공하기 위해 AI+ 엔터프라이즈 혁신을 개발했습니다.

AI+ 엔터프라이즈 혁신

AI 및 하이브리드 클라우드에 대한 IBM의 깊이를 통해 우리는 AI+ 기업이 되는 기업이 비즈니스 결과를 더욱 빠르게 실현할 수 있다는 사실을 발견했습니다. 흥미로운 점은 우리와 함께 일하는 많은 클라이언트가 이미 AI 분야에서 탁월하고 AI+ Enterprise Transformation을 채택함으로써 대규모 프로덕션에서 AI를 실행함으로써 비즈니스 성장을 가속화하는 활동을 발견한다는 것입니다.

그림 3은 AI+ 기업 혁신을 요약하여 AI+ 기업이 대규모로 AI를 생산에 도입하기 위해 해결해야 하는 조직 전반의 여러 도메인을 강조합니다. 

• 비즈니스 성과를 향상시키는 주요 사용 사례
• 이러한 사용 사례를 구현하는 책임 있는 AI 기술
• AI 이니셔티브를 촉진하기 위해 잘 설계된 데이터 기반
• AI 경험을 제공하기 위한 애플리케이션 혁신과 AI 요청을 처리하기 위한 애플리케이션 현대화
• 필요에 따라 AI, 데이터 및 애플리케이션을 실행하기 위한 통합을 포함한 하이브리드 클라우드 플랫폼
• 스캔 및 가드레일을 통한 배포 보호를 통해 앱, 데이터 및 AI의 지속적인 업데이트, 개선 및 수정을 위한 파이프라인 구축
• AI를 사용하여 2일차 운영을 통해 오류가 발생하기 전에 예측(및 복구)함으로써 직원들이 교체를 두려워하는 대신 AI의 가치를 수용하는 문화를 조성합니다.
• 보안, 거버넌스, 위험 및 규정 준수 메커니즘은 AI를 관리하는 것뿐만 아니라 AI를 실행하는 IT 자산을 관리하는 데에도 필수적이며 규정 준수에 대한 증거를 제공합니다.

사용 사례부터 시작하세요

AI+ 기업의 가장 중요한 단계는 혁신적인 사용 사례를 식별하는 것입니다. 다양한 옵션을 실험한 후 기업은 더 빠른 ROI를 보여주는 높은 가치의 사용 사례를 선택합니다. 그런 다음 이를 IT 환경 전체의 프로덕션에 제공하여 추가 사용 사례를 위한 기반을 마련하고 지속적인 혁신을 촉진합니다.

그림 4는 AI+ 기업이 제공, 운영, 보안 및 거버넌스 전반에 걸쳐 조정되어 높은 ROI를 제공하는 광범위한 AI 엔터프라이즈 솔루션으로 사용 사례를 체계적이고 엄격하게 변환하기 위해 채택하는 AI+ 사용 사례 유입 경로를 보여줍니다.  

올바른 AI 기술 활용

사용 사례를 식별한 후 AI+ 기업의 다음 단계는 적절한 AI 기술과 아키텍처를 선택하는 것입니다. 종종 이러한 결정은 너무 빨리 내려집니다. 적합성을 보장하려면 신중하게 접근해야 합니다.

다음 사항을 고려하십시오 :

• 공공 기반 모델이 필요합니까?
• 직접 구축해야 할까요? 그렇다면 어디에서 실행되나요?
• 데이터를 공개 기반 모델과 결합하여 검색 증강 생성(RAG) 모델을 사용해야 합니까?
• Gen AI를 즉시 사용하시나요? 프롬프트 엔지니어링을 어떻게 마스터할 수 있나요? 언제 신속하게 조정하거나 미세 조정해야 합니까?
• 온프레미스 GPU가 필요한 접근 방식은 무엇입니까?
• Gen AI, 예측 AI, AI 오케스트레이션을 어디에서 활용합니까? 예를 들어, 비밀번호 변경 요청을 자동화할 때 175억 개의 매개변수 공개 기반 모델, 미세 조정된 소규모 모델 또는 API 호출을 위한 AI 오케스트레이션이 필요합니까?

AI 기술을 정확히 찾아내면 귀하의 결정이 AI+ 엔터프라이즈 혁신의 다른 영역에 영향을 미칩니다. 더 많은 통찰력을 얻으려면 계속 읽으십시오.

강력한 데이터 기반 제공

AI는 기본적으로 데이터에 의존합니다. AI+ 기업은 AI에 사용되는 데이터가 신뢰할 수 있고 투명하며 명확한 계보와 효능을 갖도록 보장합니다. 그렇지 않으면 위험이 너무 커집니다. 우리는 약한 데이터 기반을 바탕으로 AI를 제공하는 기업이 바람직하지 않은 결과를 초래하는 사례를 모두 보아 왔습니다. 이러한 결과는 일반적으로 세 가지 범주 중 하나에 속하며 어느 것도 바람직하지 않습니다.

• 유용하지 않음: 고객은 귀하의 결과에 여전히 깊은 인상을 받지 않습니다. 예를 들어 오래된 데이터, 환각 등이 있습니다.
• 당혹스러움: AI에서 사용된 데이터를 기반으로 공격적인 출력이 나타납니다. 예를 들어 증오, 학대, 욕설, 편견 등이 있습니다.
• 금융/범죄: 기존 및 신규 데이터 및 AI 규정 위반. 예를 들어 저작권법, 유럽 연합의 인공 지능법, DORA(Digital Operational Resilience Act), 데이터 주권법 등이 있습니다.

AI+ 기업은 설계자가 AI에 필요한 위치에 데이터를 자신있게 소싱, 준비, 변환, 보호 및 전달할 수 있도록 지원합니다. 

애플리케이션 혁신 및 현대화

뛰어난 경험을 제공하려면 새로운 AI 기반 애플리케이션으로 혁신하는 것이 필수적입니다. AI와 상호 작용하는 기존 애플리케이션을 현대화하는 것도 중요합니다. AI 기반 인사 보조원이 직원을 위한 작업 수행을 제안하는 경우 호출되는 애플리케이션이 증가된 트래픽을 처리할 수 있는지 확인하는 것이 중요합니다. 이러한 작업에는 AI 도우미의 갑작스러운 요구 사항을 처리하는 데 부적합한 아키텍처에서 실행되는 레거시 애플리케이션에 대한 API 호출이 포함되는 경우가 많습니다. 이로 인해 응답 시간이 느려 실망스러운 경험을 하게 되는 경우가 많습니다.

AI+ 기업은 고객에게 혁신적인 AI 애플리케이션을 제공하고 AI가 제시하는 새로운 요구 사항을 충족하기 위해 기존 애플리케이션을 현대화하는 데 탁월합니다.

하이브리드 클라우드 플랫폼

AI, 데이터 및 애플리케이션을 이해하고 나면 논의는 자연스럽게 "이 솔루션을 어디에서 실행합니까?"로 이동합니다. 우리의 경험에 따르면 대답은 시간이 지남에 따라 변할 수 있는 다양한 요인에 따라 달라지며 유연한 플랫폼이 필요합니다.

개방형 기술 기반 하이브리드 클라우드 플랫폼을 채택하면 AI+ 기업이 비즈니스를 제한하지 않고 정보에 입각한 결정을 내릴 수 있습니다.

그림 5에서 볼 수 있듯이 하이브리드 클라우드 아키텍처는 다양한 방식으로 전체 비즈니스를 향상시킵니다.

• 대규모 모델을 훈련하고 조정할 수 있는 유연성
• 더 작은 모델을 훈련하고 조정할 수 있는 유연성
• 온프레미스, 프라이빗 클라우드 또는 에지 장치에서 추론을 수행할 수 있는 위치
• RAG 아키텍처를 사용하는 애플리케이션은 모델 가까이에서 실행될 때 대기 시간이 줄어듭니다.
• 데이터 주권법은 데이터 재배치를 제한하므로 AI와 애플리케이션을 데이터로 이동할 수 있는 능력을 갖추는 것이 필수적입니다.
• IT 및 비즈니스 환경 전반에 걸쳐 상호 연결성을 제공하는 AI+ 패브릭 생성

앱, 데이터, AI를 지속적으로 구축하고 개선합니다.

AI, 데이터 및 애플리케이션이 잘 설계된 하이브리드 클라우드 플랫폼에서 실행되면 AI+ 기업은 파이프라인과 도구 체인을 구축하여 완전 자동화를 통해 지속적으로 개선하고 제공합니다. 예를 들어:

• 플랫폼 파이프라인은 Terraform 및 Ansible을 사용하여 인프라와 인프라에서 실행되는 소프트웨어를 프로비저닝하고 업데이트합니다.
• 애플리케이션 파이프라인은 AI 경험을 제공하는 혁신적인 애플리케이션과 AI 디지털 작업자가 실행하는 현대화된 애플리케이션 모두에 대한 코드 업데이트를 통합하고 제공합니다.
• 데이터 파이프라인은 들어오는 데이터를 처리하여 AI가 사용하는 데이터 소스가 최신이고 유효한지 확인합니다.
• AI 파이프라인은 드리프트 및 정확도와 같은 지표를 기반으로 필요에 따라 데이터를 가져오고 재훈련 및 보강합니다.

AI+ 기업은 수명주기 전반에 걸쳐 애플리케이션, 데이터 및 AI 모델을 지속적으로 개선하여 신뢰할 수 있고 승인된 AI 기능만 활성화되도록 돕는 방법을 알고 있습니다.

행정부

AI가 우선인 세상에서도 사고는 발생합니다. 그러나 AI+ 기업은 AI를 사용하여 고객을 만족시킬 뿐만 아니라 IT 문제를 해결합니다. 올바른 도구를 사용하면 AI+ 기업은 직원 생산성을 크게 높일 수 있습니다. 예는 다음과 같습니다:

• 애플리케이션이 제한되고 용량이 증가하는 경우 이를 감지하고 수정합니다.
• 기업 전체에 가시성과 통찰력을 제공하여 더 높은 수준의 자동화를 구현하고 예측 유지 관리를 달성합니다.
• 보안 격차가 발생하기 전에 이를 해소하여 보안 위협을 줄입니다. 예를 들어 Terraform 템플릿의 규정 준수 제어 검색을 사용하여 제어가 충족되지 않으면 프로비저닝이 실패합니다.

AI+ 기업은 또한 필요한 도구와 함께 AI를 수용하고 인재를 교육하는 문화를 육성하는 것이 중요하다는 것을 인식하고 있습니다. 이러한 문화는 실험과 전문 지식의 성장을 장려합니다. 이를 위해서는 AI를 두려워하기보다는 AI를 활용하고, 평가하고, 가속화하도록 훈련받은 사람들이 필요합니다.

하이브리드 클라우드 플랫폼에서 AI 보호 및 관리

AI, 특히 Gen AI를 프로덕션 규모에 맞게 배포하려면 조직은 안전하고 관리되는 환경을 구축해야 합니다. 차세대 AI의 규모와 영향은 거버넌스와 위험 통제의 중요성을 강조합니다. AI+ 기업은 AI 모델을 보호, 모니터링 및 설명하는 강력한 조치를 구현하고 하이브리드 클라우드 환경 전반에 걸쳐 거버넌스, 위험 및 규정 준수 제어를 모니터링하여 잠재적인 피해를 완화합니다.

기존 클라우드 거버넌스와 새로운 AI 거버넌스 제어를 결합하는 것이 중요하며, NIST AI 위험 관리 프레임워크, 유럽 연합의 인공 지능법, ISO/IEC 42001 AI 관리 및 ISO/IEC 23894 AI와 같은 새로운 규제 변화를 준수하기 위해 지속적인 집중이 필요합니다. 위기 관리.

오늘 시작하세요.

IBM은 AI+ 기업이 되기 위해 귀하와 협력하여 영향력 있는 사용 사례, 전략, 아키텍처 및 실무 경험을 제공하고자 합니다.

• 현재 궤도를 이해하세요
• 관점과 모델을 통해 AI+ 엔터프라이즈 전략 수립
• 대상 상태 솔루션 및 아키텍처 공동 생성
• 거버넌스 및 위험 상태 지정
• 비즈니스 가치 사례 맞춤화
• AI+ 엔터프라이즈 전략의 가치를 입증하기 위해 주요 단기 엔지니어링 스프린트를 공동 개발하세요.

향후 기사에서는 아키텍처, 데모 및 전략을 통해 IBM의 관점을 보여주면서 각 AI+ 도메인을 더 깊이 탐구할 것입니다.

IBM 하이브리드 클라우드 아키텍처 센터 방문