생성 AI를 구현하는 것은 닭이 먼저냐 달걀이 먼저냐의 난제처럼 보일 수 있습니다. 최근에는 IBM 기업 가치 연구소 설문 조사에 따르면 CEO의 64%는 앱을 현대화해야 한다고 답했습니다. 전에 생성 AI를 사용할 수 있습니다. 그러나 동시에 생성적 AI는 다음과 같은 능력을 가지고 있습니다. 프로세스를 변화시키다 코드 리버스 엔지니어링, 코드 생성, 한 언어에서 다른 언어로의 코드 변환, 현대화 워크플로우 정의 및 기타 자동화된 프로세스를 통한 애플리케이션 현대화. CTO와 CIO가 기술과 데이터 자산을 평가하고, 기회를 평가하고, 앞으로 나아갈 길을 계획하는 방법은 다음과 같습니다.

CIO와 CTO는 다음을 수행해야 합니다.

• 조직의 수준을 평가하십시오. 하이브리드 클라우드 숙달 생성적 AI의 효과적인 구현을 위한 기반 전략
• 평가 조직의 장애물 구현 및 현 상태 유지 비용
• 무게를다는 비용 범용 대형 모델을 사용하는 것과 소형 모델을 튜닝하는 것의 이점
• 데이터 가용성, 거버넌스, 보안 및 지속 가능성과 관련된 요소 및 비용을 평가합니다.
• HR과 협력하여 사람을 생성적 AI 전략의 중심에 두세요.

하이브리드 클라우드로 생성적 AI 채택 가속화

지난 XNUMX년 동안 IBM은 확장 가능한 AI 기반 혁신, 생산성 및 효율성을 뒷받침하기 위해 하이브리드 클라우드 전략을 옹호해 왔습니다. 우리의 관점에서 보면 아키텍처에 대한 논쟁은 끝났습니다. 하이브리드 클라우드를 숙달한 조직은 구현하기에 좋은 위치에 있습니다. 생성 적 AI 조직 전반에 걸쳐. 하이브리드 클라우드를 사용하면 강력한 오픈 소스 LLM(대형 언어 모델)을 활용하고, 공개 데이터 및 컴퓨팅 리소스를 사용하여 자체 모델을 교육하고, 독점 통찰력을 비공개로 유지하면서 모델을 안전하게 미세 조정할 수 있습니다. 하이브리드 클라우드의 생성적 AI는 고객 및 직원 경험, HR 및 고객 서비스 기능에 엄청난 가치를 더하는 동시에 CIO 및 CTO에게 IT 운영을 자동화하고 애플리케이션을 현대화할 수 있는 뛰어난 민첩성을 제공하여 잠재적으로 기술적 부채를 제거하고 진정한 지속적인 현대화를 가능하게 합니다.

비즈니스 컨텍스트

하이브리드 클라우드에 전념하는 CIO 및 CTO에게도 현대화에 대한 조직적 장애물 유지하다. 첫째, 기술 리더는 현대화의 전체 재정적 영향(비용 대비)을 추정해야 합니다. 지원 현대화)를 조직 전반에 걸쳐 수행합니다. IT 프로젝트가 아닌 비즈니스 이니셔티브로서 현대화를 옹호해야 합니다. 또한 리더는 인재 개발에 우선순위를 두어 전문성 격차를 해소하고, 운영 기술이 아닌 전략적이고 미래를 보장하는 비즈니스 투자로서 현대화에 대한 문화적 동의를 얻어야 합니다.

다음으로 리더는 생성 AI가 현대화에 가져올 수 있는 비즈니스 가치를 이해하여 어디에 투자해야 하는지 이해해야 합니다. IBM 컨설팅 팀의 경험에 따르면, 현대화 여정을 이제 막 시작한 조직은 AI 기반 자동화의 이점과 가치를 이해하는 데 있어서 "가능성의 예술"에 대한 관점이 필요합니다. 여정에서 더욱 발전된 조직은 업계의 사용 사례에 대한 명확성과 고유한 기회를 처리하기 위한 지원을 찾고 있습니다.

생성적 AI 사용 사례의 우선순위 지정

IT 운영 내에서 생성적 AI 사용 사례에는 서비스 수준 목표를 준수하기 위한 시스템의 자동 분류가 포함됩니다. 문의사항과 티켓을 관리하고, 전달하고, 지원을 제공하고 해결합니다. 이벤트 및 이상 징후 탐지 및 관리. Runbook을 구축 및 실행하고 사용자가 새로운 지식 기반 및 소프트웨어로 전환하도록 지원함으로써 IT 자동화를 향상시킬 수 있습니다. 또한 DevOps 파이프라인 및 미들웨어 자동화 스크립트를 생성하는 등 플랫폼 엔지니어링을 지원할 수도 있습니다.

현대화의 기초로서 IT 운영에 관해 훨씬 더 많은 이야기를 할 수 있습니다. 여기서는 생성 AI를 적용할 수 있는 XNUMX가지 워크플로우에 대해 우선적으로 논의하겠습니다.

• 변환 계획: 생성적 AI는 요약, 계획 생성, 참조 아키텍처 생성을 통해 현대화 워크플로를 정의하는 데 도움이 됩니다. 테라 폼. 
• 암호 리버스 엔지니어링: Generative AI는 코드를 분석하여 비즈니스 규칙과 도메인 모델을 추출하고, 애플리케이션을 모놀리식 아키텍처에서 마이크로서비스로 이동하기 위한 권장 사항을 생성하고, 리팩터링 및 컨테이너화 기회를 식별하고, 리팩터링된 코드를 생성함으로써 리버스 엔지니어링을 용이하게 합니다.
• 코드 생성: 코드 생성은 IT 리더가 개발자 대역폭과 관련된 문제를 극복하고 제한된 인재 풀의 기술을 최적화하는 데 도움이 됩니다. 짧은 조각부터 전체 기능까지 클라우드 기반 코드 생성을 통해 매우 반복적이고 수동적인 작업을 처리할 수 있습니다. UI 디자인, 인프라, 컨테이너 플랫폼 구성(예: Red Hat® OpenShift®) 및 서버리스 프레임워크(예: 원어민).
• 코드 변환: 미션 크리티컬 레거시 애플리케이션을 유지하고 업데이트하려면 코드 변환이 필수적입니다. Generative AI는 예를 들어 COBOL에서 Java, SOAP에서 REST 및 기타 언어와 환경으로 이 프로세스를 자동화할 수 있습니다.

CTO/CIO는 이러한 기능 내에서 생성 AI를 사용하여 빠른 승리를 거두는 것을 고려해야 합니다. 개념 증명 구현을 탐색하기 위해 비교적 개별적이고 위험이 낮은 기회를 찾으십시오. 작게 시작하여 테스트하고 확장하세요.

기초 모델 평가

올바른 기반 모델을 미리 선택하면 기업에 보다 정확하고 효율적인 결과를 제공하는 데 도움이 될 수 있습니다.

의 아키텍처 변압기 크기 선호: 더 큰 모델이 더 나은 결과를 생성합니다. 따라서 생성 AI에서는 더욱 광범위한 애플리케이션을 위해 더욱 큰 기반 모델을 구축하기 위한 경쟁이 진행되고 있습니다. 그러나 가장 큰 모델은 강력하지만, 수십억 개의 매개변수를 갖는 모델이 항상 기업에 최선의 선택은 아닐 수도 있습니다. 작업에 맞게 미세 조정된 작은 모델은 해당 작업에 맞게 미세 조정되지 않은 대형 모델보다 성능이 뛰어난 경우가 많습니다. 이러한 모델은 기본 기반이 기업용으로 적합한 경우 약간의 조정을 통해 범용 LLM 위에서 실행될 수 있습니다. 예를 들어, IBM의 13억 매개변수 화강암 향후 릴리스에서 사용 가능한 기초 모델 watsonx.ai, 수천억 개의 매개 변수를 포함하는 가장 큰 LLM보다 훨씬 작지만 요약, 질문 답변 및 분류와 같은 비즈니스 관련 작업을 효과적으로 수행하는 동시에 훨씬 더 효율적입니다.

또한 목적에 맞는 기반 모델을 통해 조직은 다음을 통해 현대화를 자동화하고 가속화할 수 있습니다. 코드 조각 및 애플리케이션 구성 요소 생성, 애플리케이션 테스트 자동화와 함께. watsonx.ai에 내장된 코드 모델을 바탕으로, IBM watsonx 코드 어시스턴트 예를 들어 코드를 변환하는 데에도 사용할 수 있습니다. COBOL에서 자바로. watsonx Code Assistant 내에서 모든 경험 수준의 개발자는 일반 언어로 요청을 표현하고 AI 생성 권장 사항을 얻거나 기존 소스 코드를 기반으로 코드를 생성할 수 있습니다. watsonx.ai에는 GitHub의 공개 라이센스 데이터에 대해 훈련된 StarCoder LLM에 대한 액세스도 포함되어 있습니다. 개발자는 StarCoder를 활용하여 코드 생성을 가속화하고 애플리케이션 현대화 및 IT 현대화를 위한 생산성을 높일 수 있습니다.

크기를 넘어서는 경우 기초 모델 선택, CTO는 모델이 지원하는 자연어 및 프로그래밍 언어와 모델에 필요한 미세 조정 정도도 고려해야 합니다.

맞춤형 ROI 프레임워크 생성

생성적 AI에서는 ROI 계산 방법이 성숙하지 않거나 표준화되지 않았으며 비교 벤치마크도 종종 제공되지 않습니다. 엔터프라이즈 애플리케이션의 경우 미세 조정, 신속한 엔지니어링 및 컴퓨팅 집약적인 워크로드 실행에는 상당한 투자가 필요합니다.

다음의 네 가지 핵심 요소 도메인, 산업 및 사용 사례에 따라 달라지는 모델을 선택하고 배포할 때 고려해야 할 사항입니다. 첫 번째 비용 요소는 가격 책정 또는 라이센스 방법입니다. 이는 퍼블릭 및 관리형 클라우드의 API 사용량과 하이브리드 및 프라이빗 클라우드의 호스팅 및 컴퓨팅 비용을 기준으로 평가됩니다. 두 번째 비용 요소는 개발 노력입니다. 이는 하이브리드 및 프라이빗 클라우드에서 더 높고 세 번째 요소인 엔터프라이즈 데이터 보안과 밀접하게 매핑됩니다. 마지막으로, 규모의 하이브리드 및 프라이빗 측으로 갈수록 완화되는 IP 및 보안 위험의 잠재적 영향을 고려하십시오.

ROI를 평가할 때 데이터 가용성 및 거버넌스 요소도 고려해야 합니다. IBM은 watsonx 플랫폼을 통해 비즈니스 사용자의 요구사항에 맞는 기반 모델을 제공하는 데 있어 상당한 진전을 이루고 있습니다. 왓슨엑스.데이터개방형 레이크하우스 아키텍처를 기반으로 구축된 를 통해 기업은 워크로드가 어디에 있든 모델을 개인화할 수 있습니다. 도구는 왓슨스.거버넌스 또한 조직이 비즈니스 전반에 걸쳐 책임감 있고 투명하며 설명 가능한 워크플로를 효율적으로 추진하는 데 도움이 됩니다.

생성 AI의 기능과 사용이 가속화됨에 따라 ROI 방정식의 이점을 수치로 계산하는 것이 어려울 수 있습니다. 하지만 CIO와 CTO가 조직이 기존 AI에서 비즈니스 가치를 창출한 다양한 방법 출발점으로 생성 AI 테스트 사례와 빠른 승리로부터 잠재적인 가치를 추정합니다.

지속 가능성 목표 고려

공식적인 ESG 프로그램이든 기업 사명이든 지속 가능성은 좋은 윤리 그 이상이며 점점 더 나은 비즈니스로 인식되고 있습니다. 다음과 같은 기업 헌신적이고 효과적인 지속가능성 노력 향상된 주주 수익, 수익 성장 및 수익성을 통해 비즈니스 가치를 높일 수 있습니다. 따라서 CTO는 생성적 AI 채택 계산에 지속 가능성을 고려하는 것이 현명합니다.

AI 모델의 훈련, 조정 및 실행은 막대한 탄소 발자국을 남길 수 있습니다. 이것이 IBM이 돕는 이유입니다. 맞춤형 생성 AI 신뢰할 수 있고 휴대 가능하며 에너지 효율적인 기반 모델을 갖춘 기업을 위한 제품입니다. 더 작은 모델을 만들고 컴퓨터 리소스를 보다 효율적으로 사용하면 비용과 탄소 배출량을 크게 줄일 수 있습니다. IBM Research는 또한 다음과 같은 보다 효율적인 모델 훈련 기술을 개발하고 있습니다. LiGo 알고리즘 작은 모델을 재활용하여 더 큰 모델로 제작하여 시간, 비용, 탄소 배출을 최대 70%까지 절약합니다.

인적 자원으로 이끌어라

마지막으로, 생성 AI를 효과적으로 구현하려면 숙련되고 열정적인 사람들이 필요합니다. 따라서 인사 부서는 조직 전략의 중심에 있어야 합니다. 이미 AI 기반 채용 도구를 사용하고 있을 가능성이 높은 HR 전문가의 재교육부터 시작하세요. 다음으로, 생성 AI 테스트 및 채택이 진행 중인 위치를 알리고 피드백을 제공하기 위한 공식적인 관리 이니셔티브를 개발합니다.

AI 전략 브리핑 요청