인공 지능 (AI) 도입은 아직 초기 단계입니다. 더 많은 기업이 AI 시스템을 사용하고 기술이 계속해서 성숙하고 변화함에 따라 부적절한 사용으로 인해 회사는 심각한 재무, 운영, 규제 및 평판 위험에 노출될 수 있습니다. 특정 비즈니스 작업에 AI를 사용하거나 가드레일 없이 AI를 사용하는 것도 조직의 핵심 가치와 일치하지 않을 수 있습니다.

AI 거버넌스가 작용하는 곳은 바로 이러한 잠재적이고 피할 수 없는 채택 문제를 해결하는 것입니다. AI 거버넌스 조직의 AI 활동을 지시, 관리, 모니터링하는 관행을 말합니다. 여기에는 감사를 위한 데이터, 모델, 관련 메타데이터 및 파이프라인의 출처를 추적하고 문서화하는 프로세스가 포함됩니다.

AI 거버넌스 프레임워크는 AI와 머신러닝(ML)의 윤리적이고 책임감 있고 투명한 사용을 보장합니다. 이는 위험 관리 및 규정 준수를 포괄하며 조직 내에서 AI가 관리되는 방법을 안내합니다.

기초 모델: 선별된 데이터 세트의 힘

기초 모델"변환기"라고도 알려진 는 레이블이 지정되지 않은 대량의 원시 데이터에 대해 훈련된 현대적인 대규모 AI 모델입니다. 기초 모델 생태계(기계 학습에 대한 수십 년간의 연구 결과), 자연어 처리(NLP) 및 기타 분야의 부상은 컴퓨터 과학 및 AI 분야에서 많은 관심을 불러일으켰습니다. 오픈 소스 프로젝트, 학술 기관, 스타트업 및 레거시 기술 회사 모두가 기반 모델 개발에 기여했습니다.

기초 모델은 언어, 비전 등을 사용하여 현실 세계에 영향을 미칠 수 있습니다. 로봇 공학에서부터 인간과 추론하고 상호 작용하는 도구에 이르기까지 모든 분야에서 사용됩니다. 인간과 유사한 텍스트를 처리하고 생성할 수 있는 OpenAI의 언어 예측 모델인 GPT-3는 기반 모델의 한 예입니다.

기초 모델은 자기 지도 학습과 전이 학습을 통해 한 상황에서 배운 내용을 다른 상황에 적용할 수 있습니다. 즉, 레이블이 지정된 작업별 데이터에 대해 수많은 모델을 훈련하는 대신 이제 변환기를 기반으로 구축된 하나의 큰 모델을 사전 훈련한 다음 추가적인 미세 조정을 통해 필요에 따라 재사용할 수 있습니다.

다음과 같이 선별된 기초 모델 IBM 또는 Microsoft는 기업이 신뢰할 수 있는 데이터를 사용하여 가장 진보된 AI 기능의 사용과 영향을 확장하고 가속화하도록 돕습니다. 자연어 외에도 모델은 다음과 같습니다. 훈련 된 코드, 시계열, 표 형식, 지리 공간 및 IT 이벤트 데이터와 같은 다양한 양식에 대해 설명합니다. 그런 다음 도메인별 기반 모델을 기후 변화, 의료, HR, 고객 관리, IT 앱 현대화 또는 기타 주제와 관련된 새로운 사용 사례에 적용할 수 있습니다.

기초 모델은 널리 익숙한 분류 및 엔터티 추출과 같은 ML 작업은 물론 번역, 요약, 사실적인 콘텐츠 생성과 같은 생성 AI 작업에도 사용됩니다. 이러한 모델의 개발과 사용은 최근 AI의 엄청난 발전을 설명합니다.

IBM 회장 겸 CEO인 아르빈드 크리슈나(Arvind Krishna)는 “기반 모델의 개발로 비즈니스용 AI가 그 어느 때보다 강력해졌습니다. “기초 모델을 통해 AI 배포가 훨씬 더 확장 가능하고 저렴하며 효율적입니다.”

기초 모델은 신뢰할 수 있나요?

기업이 책임감 있고 투명하며 설명 가능한 AI를 사용하여 작업하는 것이 필수적입니다. 이는 기술 초기 단계에서는 달성하기 어려울 수 있습니다.

다음을 포함하여 오늘날 가장 큰 기초 모델의 대부분은 대형 언어 모델 (LLM) ChatGPT를 지원하며 인터넷에서 수집한 정보에 대한 교육을 받았습니다. 하지만 그 훈련 데이터는 얼마나 신뢰할 수 있나요? 제너레이티브 AI 챗봇은 고객을 모욕하고 사실을 조작하는 것으로 알려져 있습니다. 신뢰성이 중요합니다. 기업은 대규모 기반 모델 제공업체가 생성하는 예측과 콘텐츠에 대해 확신을 가져야 합니다.

인간 중심 인공 지능을 위한 스탠포드 연구소의 기초모형연구센터 (CRFM)은 최근 기초 모델의 많은 위험과 기회를 설명했습니다. 그들은 소스와 구성을 포함한 훈련 데이터의 주제가 종종 간과된다는 점을 지적했습니다. 바로 여기서 선별된 기반 모델과 신뢰할 수 있는 거버넌스가 필요합니다.

기초 모델 시작하기

An AI 개발 스튜디오 이전에 필요했던 데이터의 극히 일부만 필요로 하여 기초 모델을 교육, 검증, 조정 및 배포하고 AI 애플리케이션을 신속하게 구축할 수 있습니다. 이러한 데이터 세트는 포함된 "토큰"(단어 또는 단어 부분) 수로 측정됩니다. 부정적 및 긍정적인 큐레이션을 거친 신뢰할 수 있는 데이터가 포함된 기업용 데이터 세트를 제공합니다.

네거티브 큐레이션은 문제가 있는 데이터 세트와 AI 기반 혐오감을 제거하고, 욕설 필터를 적용하여 불쾌한 콘텐츠를 제거하는 것입니다. 긍정적인 큐레이션이란 재무, 법률 및 규제, 사이버 보안, 지속 가능성 등 기업 사용자에게 중요한 특정 영역의 항목을 추가하는 것을 의미합니다.

내장된 거버넌스를 통해 AL 및 ML을 확장하는 방법

목적에 맞는 데이터 저장소 개방형 레이크하우스 아키텍처를 기반으로 구축되어 내장된 거버넌스 도구를 제공하는 동시에 AI 및 ML을 확장할 수 있습니다. 온프레미스 환경과 멀티 클라우드 환경 모두에서 사용할 수 있습니다. 이러한 유형의 차세대 데이터 저장소는 데이터 레이크의 유연성과 데이터 웨어하우스의 성능을 결합하여 위치에 상관없이 AI 워크로드를 확장할 수 있도록 해줍니다.

이는 기존 데이터베이스와의 자동화 및 통합을 허용하고 단순화된 설정 및 사용자 경험을 허용하는 도구를 제공합니다. 또한 적절한 비용으로 적절한 워크로드에 적합한 엔진을 선택할 수 있으므로 워크로드를 최적화하여 데이터 웨어하우스 비용을 잠재적으로 줄일 수 있습니다. 데이터 저장소를 사용하면 기업은 기존 데이터를 새로운 데이터와 연결하고 실시간 분석 및 비즈니스 인텔리전스를 통해 새로운 통찰력을 발견할 수 있습니다. 감소된 데이터 파이프라인, 단순화된 데이터 변환 및 풍부한 데이터를 통해 데이터 엔지니어링을 간소화하는 데 도움이 됩니다.

또 다른 이점은 책임감 있는 데이터 공유입니다. 더 많은 데이터에 대한 셀프 서비스 액세스를 통해 더 많은 사용자를 지원하는 동시에 거버넌스 및 현지 정책 입안자의 보안과 규정 준수를 보장하기 때문입니다.

AI 거버넌스 툴킷이 제공하는 것

AI가 기업의 일상적인 워크플로우에 점점 더 많이 포함됨에 따라 AI 서비스의 생성, 배포 및 관리 전반에 걸쳐 책임감 있고 윤리적인 결정을 보장하는 데 도움이 되는 사전 거버넌스를 포함하는 것이 더욱 중요해졌습니다.

거버넌스를 AI 프로그램에 통합하는 조직은 위험을 최소화하고 윤리 원칙 및 정부 규정을 준수하는 능력을 강화합니다. 비즈니스 리더의 50% 조사 설명 가능한 AI의 가장 중요한 측면은 외부 규제 및 규정 준수 의무를 충족하는 것이라고 말했습니다. 그러나 대부분의 리더는 AI 거버넌스 프레임워크 구축을 위한 중요한 조치를 취하지 않았으며, 74%는 의도하지 않은 편견을 줄이지 않고 있습니다.

An AI 거버넌스 툴킷 타사 도구를 사용하여 개발된 모델의 경우에도 데이터 과학 플랫폼을 전환하는 데 드는 비용을 들이지 않고도 AI 활동을 지시, 관리 및 모니터링할 수 있습니다. 소프트웨어 자동화는 위험을 완화하고 규제 프레임워크의 요구 사항을 관리하며 윤리적 문제를 해결하는 데 도움이 됩니다. 여기에는 AI 모델이 어디에 있든 대규모로 모니터링, 분류 및 관리하는 AI 수명 주기 거버넌스가 포함됩니다. 모델 메타데이터 캡처를 자동화하고 예측 정확도를 높여 AI 도구가 사용되는 방식과 모델 훈련을 다시 수행해야 하는 위치를 식별합니다.

AI 거버넌스 툴킷을 사용하면 책임과 투명성 원칙을 기반으로 AI 프로그램을 설계할 수도 있습니다. AI의 결정을 일관되게 이해하고 설명할 수 있으므로 트리와 문서 데이터 세트, 모델 및 파이프라인에 대한 신뢰를 구축하는 데 도움이 됩니다. 또한 비즈니스 표준을 준수하기 위해 모델의 사실과 워크플로를 자동화합니다. 대규모로 위험 및 규정 준수를 식별, 관리, 모니터링 및 보고하며 동적 대시보드와 사용자 정의 가능한 결과를 제공합니다. 이러한 거버넌스 프로그램은 외부 규정을 자동화된 준수, 감사 지원 및 규정 준수를 위한 정책으로 변환하고 사용자 정의 가능한 대시보드 및 보고를 제공할 수도 있습니다.

적절한 AI 거버넌스를 사용한다는 것은 기업이 기반 모델을 최대한 활용하는 동시에 AI 기술을 발전시킬 때 책임성과 윤리성을 보장할 수 있다는 것을 의미합니다.

기초 모델, 거버넌스 및 IBM

적절한 AI 거버넌스는 AI의 힘을 활용하는 동시에 수많은 함정으로부터 보호하는 데 핵심입니다. AI에는 책임 있고 투명한 관리가 포함되며 위험 관리 및 규정 준수를 다루며 조직 내에서 AI 사용을 안내합니다. 기초 모델은 다양한 영역에 걸쳐 확장 가능하고 효율적인 배포를 가능하게 하는 획기적인 AI 기능을 제공합니다.

왓슨엑스 조직이 책임 있는 AI 거버넌스 원칙을 준수하면서 기초 모델을 완벽하게 활용할 수 있도록 구축된 차세대 데이터 및 AI 플랫폼입니다. 그만큼 왓슨스.거버넌스 툴킷을 사용하면 조직은 책임감, 투명성, 설명 가능성을 갖춘 AI 워크플로를 구축할 수 있습니다.

Watsonx를 통해 조직은 다음을 수행할 수 있습니다.

1. AI 워크플로우를 운영하여 규모에 맞게 효율성과 정확성을 높입니다.. 귀하의 조직은 운영 위험, 정책, 규정 준수, 재무 관리, IT 거버넌스 및 내부/외부 감사를 포괄하는 자동화되고 확장 가능한 거버넌스, 위험 및 규정 준수 도구에 액세스할 수 있습니다.
2. 모델을 추적하고 투명한 프로세스를 추진하세요. AI 수명주기 전반에 걸쳐 어디에서나 모델을 모니터링하고, 분류하고, 관리할 수 있습니다.
3. 보고서 생성을 위한 모델 메타데이터를 캡처하고 문서화합니다. 모델 검증자와 승인자는 자동으로 생성된 자료표에 액세스하여 수명 주기 세부 정보를 항상 최신 상태로 볼 수 있습니다.
4. AI 결과에 대한 신뢰도를 높입니다. 협업 도구와 동적 사용자 기반 대시보드, 차트 및 차원 보고는 AI 프로세스에 대한 가시성을 높입니다.
5. 책임감 있고 투명하며 설명 가능한 데이터 활성화 AI 워크플로 왓슨스.거버넌스.