By 댄 크레이머

2023년이 생성적 AI 실험의 해였다면, 2024년은 구현의 해이다.

모든 부문의 기업은 올해 기술 스택에 생성 AI 애플리케이션과 프레임워크를 추가해야 한다는 것을 알고 있습니다. AI 우선 기업이 된다는 생각이 두렵게 느껴진다면 혼자가 아닙니다.

심지어 대기업조차도 생성 AI를 일상 비즈니스에 접목하는 방법을 여전히 모색하고 있습니다.

옵션이 너무 많으면 어디서부터 시작하나요?

가장 좋은 방법 중 하나는 기술 스택에 "GenAI 혁신 계층"을 구축하는 것입니다. 이를 수행하기 위해 대규모 데이터 과학자나 엔지니어 팀이 필요하지 않습니다. 소규모 기술 팀을 보유한 회사라도 지금 당장 취할 수 있는 조치가 있습니다.

먼저 GenAI 혁신 레이어란 무엇인가? 간단히 말해서, 생성적 AI를 일상적인 비즈니스 활동에 접목하여 새로운 창의적인 워크플로를 구현하고 혁신 프로젝트를 촉진하며 작업을 더 빠르고 스마트하게 완료하는 방법입니다.

아래에서는 비즈니스 팀과 크리에이티브 팀이 새로운 혁신 제품을 설계하고 창의적인 성과를 높이는 데 도움이 될 수 있는 GenAI 혁신 계층을 구축하기 위한 5단계 프로세스를 살펴보겠습니다.

1단계: 올바른 팀 구성

AI 혁신 계층을 만들려면 적절한 팀이 필요합니다. 그렇다고 해서 반드시 대규모 데이터 과학자와 소프트웨어 엔지니어로 구성된 팀이 필요하다는 의미는 아니지만 프로젝트를 이끌려면 몇 명의 핵심 인력이 필요합니다.

처음부터 정의해야 할 가장 중요한 것은 프로젝트가 어떻게 구성되는지, 누가 중요한 데이터에 액세스할 수 있는지, 해당 데이터가 어떻게 보호되는지입니다. 그리고 조직 전체의 모든 사람이 AI 혁신 계층 구축의 중요성에 대해 "주변"에 있어야 한다는 것은 말할 필요도 없습니다.

AI 혁신 레이어 구축은 사이드 프로젝트가 아니라 2024년을 위한 통합 비즈니스 프로세스가 되어야 합니다.

2단계: 데이터 정리

기술 스택 전체에 AI를 엮으려면 먼저 데이터가 최고의 순서로 정렬되어 있는지 확인해야 합니다. AI 레이어에서 액세스할 수 있도록 구조화된 데이터를 구성하는 가장 쉬운 방법은 다음과 같은 인덱스 빌더 도구를 배포하는 것입니다. 크로마DB, 솔방울 or 라마 인덱스 콘텐츠의 벡터 데이터베이스를 생성합니다.

구조화된 데이터에는 고객 데이터, 비디오 스크립트, 문서, PDF, 프리젠테이션, 스프레드시트 등이 포함될 수 있습니다. 이러한 시스템의 장점은 사용자가 인터뷰 기록, 고객 피드백 및 프로세스 문서와 같은 구조화되지 않은 데이터를 매우 잘 처리할 수 있다는 것입니다.

이러한 시스템에서 민감한 정보가 수정되거나 안전하게 보호되도록 수집, 처리 및 확인하는 데에는 몇 가지 기술이 있습니다. LlamaIndex와 같은 일부 도구는 이러한 무거운 작업을 대신 수행하는 반면, 다음과 같은 다른 데이터베이스 도구는 탄력있는 또한 데이터베이스가 사용되는 방식에 대한 보안 통찰력을 제공할 수도 있습니다.

개발자에게는 여기에 다양한 옵션이 있으며 팀은 프로젝트의 규모, 보안 및 아키텍처 요구 사항에 가장 적합한 옵션을 선택해야 합니다. 모든 데이터를 벡터 데이터베이스로 구성하면 모든 데이터의 전체 미러인 "디지털 트윈"이 생성되며 이제 모든 AI 시스템에서 액세스할 수 있습니다.

3단계: AI가 데이터를 쿼리할 수 있는 구조 구축

이제 데이터가 정리되었으므로 데이터 내에서 패턴을 찾아야 합니다. 사용자 지정 AI 에이전트를 구축하여 이를 쿼리하면 됩니다. 이러한 에이전트는 사람들의 일상적인 워크플로에 직접 통합되는 채팅 표시줄과 같은 사용하기 쉬운 인터페이스를 통해 액세스할 수 있어야 합니다.

이러한 프롬프트 생성은 두 부분으로 이루어져야 합니다. 먼저 상담원에게 어떤 페르소나를 맡길지 결정하세요. 예를 들어 에이전트가 소비자 주도 디자인 전문가인 경영 컨설턴트처럼 말하도록 할 수 있습니다. 그런 다음 에이전트가 수행하기를 원하는 작업과 응답 형식을 지정해야 합니다. 여기서 핵심은 팀의 요구 사항에 가장 적합한 형식이 무엇인지 이해하기 위해 조직 내에서 연구를 수행하는 것입니다. 대상 사용자와 함께 이러한 내부 에이전트 프롬프트를 테스트하고 반복하는 것이 좋습니다. 이러한 내부 상담원 프롬프트를 작성하는 완벽한 방법은 없지만 누구나 사용할 수 있는 일반적인 프롬프트 방법이 있습니다. 예를 들어 "당신의 생각을 자세히 설명하고 각각에 대해 X 및 Y 측정 가능한 측정항목이 표에 제시된 세 가지 예를 제시해 주세요."와 같은 것입니다.

4단계: 다중 에이전트 프롬프트 실험

마지막으로 AI 에이전트에 질문을 할 준비가 되었습니다. 질문에 더 많은 맥락을 제공할수록 더 좋습니다.

일일 워크플로에 통합된 여러 프롬프트를 구축한 후에는 다중 에이전트 시스템과 함께 작동하도록 교육을 시작할 수 있습니다. 여기에서는 서로 다르지만 교차하는 역할을 가진 여러 AI 에이전트를 함께 묶는 곳입니다.

함께라면 단일 에이전트보다 더 나은 작업을 완료할 수 있습니다. 다중 에이전트 가상 소프트웨어 회사인 ChatDev를 포함하여 이 애플리케이션에 대한 몇 가지 예가 있습니다.

멀티 에이전트를 구축할 때 인간 중심 설계 접근 방식을 취함으로써 최고의 성공을 거두었습니다. 프롬프트 자체는 물론 다중 에이전트로서 함께 작업하면서 공감적인 사고방식과 사용자의 다양성에 대한 감사를 바탕으로 작동하도록 해야 합니다. "사용자의 다양한 경험에 대한 공감, 관용 및 명확성을 갖춘 답변 디자인"과 같은 매개변수를 사용하여 프롬프트를 구축할 수 있습니다.

이 단계에서는 일종의 모델 감독을 통합할 수 있습니다. 다음과 같은 도구 추가 오픈레이어 스택에 추가하면 시간이 지남에 따라 시스템이 사용자를 위해 얼마나 잘 작동하는지에 대한 통찰력을 얻을 수 있습니다.

5단계: AI 혁신 계층 측정

귀하가 하는 모든 일에 AI를 적용하는 것은 회사가 비즈니스 목표를 달성하고 새로운 수익을 창출하며 고객에게 더 나은 서비스를 제공하는 데 도움이 되는 경우에만 유용합니다. 이를 위해서는 AI 혁신 계층이 진정한 가치를 제공할 수 있도록 측정 프레임워크를 마련해야 합니다.

신규 고객 가입, 제품 다운로드, 직원 시간 절약 등 측정할 KPI를 결정하세요. 또한 다중 에이전트 프롬프트를 사용하여 제품, 비즈니스 결과 및 기타 측정 가능한 비즈니스 목표에 대한 미래의 잠재적 시나리오를 생성할 수도 있습니다. 그런 다음 다중 에이전트 프롬프트를 다시 사용하여 시각화를 생성함으로써 이러한 시나리오에 대한 실제 결과를 측정할 수 있습니다.

제너레이티브 AI는 이미 사람들이 일하고, 생각하고, 창조하는 방식을 뒤집었지만, 주로 개인이 사용하는 실험 도구였습니다. 생성적 AI를 기술 스택에 결합하면 일상적인 창작 및 비즈니스 워크플로의 필수적인 부분이 되어 회사의 데이터, 프로세스 및 미래 전략에 대한 새로운 통찰력을 제공할 수 있습니다.

댄 크레이머 디자인과 비즈니스 전략의 융합에 관한 창립자, 사고 리더, 교육자 및 국제 연설가입니다. 공동 CEO이자 공동 창립자로서 IA 협업, 그는 생성적 디자인 렌즈와 분석적 비즈니스 전략을 결합하여 다음과 같은 회사를 돕습니다. Airbnb, 올 스테이트, 아우디, 페덱스, 존슨 앤 존슨, 나이키, 필립스, 삼성 과 Sonos 성장 전략을 수립하고, 혁신을 개발하고, 새로운 비즈니스를 구축하세요.

관련 읽기 :

그림 : 돔 구즈만