제퍼넷 로고

두 번째 스택 구축

시간

우리는 대가속(Great Acceleration), 즉 로봇이 솟아오르는 자본-S-Kurzweilian 의미가 아니라 푸코가 설명한 특이점에 있습니다. 변화가 너무 광범위하고 근본적이어서 제대로 할 수 없는 시대입니다. 그 변화의 반대편이 어떤 것인지 분별하십시오.

우리는 이전에 특이점을 겪었습니다.

  • 농업의 부상(잉여 자원을 창출하고 학계와 상인 계층을 제공).
  • 인쇄기의 발명(지식을 민주화하고 덜 유연하게 만들어 우리 감각을 넘어서는 진실의 원천에 대한 아이디어를 제공했습니다).
  • 증기 기관(기계가 물리적 작업을 수행할 수 있게 함).
  • 컴퓨터 소프트웨어(기계에게 따라야 할 지침을 제공하는 데 사용됨)
  • 인터넷과 스마트폰(우리 모두를 대화형으로 서로 연결해줍니다).

이 특이점은 가장 간단한 형태로 다음과 같습니다. 우리는 새로운 종류의 소프트웨어를 발명했습니다.

오래된 종류의 소프트웨어

현재 휴대폰과 컴퓨터에 있는 오래된 종류의 소프트웨어는 1970년대의 누군가가 거의 알아볼 수 없을 정도로 우리 삶을 변화시켰습니다. 인류가 소프트웨어에 적응하는 데는 50년이 걸렸습니다. 왜냐하면 소프트웨어는 학자들로부터 천천히 시작되었고 그 다음에는 취미생활자들, 전화 접속 모뎀 및 기업 이메일로 시작되었기 때문입니다. 그러나 적응하는 데 반세기가 걸렸음에도 불구하고 우리 문명은 그 결과를 처리하기 위해 고군분투하고 있습니다.

메시지를 보내거나, 숫자를 더하거나, 달력에 항목을 예약하거나, 영상 통화를 지원하는 등 오늘날 여러분에게 친숙한 소프트웨어는 결정론적입니다. 그 의미는 그것은 당신이 기대하는대로 작동합니다. 결과가 예상치 못한 경우 이를 버그라고 합니다.

결정론적 소프트웨어에서 AI까지

"생각하는 기계"의 초기 사례에는 사이버네틱스(자동 조종 장치와 같은 피드백 루프) 및 전문가 시스템(의사를 위한 의사 결정 트리)이 포함되었습니다. 그러나 이것들은 여전히 ​​예측 가능하고 이해할 수 있었습니다. 그들은 단지 많은 규칙을 따랐을 뿐입니다.

1980년대에 우리는 다른 접근 방식을 시도했습니다. 우리는 소프트웨어가 뇌처럼 행동하도록 구조화하여 "뉴런"을 제공했습니다. 그런 다음 예제를 기반으로 자체적으로 구성하도록 합니다. 1980년에 Yann LeCun이라는 젊은 연구원이 이미지 분류에 대해 이것을 시도했습니다.

그는 현재 Meta의 AI 책임자입니다.

그런 다음 AI는 일종의 동면 상태에 들어갔습니다. 진전이 이루어지고 있었지만 속도가 느리고 학계에서 일어났습니다. 딥 러닝, TensorFlow 및 기타 기술이 등장하여 주로 검색 엔진, 추천 및 광고를 강화했습니다. 하지만 AI는 광고 서비스, 지도, 음성 인식 등 배후에서 일어난 일이었습니다.

2017년에 일부 연구자들은 "주의가 필요한 전부입니다"라는 중요한 논문을 발표했습니다. 당시 저자들은 Google에서 근무했지만 이후 많은 사람들이 OpenAI와 같은 회사로 옮겼습니다. 이 문서에서는 가장 중요한 언어 부분에 주의를 기울여 소프트웨어가 자체적으로 구성되도록 하는 훨씬 간단한 방법을 설명했습니다.

이에 대한 초기 용도는 번역이었습니다. 알고리즘에 영어와 프랑스어 텍스트를 충분히 제공하면 각 언어 단어 간의 관계를 이해하여 서로 번역하는 방법을 알아낼 수 있습니다. 그러나 기본적인 접근 방식을 통해 우리는 인터넷에서 스크랩한 텍스트로 소프트웨어를 훈련할 수 있었습니다.

거기에서 진행은 매우 빨랐습니다. 2021년에 우리는 SFT(Supervised Fine Tuning)라는 프로세스를 사용하여 대화형 AI가 지침을 따르도록 하는 "지시 모델"을 만드는 방법을 알아냈습니다. 2022년에 우리는 인간이 지침에 대한 응답을 평가하도록 했고(Modified Supervised Fine Tuning이라고 함), 2022년 말에는 GPT-3.5와 ChatGPT를 제공하는 인간 피드백에 대한 강화 학습이라는 기능을 추가했습니다. 이제 AI는 다른 AI에게 피드백을 줄 수 있습니다.

어떤 경우이든 2024년에는 인간이 사물을 훈련하는 입력이 되고 이를 개선하는 데 사용되는 출력 품질에 대한 피드백을 제공합니다.

예상치 못한 것은 버그가 아닌 기능일 때

그 결과 새로운 종류의 소프트웨어가 탄생했습니다. 이를 작동시키기 위해 먼저 대량의 데이터를 수집하고 이를 사용하여 대규모 수학적 모델을 교육합니다. 그런 다음 모델에 프롬프트를 입력하면 모델은 우리가 원하는 응답을 예측합니다(많은 사람들이 이를 깨닫지 못합니다). AI가 훈련되면 동일한 입력은 매번 동일한 출력("최고"라고 생각하는 출력)을 제공합니다.). 하지만 우리는 창의성을 원하므로 AI에게 반응에 얼마나 많은 무작위성을 주입할지 알려주는 온도라는 섭동을 추가합니다.

모델이 어떤 작업을 수행할지 미리 예측할 수는 없습니다. 그리고 매번 다양한 응답을 얻기 위해 의도적으로 무작위성을 도입했습니다. 이 새로운 소프트웨어의 요점은 예측할 수 없다는 것입니다. 비결정적이어야 합니다. 예상치 못한 일을 합니다.

과거에는 애플리케이션에 무언가를 넣으면 인간이 작성한 일련의 지침을 따랐고 예상한 결과가 나타났습니다. 이제 AI에 무언가를 넣으면 AI는 다음과 같은 일련의 지침을 따릅니다. it 라고 썼고, 반대편에서는 예상치 못한 결과가 나타난다. 그리고 예상치 못한 결과는 버그가 아니라 기능입니다.

믿을 수 없을 만큼 빠른 채택

우리는 여러 가지 이유로 첫 번째 종류의 소프트웨어보다 훨씬 더 빠르게 두 번째 종류의 소프트웨어를 채택하고 있습니다.

  • 자체적으로 사용설명서를 만드는데요: 우리 모두는 결과가 얼마나 좋은지에 대해 기뻐하지만, 간단한 입력에 얼마나 잘 반응할 수 있는지 간과하는 경우가 많습니다. 이것은 학습 곡선이 없는 최초의 소프트웨어입니다. 문자 그대로 입력하거나 말할 수 있는 사람에게 사용법을 알려줄 것입니다. 자체 문서를 생성하는 최초의 소프트웨어입니다.
  • 누구나 시도해 볼 수 있습니다.: 휴대폰과 광대역을 통한 유비쿼터스 연결성과 호스팅 소프트웨어의 SaaS 모델 덕분에 많은 사람들이 접속할 수 있습니다. 더 이상 소프트웨어를 구매하고 설치할 필요가 없습니다. 브라우저가 있는 사람이라면 누구나 시도해 볼 수 있습니다.
  • 하드웨어는 어디에나 있다: 게임용 GPU, Apple의 M 시리즈 칩 및 클라우드 컴퓨팅을 통해 막대한 컴퓨팅 리소스를 쉽게 배포할 수 있습니다.
  • 비용이 절감되었습니다. 많이: 일부 알고리즘의 발전으로 AI 비용이 몇 배나 낮아졌습니다. 10,000억 개의 이미지를 분류하는 비용은 2021년 0.03달러에서 2023년 450달러로 감소했습니다. 이는 하루에 XNUMX배나 저렴한 비용입니다.
  • 우리는 온라인에서 살아요: 인간은 하루 평균 19시간 동안 온라인에 있으며 이러한 상호 작용(이메일, 채팅룸, 문자 메시지, 블로그)의 대부분은 텍스트 기반입니다. 온라인 세계에서 인간은 알고리즘과 거의 구별할 수 없기 때문에 AI 출력을 사람들이 소비하는 피드 및 화면에 연결하는 쉬운 방법이 많이 있었습니다. 코로나XNUMX로 인해 원격 근무가 가속화되었고, 이를 통해 텍스트와 알고리즘이 우리 삶에 스며들게 되었습니다.

비결정적 소프트웨어가 수행할 수 있는 작업

비결정적 소프트웨어는 많은 일을 할 수 있으며 그 중 일부는 이제야 깨닫기 시작했습니다.

  • 그것은 생성적인. 새로운 것을 창조할 수 있습니다. 우리는 이미지(Stable Diffusion, Dall-e)와 음악(Google MusicLM), 심지어 금융, 유전체학 및 자원 감지에서도 이러한 현상을 확인하고 있습니다. 그러나 가장 광범위한 관심을 받고 있는 곳은 OpenAI, Google, Perplexity 등과 같은 챗봇입니다.
  • 창의력은 뛰어나지만 물건을 만든다. 이는 우리가 예술, 산문, 음악과 같이 "정답"이 없는 "재미있는" 작업을 제공한다는 의미입니다. 이는 또한 잘못된 정보의 홍수와 인류의 인식론적 위기를 의미합니다.
  • 여전히 인간의 개입이 많이 필요하다 출력을 사용 가능한 것으로 필터링합니다. 실제로 대화형 AI를 생성하는 많은 단계에는 인간이 좋은 응답의 예를 제시하거나 AI가 제공하는 응답을 평가하는 작업이 포함됩니다.
  • 잘못된 경우가 많기 때문에 누군가를 비난할 수 있어야 합니다. 그 결과물로 무엇을 할지 결정하는 사람은 인간이다. 결과에 대한 책임.
  • It 추론할 수 있다 우리는 그렇게 할 수 없다고 생각했습니다. 우리는 이것이 왜 그런지 이해하지 못합니다.

IT의 진자와 민주화

정의에 따르면 특이점의 다른 측면을 예측하는 것은 어렵지만 정보 기술(IT)이 어떻게 변화할지에 대해 지식을 바탕으로 추측할 수 있습니다. IT 산업은 지난 세기 동안 두 가지 큰 변화를 겪었습니다.

  1. 끊임없는 추로 메인프레임의 중앙 집중화에서 웹 클라이언트의 분산 특성으로 흔들리고 있습니다.
  2. 컴퓨팅이 희귀하고 소중하며 IT에 의해 보호되던 시절부터 개발자와 워크로드 자체가 필요에 따라 리소스를 배포할 수 있는 시대까지 리소스의 점진적인 민주화입니다.

이 다이어그램은 이러한 변화를 보여줍니다.

두 번째 스택 구축

AI 덕분에 또 다른 계층이 발생하고 있습니다. 바로 사용자 제어 컴퓨팅입니다. 우리는 이미 Unqork, Bubble, Webflow, Zapier 등과 같은 노코드 및 로우코드 도구를 통해 사용자가 앱을 더 쉽게 만들 수 있는 것을 확인하고 있지만 훨씬 더 흥미로운 것은 사용자의 AI 프롬프트가 코드를 실행할 때입니다. OpenAI의 ChatGPT 코드 해석기에서 이를 볼 수 있는데, 이 코드 해석기는 데이터를 처리하기 위해 앱을 작성하고 실행합니다.

Apple과 같은 회사(이 날을 예상하여 자체 개발한 칩셋에 막대한 AI 처리 기능을 구축한)가 경쟁에 뛰어들면서 앞으로 몇 년 안에 또 다른 진자가 가장자리로 움직일 가능성이 높습니다. 컴퓨팅의 다음 계층은 다음과 같습니다.

두 번째 스택 구축

두 번째 스택 구축

비결정적 시대의 IT에 관해 우리가 할 수 있는 또 다른 예측은 기업이 두 개의 스택을 갖게 될 것이라는 것입니다.

  • 하나는 결정론적이며 예측 가능한 작업을 실행합니다.
  • 하나는 비결정적이어서 예상치 못한 결과를 생성합니다.

아마도 가장 흥미로운 점은 두 번째(비결정적) 스택이 첫 번째(결정적) 스택이 실행할 수 있는 코드를 곧 인간보다 더 잘 작성할 수 있다는 것입니다.

두 번째 스택 구축

앞으로 10년 동안 모든 조직에 두 번째 스택을 구축하는 일이 급증할 것입니다. 모든 회사는 AI에서 최상의 결과를 도출하기 위해 사용하는 코퍼스, 독점 정보 및 실시간 업데이트의 가치를 기준으로 평가됩니다. 각 스택에는 서로 다른 하드웨어 요구 사항, 아키텍처, 거버넌스, 사용자 인터페이스 및 비용 구조가 있습니다.

AI가 인류를 어떻게 변화시킬지는 예측할 수 없습니다. 그러나 이것이 기업 IT를 어떻게 변화시킬 것인지에 대해 지식을 바탕으로 추측할 수 있으며, 빠르게 적응하는 사람들은 이후의 혜택을 가장 잘 활용할 수 있는 준비를 갖추게 될 것입니다.

알리스 테어 크롤 베스트셀러인 린 분석(Lean Analytics)을 포함하여 기술, 비즈니스, 사회에 관한 여러 권의 책을 집필했습니다. 그는 공공 부문 혁신에 관한 세계 최고의 컨퍼런스인 FWD50의 창립자이자 공동 의장이며, 하버드 비즈니스 스쿨의 방문 임원으로 활동하면서 데이터 과학 및 비판적 사고를 위한 커리큘럼을 만드는 데 도움을 주었습니다. 그는 회의 의장이다. 데이터 유니버스 2024.

Data Universe에서 저자를 만나보세요

저자인 Alistair Croll과 함께하세요. 데이터 유니버스10년 11월 2024일부터 XNUMX일까지 뉴욕에서 개최되며, 여기서 그는 전체 글로벌 데이터 및 AI 커뮤니티를 위해 설계된 새로운 브랜드 불가지론 데이터 및 AI 컨퍼런스의 첫 번째 출범을 주재할 예정입니다.

모든 것을 하나로 모으기 - Data Universe는 모든 기술 수준과 역할의 데이터 전문가는 물론 사업가, 임원, 업계 파트너를 환영하여 업계 전반에 걸쳐 탐색된 데이터, 분석, ML 및 AI에 대한 최신의 관련 전문가 주도 통찰력을 접할 수 있습니다. , 비즈니스와 사회의 미래를 변화시키는 빠르게 변화하는 규범, 도구, 기술 및 기대와 함께 발전할 수 있도록 지원합니다. 올 4월 뉴욕의 North Javits Center에서 데이터와 AI의 미래에 참여해 보세요.

INFORMS는 Data Universe 2024의 전략적 파트너가 되어 기쁘게 생각하며, 네 번의 세션 회의 중.


주요 이미지 크레딧 : 그로티카/언스플래시

spot_img

최신 인텔리전스

spot_img