저명한 미래학자이자 Google의 엔지니어링 이사인 Ray Kurzweil은 AI 연구의 중단을 요구하는 서한에 대한 반박을 발표하면서 그 제안이 비현실적이며 인류에게 큰 혜택을 주는 인류의 의료 혁신과 혁신을 박탈하는 이유를 제시했습니다.

AI 개발 중단을 위한 국제 서한

전 세계의 과학자와 유명 인사들이 서명한 공개 서한(FutureOfLife.org에 게시됨)는 OpenAI가 만든 최신 버전인 GPT-4보다 더 강력한 AI 개발을 완전히 중단할 것을 촉구했습니다.

AI의 추가 개발을 일시 중지하는 것 외에도 제XNUMX자 독립 전문가가 감독하는 안전 프로토콜 개발도 요구했습니다.

공개 서한의 저자는 다음과 같은 몇 가지 사항을 지적합니다.

• AI는 심각한 위험을 초래합니다.
• AI 개발은 기술의 유익한 응용 프로그램이 열거되고 정당화된 후에만 진행되어야 합니다.
• AI는 "우리"(서한에 서명한 수천 명의 서명자)가 AI 위험을 관리할 수 있다고 확신하는 경우에만 진행해야 합니다.
• AI 개발자는 규제 기관으로 구성된 AI 거버넌스 시스템을 개발하기 위해 정책 입안자와 협력해야 합니다.
• AI가 만든 콘텐츠를 식별하고 기술 확산을 제어하기 위한 워터마킹 기술 개발.
• AI로 인한 피해에 대한 책임을 할당하는 시스템
• AI 기술로 인한 혼란에 대처하기 위한 제도 조성

AI 기술이 중앙집중화돼 있어 기술을 통제하는 소수의 조직에 의해 일시정지될 수 있다는 관점에서 편지가 나온 것으로 보인다. 그러나 AI는 정부, 연구 기관 및 기업의 손에만 있는 것이 아닙니다.

현재 AI는 전 세계적 규모의 공동 작업으로 수천 명의 개인이 개발한 오픈 소스 및 분산 기술입니다.

Ray Kurzweil: Google의 미래학자, 저자 겸 엔지니어링 이사

레이 커즈와일(Ray Kurzweil)은 1960년대부터 인공 지능에 초점을 맞춘 소프트웨어와 기계를 설계해 왔으며 이 주제에 관한 많은 인기 책을 저술했으며 미래에 대한 정확한 예측을 하는 것으로 유명합니다.

147년에 그가 인생에 대해 한 2009개의 예측 중 2개만, 총 XNUMX%가 틀렸습니다.

1990년대 그의 예측 중에는 책과 같은 많은 물리적 미디어가 디지털화되면서 인기를 잃을 것이라는 점입니다. 컴퓨터가 크고 부피가 커지던 1990년대에 그는 2009년이면 컴퓨터가 입을 수 있을 만큼 작아질 것이라고 예측했는데, 이는 사실로 드러났다.내 예측은 어떻게 진행되고 있습니까 – 2010 PDF).

레이 커즈와일(Ray Kurzweil)의 최근 예측은 AI가 가져올 모든 좋은 점, 특히 의학 및 과학 혁신에 초점을 맞추고 있습니다.

커즈와일은 AI 윤리에도 초점을 맞추고 있다.

2017년에 그는 (OpenAI CEO Sam Altman과 함께) 공개 서한을 작성한 참가자 중 한 명이었습니다. Asilomar 인공 지능 원리 인공 지능 기술의 안전하고 윤리적인 개발을 위한 지침인 Future of Life 웹 사이트에도 게시되었습니다.

그가 만드는 데 도움을 준 원칙들:

• “AI 연구의 목표는 방향 없는 지능이 아니라 유익한 지능을 만드는 것이어야 합니다.
• AI에 대한 투자는 AI의 유익한 사용을 보장하기 위한 연구 자금 지원이 수반되어야 합니다.
• AI 연구자와 정책 입안자 사이에 건설적이고 건전한 교류가 있어야 합니다.
• 고급 AI는 지구상의 생명 역사에서 심오한 변화를 나타낼 수 있으며 이에 상응하는 보살핌과 자원으로 계획하고 관리해야 합니다.
• 초지능은 널리 공유되는 윤리적 이상에 봉사하고 한 국가나 조직이 아닌 모든 인류의 이익을 위해 개발되어야 합니다.”

AI 개발 중단을 요청하는 공개 서한에 대한 Kurzweil의 응답은 인류와 자연 세계를 위해 할 수 있는 모든 유익한 선의 관점에서 기술 혁신의 평생에서 비롯되었습니다.

그의 답변은 세 가지 주요 사항에 초점을 맞췄습니다.

• 일시 중지 요청은 너무 모호하여 실용적이지 않습니다.
• 모든 국가가 일시 중지에 동의해야 합니다. 그렇지 않으면 목표가 처음부터 패배합니다.
• 개발 중단은 질병 치료제 식별과 같은 이점을 무시합니다.

너무 모호하여 실용적이지 못함

편지에 대한 그의 첫 번째 요점은 GPT-4가 유일한 종류의 AI라고 가정하는 GPT-4보다 더 강력한 AI를 일시 중지시키기 때문에 너무 모호하다는 것입니다.

커즈와일은 이렇게 썼다.

"GPT-4보다 더 강력한" AI에 대한 연구를 "일시 중지"하라는 공개 서한과 관련하여 이 기준은 너무 모호하여 실용적이지 않습니다."

국가는 일시 중지를 거부합니다

그의 두 번째 요점은 편지에 명시된 요구 사항은 전 세계 모든 연구자가 자발적으로 협력해야 작동 할 수 있다는 것입니다.

서명을 거부하는 국가는 이점을 갖게 될 것이며 이는 아마도 일어날 일입니다.

그는 쓴 :

"그리고 이 제안은 심각한 조정 문제에 직면해 있습니다. 일시 중지에 동의하는 사람들은 동의하지 않는 기업이나 국가보다 훨씬 뒤처질 수 있습니다."

이 점은 국가가 이점을 양보하지 않을 것이고 또한 AI가 전 세계 개인의 손에 의해 민주화되고 오픈 소스이기 때문에 완전한 일시 중지의 목표가 실행 가능하지 않다는 것을 분명히 합니다.

AI는 AI에 상당한 이점을 제공합니다.

AI가 사회에 거의 도움이 되지 않는다고 일축하고 근로자의 생산성을 높이는 것만으로는 그들이 두려워하는 위험을 정당화하기에 충분하지 않다고 주장하는 사설이 있습니다.

Kurzweil의 마지막 요점은 AI 개발 중단을 요구하는 공개 서한은 AI가 할 수 있는 모든 좋은 점을 완전히 무시한다는 것입니다.

그는 설명한다.

“의학, 건강, 교육, 화석 연료를 대체할 재생 에너지원 추구 및 기타 여러 분야와 같은 중요한 분야에서 AI를 발전시키면 엄청난 이점이 있습니다.

… 실제 위험을 피하면서 건강과 생산성에 대한 AI의 심오한 이점을 활용하려면 더 많은 뉘앙스가 필요합니다.”

위험, 알려지지 않은 것에 대한 두려움, 인류에 대한 혜택

Kurzweil은 AI가 어떻게 사회에 혜택을 줄 수 있는지에 대해 좋은 지적을 합니다. 실제로 AI를 일시 중지할 방법이 없다는 그의 주장은 건전합니다.

AI에 대한 그의 설명은 AI에 내재된 인류에 대한 심오한 이점을 강조합니다.

OpenAI가 AI를 챗봇으로 구현하는 것이 AI를 사소하게 만들고 인류에게 주는 혜택을 무색하게 만드는 동시에 생성 AI가 작동하는 방식을 이해하지 못하는 사람들을 놀라게 할 수 있습니까?

Shutterstock/Iurii Motov의 주요 이미지

• SEO 기반 콘텐츠 및 PR 배포. 오늘 증폭하십시오.
• PlatoAiStream. Web3 데이터 인텔리전스. 지식 증폭. 여기에서 액세스하십시오.
• 미래 만들기 w Adryenn Ashley. 여기에서 액세스하십시오.
• PREIPO®로 PRE-IPO 회사의 주식을 사고 팔 수 있습니다. 여기에서 액세스하십시오.
• 출처: https://www.searchenginejournal.com/ray-kurzweil-rebuts-calls-to-pause-ai-research/486315/