최근에 저는 ChatGPT를 사용하여 치료 세션을 가졌습니다. 우리는 친구들에게 강박적으로 넘쳐나는 반복되는 주제에 대해 이야기했기 때문에 그들에게 데자뷰를 주지 않겠다고 생각했습니다. 예상한 대로 AI의 반응은 정확하고 동정적이며 완전히 인간적인 느낌을 받았습니다.

기술 작가로서 나는 내부에서 무슨 일이 일어나고 있는지 알고 있습니다. 디지털 시냅스 떼는 호의적인 반응을 뱉어내기 위해 인간이 생성한 인터넷의 텍스트 가치에 대해 훈련됩니다. 그러나 상호 작용은 너무나 현실적이어서 나는 코드와 대화하고 있다는 사실을 끊임없이 상기해야 했습니다. 상대방의 의식적이고 공감하는 존재가 아닙니다.

아니면 내가 그랬나요? 생성 AI가 인간과 유사한 반응을 점점 더 많이 제공함에 따라 일종의 "감각"을 알고리즘에 감정적으로 할당하는 것이 쉬워졌습니다(아니요, ChatGPT는 의식이 없습니다). 2021년, Google의 Blake Lemoine 언론의 폭풍을 일으켰다 그가 작업한 챗봇 중 하나인 LaMDA가 지각력이 있다고 선언함으로써 그는 해고당했습니다.

그러나 대부분의 딥 러닝 모델은 대략적으로 뇌의 내부 작동을 기반으로 합니다. AI 에이전트에는 인간과 유사한 의사 결정 알고리즘이 점점 더 많이 부여되고 있습니다. 언젠가 기계 지능이 지각을 갖게 될 수 있다는 생각은 더 이상 공상 과학 소설처럼 보이지 않습니다.

언젠가 기계 두뇌가 감각을 갖게 되었는지 어떻게 알 수 있을까요? 대답은 우리 자신의 두뇌에 기초할 수 있습니다.

A 프리 프린트 AI 안전 센터의 Robert Long 박사와 몬트리올 대학의 Yoshua Bengio 박사를 포함하여 19명의 신경과학자, 철학자, 컴퓨터 과학자가 작성한 논문에서는 의식의 신경생물학이 최선의 선택일 수 있다고 주장합니다. 예를 들어 채팅 중 AI 에이전트의 행동이나 반응을 단순히 연구하는 대신 인간 의식 이론에 대한 반응을 일치시키는 것이 보다 객관적인 통치자를 제공할 수 있습니다.

이는 기본 제안이지만 의미가 있는 제안입니다. 우리는 단어의 정의와 상관없이 의식이 있다는 것을 알고 있지만 여전히 불안정합니다. 뇌에서 의식이 어떻게 나타나는지에 대한 이론은 풍부하며 여러 주요 후보가 여전히 테스트되고 있습니다. 글로벌 정면 대결.

저자들은 의식에 대한 신경생물학적 이론을 단 하나도 지지하지 않았습니다. 대신 그들은 여러 주요 아이디어를 기반으로 의식의 "지표 속성" 체크리스트를 도출했습니다. 엄격한 기준은 없습니다. 예를 들어 X개의 기준을 충족한다는 것은 AI 에이전트가 의식이 있다는 것을 의미합니다. 오히려 지표는 움직이는 규모를 구성합니다. 더 많은 기준이 충족될수록 지각 있는 기계 정신이 있을 가능성이 더 높습니다.

ChatGPT 및 기타 챗봇을 포함한 여러 최신 AI 시스템을 테스트하기 위한 지침을 사용하여 팀은 현재 "현재 AI 시스템은 의식이 없다"고 결론지었습니다.

그러나 “이러한 지표를 만족하는 AI 시스템을 구축하는 데 뚜렷한 기술적 장벽은 없다”고 그들은 말했다. "의식 있는 AI 시스템이 단기간에 현실적으로 구축될 수 있다"는 것이 가능합니다.

인공 두뇌 듣기

1950년대 앨런 튜링(Alan Turing)의 유명한 모방 게임 이후 과학자들은 기계가 인간과 같은 지능을 나타내는지 여부를 증명하는 방법을 고민해 왔습니다.

로 더 잘 알려진 튜링 테스트, 이론적 설정에는 기계와 다른 인간과 대화하는 인간 판사가 있습니다. 판사는 어느 참가자가 인공 정신을 가지고 있는지 결정해야 합니다. 테스트의 핵심은 “기계가 생각할 수 있는가?”라는 도발적인 질문입니다. 기계와 인간의 차이를 구별하기 어려울수록 기계는 인간과 유사한 지능을 향해 발전해 왔습니다.

ChatGPT가 튜링 테스트를 깨뜨렸습니다.. LLM(대형 언어 모델)으로 구동되는 챗봇의 예인 ChatGPT는 인터넷 댓글, 밈 및 기타 콘텐츠를 흡수합니다. 에세이 작성, 시험 통과, 레시피 제공, 인생 조언 제공 등 인간의 반응을 모방하는 데 매우 능숙합니다.

충격적인 속도로 이루어진 이러한 발전은 생각하는 기계를 측정하기 위한 다른 기준을 어떻게 구성할지에 대한 논쟁을 불러일으켰습니다. 가장 최근의 시도는 고등학생을 위한 시험, 변호사를 위한 변호사 시험, 대학원 진학을 위한 GRE 등 인간을 위한 표준화된 시험에 초점을 맞췄습니다. ChatGPT의 기반이 되는 AI 모델인 OpenAI의 GPT-4는 상위 10% 안에 들었습니다 참가자의. 그러나 규칙을 찾는 데 어려움을 겪었습니다. 비교적 간단한 시각적 퍼즐 게임의 경우.

새로운 벤치마크는 일종의 "지능"을 측정하지만 반드시 의식 문제를 다루는 것은 아닙니다. 여기에 신경과학이 등장합니다.

의식 체크리스트

의식에 관한 신경생물학적 이론은 많고 지저분합니다. 그러나 그들의 핵심은 신경 계산입니다. 즉, 뉴런이 정보를 연결하고 처리하여 의식적인 마음에 도달하는 방법입니다. 즉, 의식은 뇌 계산의 결과이지만 우리는 관련된 세부 사항을 아직 완전히 이해하지 못합니다.

의식에 대한 이러한 실용적인 시각을 통해 인간 의식의 이론을 AI로 번역하는 것이 가능해졌습니다. 라고 불리는 계산 기능주의, 가설은 올바른 종류의 계산이 매체(우리 머리 내부의 질퍽하고 지방이 많은 세포 덩어리 또는 기계 정신에 동력을 공급하는 단단하고 차가운 칩)에 관계없이 의식을 생성한다는 아이디어에 기초합니다. 연구팀은 “AI의 의식은 원칙적으로 가능하다”고 말했다.

그런 다음 어려운 부분이 옵니다. 알고리즘 블랙박스에서 의식을 어떻게 조사합니까? 인간의 표준 방법은 뇌의 전기 펄스를 측정하거나 고화질로 활동을 포착하는 기능적 MRI를 사용하는 것이지만, 두 방법 모두 코드를 평가하는 데 적합하지 않습니다.

대신, 팀은 연구에 처음 사용된 "이론 중심 접근 방식"을 취했습니다. 인간이 아닌 동물의 의식.

우선, 그들은 대중적인 이론을 포함하여 인간 의식에 관한 최고의 이론을 채굴했습니다. 전역 작업 공간 이론 (GWT) 의식 지표. 예를 들어, GWT는 의식이 동시에 작동하는 여러 특수 시스템을 가지고 있다고 규정합니다. 우리는 이러한 정보 흐름을 동시에 듣고 보고 처리할 수 있습니다. 그러나 처리에 병목 현상이 발생하여 주의 메커니즘이 필요합니다.

XNUMXD덴탈의 반복 처리 이론 정보는 의식을 향한 경로로서 여러 루프를 통해 자체적으로 피드백되어야 함을 시사합니다. 다른 이론에서는 환경으로부터 피드백을 받고 이러한 학습을 ​​사용하여 역동적인 외부 세계에 대한 반응을 더 잘 인식하고 제어하는 ​​일종의 "신체"("구현"이라고 함)의 필요성을 강조합니다.

선택할 수 있는 무수한 의식 이론을 통해 팀은 몇 가지 기본 규칙을 제시했습니다. 이론이 포함되려면 다양한 의식 상태에 있는 사람들의 뇌 활동을 포착하는 연구와 같은 실험실 테스트에서 얻은 실질적인 증거가 필요합니다. 전체적으로 14가지 이론이 목표를 충족했습니다. 거기에서 팀은 XNUMX개의 지표를 개발했습니다.

한 번에 끝나는 것이 아닙니다. 어떤 지표도 스스로 지각 있는 AI를 표시하지 않습니다. 실제로 표준 기계 학습 방법은 목록의 개별 속성을 갖는 시스템을 구축할 수 있다고 팀은 설명했습니다. 오히려 목록은 척도입니다. 더 많은 기준이 충족될수록 AI 시스템이 일종의 의식을 가질 가능성이 높아집니다.

각 지표를 평가하는 방법은 무엇입니까? 우리는 "시스템의 아키텍처와 정보가 시스템을 통해 어떻게 흐르는지"를 조사해야 합니다. 말했다 긴.

개념 증명에서 팀은 ChatGPT의 기반이 되는 변환기 기반 대형 언어 모델과 DALL-E 2와 같은 이미지를 생성하는 알고리즘을 포함하여 여러 가지 AI 시스템에 대한 체크리스트를 사용했습니다. , 일부 AI 시스템은 기준의 일부를 충족하지만 다른 시스템은 부족합니다.

그러나 글로벌 작업 공간을 염두에 두고 설계되지는 않았지만 각 시스템은 주의력과 같은 "일부 GWT 지표 속성을 보유"한다고 팀은 말했습니다. 그 사이 구글의 PaLM-E 시스템로봇 센서의 관찰 결과를 주입하는 는 구현 기준을 충족했습니다.

최첨단 AI 시스템 중 어느 것도 몇 가지 상자 이상을 확인하지 못했기 때문에 저자는 아직 지각 있는 AI 시대에 진입하지 못했다고 결론을 내렸습니다. 그들은 또한 AI의 의식을 과소평가하는 위험에 대해 경고했는데, 이로 인해 "도덕적으로 심각한 피해"를 허용하고 AI 시스템이 단지 냉정하고 하드 코드일 때 의인화할 위험이 있습니다.

그럼에도 불구하고 이 논문은 마음의 가장 수수께끼 같은 측면 중 하나를 조사하기 위한 지침을 설정합니다. "[그 제안은] 매우 사려 깊고, 과장되지 않으며, 가정을 정말 명확하게 해줍니다."라고 서식스 대학의 Anil Seth 박사는 말했습니다. 이야기 자연.

보고서는 주제에 대한 최종 단어와는 거리가 멀습니다. 신경과학이 뇌의 의식 상관관계를 더욱 좁혀감에 따라 체크리스트는 일부 기준을 폐기하고 다른 기준을 추가할 가능성이 높습니다. 현재 이 프로젝트는 진행 중이며 저자는 목록을 더욱 다듬기 위해 신경과학, 철학, 컴퓨터 과학, 인지 과학 등 다양한 분야의 다른 관점을 초대합니다.

이미지 신용 : Unsplash의 그레이슨 조랄레몬

• SEO 기반 콘텐츠 및 PR 배포. 오늘 증폭하십시오.
• PlatoData.Network 수직 생성 Ai. 자신에게 권한을 부여하십시오. 여기에서 액세스하십시오.
• PlatoAiStream. 웹3 인텔리전스. 지식 증폭. 여기에서 액세스하십시오.
• 플라톤ESG. 자동차 / EV, 탄소, 클린테크, 에너지, 환경, 태양광, 폐기물 관리. 여기에서 액세스하십시오.
• PlatoHealth. 생명 공학 및 임상 시험 인텔리전스. 여기에서 액세스하십시오.
• 차트프라임. ChartPrime으로 트레이딩 게임을 향상시키십시오. 여기에서 액세스하십시오.
• BlockOffsets. 환경 오프셋 소유권 현대화. 여기에서 액세스하십시오.
• 출처: https://singularityhub.com/2023/09/03/how-will-we-know-if-ai-is-conscious-neuroscientists-now-have-a-checklist/