CCC는 올해 AAAS 연례 회의에서 세 가지 과학 세션을 지원했습니다. 이번 주에는 세션의 하이라이트를 요약해 보겠습니다.과학에서의 생성적 AI: 약속과 함정.” 이 패널은 매튜 터크 박사, 시카고 도요타 기술 연구소 회장), 특집 레베카 윌렛 박사, 시카고 대학교 통계 및 컴퓨터 과학 교수, 마르쿠스 뷸러 박사, MIT 공과대학 교수, 던컨 왓슨-패리스 박사, Scripps 해양학 연구소 및 UC San Diego의 Halıcıoğlu 데이터 과학 연구소의 조교수입니다. 4부에서는 패널의 Q&A 부분을 요약합니다. 

패널리스트의 프레젠테이션에 이어 Q&A 세션이 이어졌고, Matthew Turk 박사가 토론을 시작했습니다. “'약속과 함정'은 이 패널의 제목에 있습니다. 우리는 많은 약속에 대해 논의했지만 많은 함정을 다루지는 않았습니다. 생성 AI의 미래에 대해 걱정하는 점은 무엇입니까?”

Rebecca Wilett 박사는 “이러한 모델의 신뢰성과 신뢰도는 큰 관심사입니다.”라고 말했습니다. “이러한 모델은 그럴듯한 것을 예측할 수 있지만 핵심적이고 두드러진 요소가 누락되어 있습니다. 인간으로서 거기에 뭔가 빠진 것이 있다는 것을 인식할 수 있을까?”

Markus Buehler 박사는 모델의 실제 예측에는 몇 초가 걸릴 수 있지만 검증을 위한 실험 과정에는 몇 달, 1년 또는 그 이상이 걸릴 수 있다고 덧붙였습니다. 그렇다면 결과를 검증하지 못한 중간에는 어떻게 운영해야 할까요? "우리는 또한 차세대 생성 AI 개발자가 신뢰할 수 있고 검증 가능한 모델을 설계하고 이러한 모델 구축에 물리학 기반 통찰력을 사용할 수 있도록 교육해야 합니다."

Duncan Watson-Parris 박사는 이전 두 가지 요점을 모두 토대로 다음과 같이 말했습니다. “이러한 모델은 그럴듯한 결과를 생성하도록 설계되었기 때문에 정확성을 확인하기 위해 결과만 볼 수는 없습니다. 생성적 AI 연구자들은 결과를 검증하기 위해 이러한 모델이 어떻게 작동하는지 깊이 이해해야 하며, 이것이 바로 차세대를 올바르게 교육하는 것이 중요한 이유입니다.”

청중: “재료 과학에서 우리는 일부 재료 연구의 앞으로 나아갈 방향을 알고 있지만 실온 초전도체와 같은 다른 재료의 경우 어떻게 앞으로 나아갈지 모릅니다. 이러한 미지의 물질을 연구하는 앞으로의 길은 어떤 모습일 것이라고 생각하시나요? 그리고 규제 관점에서 이러한 유형의 연구가 어떻게 활성화되어야 합니까?”

Buehler 박사는 "글쎄요, 저는 초전도체 연구 전문가가 아니기 때문에 이에 대해 직접적으로 이야기하지는 않겠습니다. 하지만 일반적으로 우리가 재료 과학, 특히 단백질 분야에서 어떻게 발전하는지에 대해 이야기할 수 있습니다."라고 말했습니다. 및 생체재료 개발. 우리가 발전하는 방법은 한계를 뛰어넘는 능력을 갖추는 것입니다. 우리는 새로운 실험을 실행하고 기발한 아이디어와 이론을 테스트하고 어떤 것이 효과가 있고 왜 그런지 알아봅니다. 이 연구를 어떻게 활성화해야 하는지에 관해서는 집단적 접근이 가능한 더 많은 오픈 소스 모델이 필요합니다. 저는 연구자와 대중이 이러한 유형의 모델에 접근할 수 있도록 정치인들이 이러한 기술을 과도하게 규제하지 말 것을 권장합니다. 사람들이 이러한 모델을 사용하는 것을 막는 것은 좋은 생각이 아니라고 생각합니다. 특히 아이디어와 개발을 크라우드소싱하고 다양한 인간 활동 분야의 지식을 소개할 수 있는 경우에는 더욱 그렇습니다. 예를 들어, 인쇄기가 발명되었을 때 당국은 소수의 책만 한꺼번에 읽을 수 있도록 이 기술의 가용성을 제한하려고 했지만 이러한 노력은 비참하게 실패했습니다. 대중을 보호하는 가장 좋은 방법은 사회의 최대 이익을 위해 광범위하게 개발, 탐색 및 평가할 수 있는 방식으로 이러한 모델에 대한 접근을 촉진하는 것입니다.”

청중: “오늘날 대부분의 생성 AI 모델은 다양한 시나리오를 시뮬레이션하거나 에뮬레이션하는 데 초점을 맞춘 회귀 모델입니다. 그러나 과학에서의 발견은 우리가 꿈꾸는 가설과 예측에 의해 촉진됩니다. 그렇다면 주로 실험에 사용되는 현재 모델 대신 새로운 예측을 구상하기 위한 모델을 어떻게 만들 수 있을까요?”

Buehler 박사는 먼저 다음과 같이 대답했습니다. “당신 말이 맞습니다. 대부분의 전통적인 기계 학습 모델은 종종 회귀 기반이지만 오늘 우리가 말한 모델은 다르게 작동합니다. 많은 기능을 갖춘 다중 에이전트 시스템을 결합하면 실제로 새로운 시나리오를 탐색하기 시작하고 실행한 실험을 기반으로 추론하고 예측하기 시작합니다. 그들은 더욱 인간적이 됩니다. 연구자로서 당신은 실험을 실행하고 끝나는 것이 아닙니다. 실험을 실행한 다음 데이터를 보고 검증하기 시작하고 이 데이터를 기반으로 새로운 예측을 만들어 점들을 연결하고 다음과 같이 추정합니다. 새로운 시나리오가 어떻게 전개될지 가설을 세우고 상상합니다. 실험하고, 새로운 데이터를 수집하고, 이론을 개발하고, 특정 관심 사항에 대한 통합 프레임워크를 제안할 수도 있습니다. 그런 다음 동료의 비판에 맞서 자신의 아이디어를 방어하고 새로운 정보가 사용되면 가설을 수정할 수도 있습니다. 이것이 새로운 다중 에이전트 적대 시스템이 작동하는 방식이지만, 물론 방대한 양의 데이터와 지식 표현에 대해 추론할 수 있는 훨씬 뛰어난 능력으로 인간의 기술을 보완합니다. 이러한 모델은 이미 연구된 것 이상으로 한계를 뛰어 넘는 새로운 가설을 생성하여 발견과 혁신의 과학적 과정을 추가할 수 있습니다.”

Willett 박사는 이렇게 덧붙였습니다. “완성 발견 및 상징적 회귀 분야를 가설 생성에 훨씬 더 초점을 맞춘 또 다른 분야로 보완하겠습니다. 이 분야에서 진행 중인 작업이 많이 있습니다.”

청중: "이러한 유형의 모델에 대한 접근성을 높이고 대부분의 모델이 영어 사용자를 위해 생성되는 것과 같은 장애물을 극복하려면 어떻게 해야 합니까?"

Rebecca Willett 박사는 “많은 사람들이 이러한 모델을 사용할 수 있지만 이를 설계하고 교육하는 데 수백만 달러가 소요됩니다. 소수의 조직만이 이러한 모델을 설정할 수 있다면 과학계에서 아주 소수의 사람들만이 결정을 내리고 우선순위를 설정하는 것입니다. 그리고 종종 이러한 조직과 개인의 우선순위는 이익 중심입니다. 즉, 풍경이 바뀌기 시작했다고 생각합니다. NSF와 같은 조직은 더 광범위한 과학계가 접근할 수 있는 인프라를 구축하려고 노력하고 있습니다. 이러한 노력은 초기 슈퍼컴퓨터 개발과 유사하다. 초기에 연구자들은 슈퍼컴퓨터에 접근하기 위해 긴 제안서를 제출해야 했습니다. 우리는 AI와 생성 AI에서 비슷한 새로운 패러다임을 보게 될 것이라고 생각합니다.”

“동의합니다.”라고 Watson-Parris 박사가 말했습니다. "규제 측면에서 덧붙이자면, 기초 연구, 아마도 응용 분야는 규제해야 하지만 연구 자체는 규제해서는 안 된다고 생각합니다."

읽어 주셔서 감사드리며 AAAS 2024의 다른 두 패널의 요약을 계속 지켜봐 주시기 바랍니다.

• SEO 기반 콘텐츠 및 PR 배포. 오늘 증폭하십시오.
• PlatoData.Network 수직 생성 Ai. 자신에게 권한을 부여하십시오. 여기에서 액세스하십시오.
• PlatoAiStream. 웹3 인텔리전스. 지식 증폭. 여기에서 액세스하십시오.
• 플라톤ESG. 탄소, 클린테크, 에너지, 환경, 태양광, 폐기물 관리. 여기에서 액세스하십시오.
• PlatoHealth. 생명 공학 및 임상 시험 인텔리전스. 여기에서 액세스하십시오.
• 출처: https://feeds.feedblitz.com/~/874103807/0/cccblog~CCC-AAAS-Generative-AI-in-Science-Promises-and-Pitfalls-Recap-%e2%80%93-Part-Four/