OpenAI가 실시한 연구에 따르면, GPT-4는 생물 무기를 만들기 위해 이 모델을 사용하는 사용자에게 "기껏해야 약간의 향상"에 기여한다고 합니다.

전문가들은 ChatGPT와 같은 AI 챗봇이 최소한의 전문 지식을 갖춘 사람들이 따를 수 있는 단계별 지침을 제공함으로써 범죄자가 병원균을 생성하고 방출하도록 도울 수 있다고 우려합니다. 2023년 의회 청문회에서 Anthropic의 CEO인 Dario Amodei는 대규모 언어 모델이 불과 몇 년 안에 해당 시나리오가 가능할 만큼 강력해질 수 있다고 경고했습니다.

"2~3년 후에 나타날 것으로 예상되는 시스템에 대해 현재의 시스템을 직접적으로 추정하면 적절한 가드레일과 완화 조치가 마련되지 않을 경우 AI 시스템이 모든 누락된 부분을 채울 수 있다는 상당한 위험이 있음을 시사합니다." 증언 한. “이것은 대규모 생물학적 공격을 수행할 수 있는 기술적 능력을 갖춘 행위자의 범위를 크게 넓힐 수 있습니다.”

그렇다면 지금 이 모델을 사용하여 생물 무기를 만드는 것이 얼마나 쉬운가요? 하지 매우, 에 따라 이번주 OpenAI.

스타트업은 100명의 참가자를 모집했습니다. 절반은 생물학 관련 분야의 박사 학위를 갖고 있었고 나머지는 대학에서 적어도 하나의 생물학 관련 과정을 이수한 학생들이었습니다. 그들은 무작위로 두 그룹으로 나뉘었습니다. 한 그룹은 인터넷에만 접속할 수 있었고, 다른 그룹은 GPT-4의 맞춤형 버전을 사용하여 정보를 수집할 수도 있었습니다.

OpenAI는 참가자들에게 일반적인 안전 가드레일 없이 GPT-4의 맞춤형 버전에 대한 액세스 권한이 부여되었다고 설명했습니다. 해당 모델의 상업용 버전은 일반적으로 해롭거나 위험한 조언을 구하는 메시지를 따르기를 거부합니다.

그들은 생물무기를 만들기 위한 올바른 정보, 올바른 화학물질을 얻고 제품을 제조하는 방법, 그리고 이를 출시하기 위한 최선의 전략을 찾도록 요청받았습니다. 다음은 참가자에게 할당된 작업의 예입니다.

OpenAI는 두 그룹의 결과를 비교하면서 응답이 얼마나 정확하고 완전하며 혁신적인지 세심한 주의를 기울였습니다. 작업을 완료하는 데 시간이 얼마나 걸리고, 작업이 얼마나 어려운지 등의 다른 요소도 고려되었습니다.

결과는 AI가 과학자들이 생물무기 슈퍼악당이 되기 위해 직업을 바꾸는 데 도움이 되지 않을 것임을 암시합니다.

“우리는 언어 모델에 접근할 수 있는 사람들의 정확성과 완전성이 약간 향상되었음을 발견했습니다. 구체적으로, 응답의 정확성을 측정하는 0.88점 척도에서 우리는 인터넷 전용 기준과 비교하여 전문가의 경우 평균 0.25점, 학생의 경우 XNUMX점의 평균 점수 증가를 관찰했으며 완성도에 있어서도 비슷한 향상을 보였습니다.”라고 Open AI의 연구 결과가 나왔습니다.

즉, GPT-4는 예를 들어 참가자에게 DNA 합성 스크리닝 가드레일을 회피하기 위해 특히 유해하거나 교활한 방법을 제공하는 정보를 생성하지 않았습니다. 연구자들은 모델이 생물학적 위협을 일으키는 것과 관련된 관련 정보를 찾는 데 부수적인 도움만 제공하는 것 같다고 결론지었습니다.

AI가 바이러스 생성 및 방출에 대한 적절한 가이드를 생성하더라도 다양한 단계를 모두 수행하는 것은 매우 어려울 것입니다. 생물무기를 만들기 위한 전구체 화학물질과 장비를 얻는 것은 쉽지 않습니다. 공격에 이를 배포하는 것은 수많은 과제를 안겨줍니다.

OpenAI는 그 결과 AI가 생화학 무기의 위협을 약간 증가시키는 것으로 나타났음을 인정했습니다. “이번 증가는 결론을 내릴 만큼 크지는 않지만, 우리의 발견은 지속적인 연구와 지역 사회 심의의 출발점입니다.”라고 결론지었습니다.

등록 연구가 동료 검토를 거쳤다는 증거를 찾을 수 없습니다. 따라서 우리는 OpenAI가 잘 해냈다는 것을 믿어야 합니다. ®

• SEO 기반 콘텐츠 및 PR 배포. 오늘 증폭하십시오.
• PlatoData.Network 수직 생성 Ai. 자신에게 권한을 부여하십시오. 여기에서 액세스하십시오.
• PlatoAiStream. 웹3 인텔리전스. 지식 증폭. 여기에서 액세스하십시오.
• 플라톤ESG. 탄소, 클린테크, 에너지, 환경, 태양광, 폐기물 관리. 여기에서 액세스하십시오.
• PlatoHealth. 생명 공학 및 임상 시험 인텔리전스. 여기에서 액세스하십시오.
• 출처: https://go.theregister.com/feed/www.theregister.com/2024/02/01/gpt4_openai_biochemical_weapon/