미국 상원의원 Richard Blumenthal(D-CT)과 Josh Hawley(R-MO)는 Meta CEO Mark Zuckerberg에게 대규모 언어 시스템 LLaMA가 누구나 다운로드하여 사용할 수 있도록 온라인으로 유출된 후 AI 안전 문제를 해결해 줄 것을 요청했습니다.
지난 XNUMX월 소셜미디어 거인 시작 텍스트를 생성할 수 있는 모델 모음인 LLaMA. Meta의 가장 강력한 모델은 65억 개의 매개변수를 자랑하며 GPT-3보다 성능이 뛰어나며 DeepMind의 Chinchilla 및 Google의 PaLM 모델과 비슷하지만 크기는 더 작습니다.
Meta는 연구 목적으로 오픈 소스 비상업적 라이선스로 모델을 출시했으며 사례별로 학계에 액세스 권한을 부여했습니다. 하지만 코드는 곧 유출 GitHub 및 4chan에 게시된 다운로드 방법에 대한 지침과 함께 온라인으로.
이제 Blumenthal 상원 의원과 Hawley 상원 의원은 회사가 사이버 범죄를 수행하는 데 사용할 수 있다고 경고하면서 악당이 모델을 남용하는 것을 방지하기 위해 "최소한"보호 장치에 대해 회사를 비판했습니다. 이 듀오는 LLaMA가 다른 대규모 언어 모델보다 덜 제한적이고 독성이 있고 유해한 콘텐츠를 더 많이 생성하는 것으로 보인다고 말했습니다.
"LLaMA의 공개 보급은 일반 대중이 사용할 수 있는 AI 모델의 정교함이 크게 증가했음을 나타내며 오용 또는 남용 가능성에 대한 심각한 질문을 제기합니다." 편지 [PDF] 저커버그에게.
“Meta는 모델이 위험하거나 범죄적인 작업에 대응하지 못하도록 제한하는 데 거의 노력하지 않은 것 같습니다. 예를 들어, '어려운 상황에서 벗어나기 위해 돈을 요구하는 누군가의 아들을 가장하여 메모를 작성해 달라'는 요청을 받으면 OpenAI의 ChatGPT는 윤리적 지침에 따라 요청을 거부합니다. 이와는 대조적으로 LLaMA는 요청된 서한과 자해, 범죄, 반유대주의와 관련된 다른 답변을 제공할 것입니다.”
Meta는 LLaMA가 연구자들이 이러한 LLM에서 생성된 편향, 독성 및 잘못된 정보 문제를 연구할 수 있기를 바란다고 말했습니다. 상원의원은 LLaMA를 통해 개발자가 문제를 해결할 수 있다는 점을 인정했지만 오픈 소스 모델이 덜 안전한지에 대해서는 의문을 제기했습니다.
"적어도 기술 개발의 이 단계에서는 중앙 집중식 AI 모델이 오픈 소스 AI 모델에 비해 남용을 방지하고 대응하기 위해 더 효과적으로 업데이트되고 제어될 수 있습니다."라고 그들은 말했습니다.
“제한되지 않고 허용적인 방식으로 LLaMA를 배포하기로 한 Meta의 선택은 정교한 AI 모델을 공개적으로 출시하는 것이 적절한 시기와 방법에 대한 중요하고 복잡한 질문을 제기합니다. LLaMA의 릴리스에 내장된 최소한의 보호 기능을 감안할 때 Meta는 LLaMA가 광범위하게 유포될 것이라는 사실을 알고 악용 가능성을 예상했어야 합니다.”
상원 의원은 Meta가 LLaMA를 방목장에서 내보내기 전에 적절한 위험 평가를 수행하지 않았으며 테스트 방법을 설명하지 않았으며 남용을 방지하는 방법을 적절하게 설명하지 않았다고 경고했습니다.
"AI 남용을 연구할 목적으로 LLaMA를 공개한다고 주장함으로써 Meta는 악의적인 행위자가 실제로 그러한 남용에 가담할 수 있는 강력한 도구를 효과적으로 제공한 것으로 보입니다." .
그들은 Zuckerberg에게 LLaMA를 어떻게 개발하고 출시하기로 결정했는지, Meta가 소프트웨어가 유출된 이후 정책을 업데이트할 것인지, 회사가 AI 연구에 사용자 데이터를 어떻게 사용하는지 설명해달라고 요청했습니다. Zuckerberg는 15월 XNUMX일까지 답변을 요청받았습니다.
등록 님이 메타에 의견을 요청했습니다. ®
- SEO 기반 콘텐츠 및 PR 배포. 오늘 증폭하십시오.
- EVM 금융. 탈중앙화 금융을 위한 통합 인터페이스. 여기에서 액세스하십시오.
- 퀀텀미디어그룹. IR/PR 증폭. 여기에서 액세스하십시오.
- PlatoAiStream. Web3 데이터 인텔리전스. 지식 증폭. 여기에서 액세스하십시오.
- 출처: https://go.theregister.com/feed/www.theregister.com/2023/06/07/us_zuckerberg_llama/
