CCC는 올해 AAAS 연례 회의에서 세 가지 과학 세션을 지원했으며, 직접 참석하지 못한 경우 각 세션을 요약해 드리겠습니다. 오늘은 세션 Q&A 부분의 하이라이트를 요약해보겠습니다.대규모 언어 모델: 도움이 되는 조수, 로맨틱 파트너 또는 사기꾼?” 이 패널은 마리아 지니 박사, CCC 위원회 회원이자 미네소타 대학의 컴퓨터 과학 및 공학 교수가 특집으로 출연했습니다. 에세 카마르 박사, Microsoft Research의 AI Frontiers 전무이사, 할 도메 3세 박사, 메릴랜드 대학교 컴퓨터 과학 교수, 조나단 메이 박사, 서던 캘리포니아 대학 정보 과학 연구소의 컴퓨터 과학 교수.

아래는 Q&A 부분에 대한 흥미로운 요약입니다. "대규모 언어 모델: 도움이 되는 조수, 로맨틱 파트너 또는 사기꾼?"패널. AI도 사랑할 수 있나요? 이 모델은 아이들에게 어떤 영향을 미칠 수 있나요? 미국의 AI 역량은 어떻게 쌓이는가? 아래에서 알아보세요:

Q: 다국어 및 다문화 상황에서 AI 언어 모델을 배포할 때 어떤 관행을 취해야 합니까?

메이 박사: 기술을 개발하고 벽을 낮추는 과정에서 사람들이 원하는 일을 더 쉽게 할 수 있어야 합니다. 나뿐만 아니라 모두가 하고 싶어하는 일. AI에게 감사합니다. 나에게 집중할 수 있어서 좋았지만 일반적으로 나머지 세계에도 주의를 기울여야 합니다.

질문: 이러한 일반적인 문제 중 일부는 이러한 문제가 제기된 것이 이번이 처음이 아닙니다. 커뮤니티가 스스로 이러한 문제를 해결하지는 않을 것 같습니다. 여러분 모두 이러한 대화를 행동으로 옮기는 방법에 대한 아이디어가 있는지 궁금합니다.

Kamar 박사: 다양한 당사자들이 맡을 수 있는 역할이 있습니다. 평가는 다양한 문화와 인구를 대표하는 데 매우 중요합니다. 데이터 세트의 세계 표현에 다양성이 없으면 결과 시스템도 대표성이 없습니다. 평가 모범 사례, 규정 및 규정 준수 조치를 마련하려면 많은 작업이 필요합니다. 백악관은 약속을 했고, AI 권리 장전에 대한 청사진이 시작되었습니다. 업계 전반에 걸쳐 프로세스가 구현되었으며 많은 훌륭한 인재들이 함께 협력하고 있습니다(완벽하지는 않지만 업계 전반에 걸쳐 일반화할 수 있는 가능성이 있습니다). 현재 표준으로 시작하여 수렴에 도달하기 위한 회의가 진행되고 있습니다. 아마도 향후 규제에 있을 것입니다. 평가, 안전성 분석 등은 어떻게 수행하나요? 이러한 대화 중 어느 것도 회의실에 있어야 할 다양성을 갖고 있지 않습니다. 결정이 내려질 때 회의실에 누가 있어야 하는지 생각해 보세요.

Daumé 박사: 사람들이 규제에 관해 이야기할 때, 특히 AI 분야에서는 모두 징벌적 규제에 대해 생각하는 것 같습니다. 그러나 이는 규제를 장려할 수도 있습니다. 자금 정책 입안자와 NSF는 국가와 세계로서 우리를 돕는 도구 개발을 촉진할 수 있습니다.

Q: 미국의 AI 자금 조달은 세계 다른 지역에 비해 훨씬 뒤쳐져 있습니다. NSF의 신규 투자액은 20천만 달러로 업계 투자에 비하면 아주 미미한 금액입니다. 연방 정부는 수년간의 연구 보고서를 발표했으며 결론은 미국이 나서야 한다는 것입니다. 나는 Ece의 위상 변화 비유를 좋아합니다. 숫자에 따른 열역학적 한계가 커지고 있습니다. 우리는 개방형 AI를 원하는데, 누가 비용을 지불할까요? 돈이 충분하지 않습니다. 당신의 제안은 무엇입니까? 오픈 AI? 하지만 우리는 오픈 액세스 출판조차 하지 않습니다. 대통령에게 법안을 마련하지 말 것을 권고하시겠습니까?

메이 박사: 제 생각엔 돈이 있는 것 같아요. 누군가가 나에게 당신이 정부를 설득하여 입자를 회전시키도록 가까스로 성공했지만 그 입자를 우리에게 돌리지는 못했다는 것을 관찰했습니다.

Kamar 박사: 이러한 모델을 구축하는 기업이 이러한 결과를 얻는 이유는 리소스의 중앙 집중화를 통해서입니다. 규모를 통해 얻는 것이 많습니다. 다양한 모델을 보유하는 대신 리소스를 공유할 수 있도록 학계에 대한 투자를 중앙 집중화하는 방법에 대해 생각해 봐야 합니다. 우리는 이것이 단지 규모에 관한 것이 아니라는 것을 알고 있습니다. 지금 당장 해야 할 일은 아니지만 현재 아키텍처는 좋지 않습니다. 좋은 AI 능력을 갖는다는 것은 단지 더 많은 돈과 더 많은 권력에 관한 것이어서는 안 됩니다.

Q: 답변의 과잉 표현 편향. 그것이 어디서 오는지 우리는 알고 있나요? 저는 수학을 좋아하는데 반올림 오류가 결합되어 편견이 추가되는 것이라고 생각합니다. 동일 표현이라면 동일한 표현을 출력할 것이라고 생각합니다. 아니면 여전히 존재할까요?

메이 박사: 스파이킹 기능에는 많은 것이 달려있습니다. 소프트 최대값은 훈련의 중요한 부분입니다. 하이스트는 1위가 되고 싶어한다. 완벽한 언어 출력이 있는 것은 아니지만 약간의 편견을 갖고 싶습니다.' 우리는 사람들에 대한 피해를 최소화하기를 원하지만 이를 인식하지 못하는 경우가 많습니다. 이해하지 못한 배포는 문제입니다. 

Daumé 박사: 이러한 모델의 과제 중 하나는 더 이상 좁은 AI 모델이 없다는 것입니다. 무엇이든 할 수 있다고 해서 모든 것을 테스트하기는 어렵다.

Q: AI가 도구 또는 대체물이라고 말씀하셨는데, 어떤 방향으로 진행될 것으로 보시나요?

Daumé 박사: 교체 비용이 더 많이 듭니다.

Q: 제목에 로맨틱 AI가 언급됐는데요. 나는 그것에 대해 더 알고 싶습니다.

메이 박사: 모델이 로맨틱한 대체자가 될 만큼 충분한 의도는 없지만 존재하지 않는 경우에도 패턴을 인식하는 데는 인간만큼 뛰어납니다.

카마르 박사: 지금은 AI를 있는 그대로 생각하지 말라고 조언합니다. 미래를 예측해 보십시오. 몇 년 안에 이러한 시스템이 귀하에게 맞춤화될 것이라고 상상해 보십시오. 그 시스템과 어떤 관계를 맺게 될까요?

메이 박사: 하지만 그게 당신을 사랑할까요?

카마르 박사: 그것은 당신을 사랑한다고 말할 것입니다.

메이 박사: 하지만 그것으로 충분합니까?

Q: AI 분야에 종사하지 않는 분들에게 조언을 듣고 싶습니다. 이러한 도구를 어떻게 사용할 수 있나요? 우리는 무엇을 알아야 합니까?

Daumé 박사: 메릴랜드 대학에서는 이런 대화를 많이 하고 있습니다. 5년 후에는 저널리즘이 달라질 것이며, 다른 분야도 달라질 것이라고 말하는 것은 쉽습니다. 5년 뒤에는 교수의 역할이 달라질 것이라고 말하기는 불편하지만 그럴 것이다. 제안서와 논문에 다양한 LLM 플러그인을 사용하는 동료가 있습니다. 그것은 이미 일어나고 있습니다. 정기적으로 시험 문제를 도구로 작성하는데, 정확성을 확인해야 합니다. 시험 문제를 쓰는 것은 나에게 기쁨을 주지 못하기 때문에 AI가 내 일을 대신할 수 있습니다. 고등교육에서는 이에 대해 더 많이 생각해야 합니다. 우리의 직업을 어떻게 변화시키고 있나요? 대학에서는 많은 논의가 진행되고 있지만 리소스를 모으는 데는 많은 시간이 소요되지 않습니다.

Q: 미래에 군사적 응용을 고려할 때 AI가 평가받는 것이 얼마나 환영받는 일인가요? 이 세션에서는 군사적 응용에 대한 언급이 없습니다. 제가 사람들을 절반만 정확하게 읽었다면 그 주제에 대한 의견 차이가 있다는 것을 압니다.

메이 박사: 군대는 광범위하고 제가 하는 일 중 많은 부분이 국방부의 후원을 받습니다. 구체적으로 대답하기는 어렵습니다. 일반적으로 국방부(그들을 대변하지는 않음)는 미국의 안전과 보안을 최우선으로 생각하는 것으로 보이며 계속해서 그렇게 하고 LLM과 AI를 활용하여 미국이 안전하도록 도울 것입니다.

Kamar 박사: 이중 용도에 대해서도 이야기해야 합니다. 생물학이나 사이버 보안 분야에서 진행되는 군사 작업을 수행하는 경우 보안 시스템과 신약을 원하기 때문에 현재 보유하고 있는 매우 유망한 도구를 사용하여 사용할 수 있습니다. 그러나 모든 좋은 사용에는 나쁜 사용이 있을 것입니다. AI가 사용되기를 원하지 않는 사용 사례는 무엇입니까? 오픈 소스 애플리케이션에서 사람들은 이러한 모델을 복제할 수 있습니다. 이러한 경우에 사람들이 해를 끼치는 것을 어떻게 방지할 수 있습니까?

Q: 언어 모델과 상호 작용할 때 성인은 그것이 살아 있거나 자각하지 않는다는 것을 이해하지만 몇 세대 이후에는 어떻습니까? 사교 활동을 기억한 이후부터 그런 일을 겪은 아이들이 있나요? 그들은 완전히 AI인 가정교사나 교사가 있습니다. 시스템에는 강사가 내장되어 있습니다. 그들은 명령을 통해 유대감을 형성하고 좋은 관계가 있다고 생각한 다음 프로그램이 삭제될 수 있습니다. 비인간 존재와의 사회적 정서적 유대감에 대한 아동 심리학은 무엇입니까?

Kamar 박사: 우리는 연구, 학제간 연구가 필요하며, 빠른 속도로 필요합니다. 5년 안에 우리는 이러한 답을 얻을 수도 있지만, 그 시간에는 AI가 내 10살 아이의 삶의 큰 부분이 될 수도 있습니다. 귀하의 질문은 매우 중요합니다. 무고한 시스템에도 백도어가 있을 수 있다는 연구 결과가 있습니다. 오늘날 보안 전문가와 아동 발달 전문가가 이러한 대화를 나누도록 해야 합니다.

Daumé 박사: Barbie의 감시를 기억하는 사람이 있는지 모르겠습니다. 여기에는 큰 개인 정보 보호 문제가 있습니다. 더욱 흥미로운 사회문제입니다. 반응은 지나치게 긍정적으로 조정되었습니다. 아이들은 Sally가 나와 놀지 않아서 화가 났다고 말하며 사회적으로 적절한 제안을 하지 않습니다. 저는 매우 긍정적인 에이전트에 대해 걱정합니다. 왜냐하면 긍정성이 항상 정답은 아니기 때문입니다.

읽어 주셔서 감사합니다. AAAS 2024의 세 번째이자 마지막 패널 요약을 계속 지켜봐 주시기 바랍니다.

• SEO 기반 콘텐츠 및 PR 배포. 오늘 증폭하십시오.
• PlatoData.Network 수직 생성 Ai. 자신에게 권한을 부여하십시오. 여기에서 액세스하십시오.
• PlatoAiStream. 웹3 인텔리전스. 지식 증폭. 여기에서 액세스하십시오.
• 플라톤ESG. 탄소, 클린테크, 에너지, 환경, 태양광, 폐기물 관리. 여기에서 액세스하십시오.
• PlatoHealth. 생명 공학 및 임상 시험 인텔리전스. 여기에서 액세스하십시오.
• 출처: https://feeds.feedblitz.com/~/874544948/0/cccblog~CCC-AAAS-Large-Language-Models-Helpful-Assistants-Romantic-Partners-or-Con-Artists-Part-Two/