O CCC apoiou três sessões científicas na Conferência Anual da AAAS deste ano e, caso você não tenha podido comparecer pessoalmente, estaremos recapitulando cada sessão. Hoje, resumiremos os destaques da parte de perguntas e respostas da sessão, “Grandes modelos de linguagem: assistentes prestativos, parceiros românticos ou vigaristas?” Este painel, moderado por Dra.Maria Gini, membro do Conselho do CCC e professor de Ciência da Computação e Engenharia da Universidade de Minnesota, apresentou Dr., Diretor Geral de AI Frontiers da Microsoft Research, Dr. Hal Daumé III, professor de Ciência da Computação na Universidade de Maryland, e Dr., professor de Ciência da Computação no Instituto de Ciências da Informação da Universidade do Sul da Califórnia.

Abaixo está o resumo fascinante da parte de perguntas e respostas do "Grandes modelos de linguagem: assistentes prestativos, parceiros românticos ou vigaristas?"painel. A IA é capaz de amar? Que tipos de impactos esses modelos podem ter nas crianças? Como se comparam as capacidades de IA dos Estados Unidos? Descubra abaixo:

P: Ao implementar modelos de linguagem de IA em contextos multilíngues e multiculturais, que práticas devemos fazer?

Dr. May: Ao desenvolver tecnologia e derrubar muros, deveria ser mais fácil para as pessoas fazerem o que querem. O que todos querem fazer, e não apenas eu. Obrigado AI, é ótimo focar em mim, mas devemos prestar atenção ao resto do mundo em geral.

P: Algumas destas questões gerais – esta não é a primeira vez que são levantadas. Parece que a comunidade não chegará a isso sozinha. Gostaria de saber se todos vocês têm ideias sobre como transformar essas conversas em ação.

Dr. Kamar: Existem papéis para muitas partes diferentes desempenharem. A avaliação é muito importante na representação de diferentes culturas e populações. Quando os conjuntos de dados não apresentam diversidade na representação mundial, os sistemas resultantes não são representativos. Muito trabalho precisa ser feito na formação de melhores práticas de avaliação, regulamentos e medidas de conformidade. A Casa Branca assumiu compromissos e o Plano para uma Declaração de Direitos da IA ​​está a começar. Houve processos implementados em toda a indústria, com muitas grandes mentes trabalhando juntas (não é perfeito, mas generalizando em toda a indústria há potencial). Há reuniões acontecendo para chegar à convergência sobre os padrões que estão começando atualmente; possivelmente em regulamentação futura. Como fazemos avaliações, análises de segurança, etc.? Nenhuma dessas conversas tem a diversidade que precisa estar na sala. Pense em quem precisa estar presente quando as decisões estão sendo tomadas.

Dr. Daumé: Acho que quando as pessoas falam sobre regulamentação, especialmente em IA, todos pensam em regulamentações punitivas. Mas isto também pode incentivar a regulamentação. O financiamento dos decisores políticos e da NSF poderia promover o desenvolvimento de ferramentas que nos ajudem como nação e como mundo.

P: O financiamento para IA está muito atrasado nos EUA em comparação com outros lugares do mundo. O novo investimento da NSF é de 20 milhões de dólares, o que é uma ninharia em comparação com os investimentos da indústria. O governo federal tem divulgado relatórios de estudos há anos, e a conclusão é que os EUA têm de avançar. Adoro a analogia da mudança de fase de Ece. O limite termodinâmico com números está crescendo. Queremos IA aberta, quem vai pagar por isso? Não há dinheiro suficiente. Quais são suas sugestões? IA aberta? Mas nem sequer temos publicação em acesso aberto. Você recomendaria ao presidente que não houvesse legislação?

Dr. May: Acho que há dinheiro; alguém me observou que você conseguiu convencer o governo a girar as partículas, mas não conseguiu desviá-las para nós.

Dr. Kamar: A razão pela qual as empresas que estão construindo esses modelos estão obtendo esses resultados é através da centralização de recursos. Você obtém muito em escala. Deveríamos pensar em como centralizamos os investimentos na academia para obtermos um recurso compartilhado em vez de ter muitos modelos diferentes. Estamos vendo que não se trata apenas de escala. Não é algo que tenhamos que fazer agora, mas a arquitetura atual não é ótima. Ter boas capacidades de IA não deve significar apenas mais dinheiro e mais poder.

P: Viés de super-representação nas respostas. Sabemos de onde vem? Eu sou um cara de matemática e penso que é uma combinação de erros de arredondamento que está adicionando preconceito? Se fosse representação igual, imagino que geraria representação igual ou ainda estaria lá?

Dr. May: Muito se resume às funções de aumento. O máximo suave é uma parte importante do treinamento. O mais alto quer ser o número 1. Não é como se existisse uma linguagem perfeita, mas queremos ter algum preconceito”. Queremos apenas minimizar os danos às pessoas e muitas vezes não reconhecemos isso. A implantação sem compreensão é um problema. 

Dr. Daumé: Um dos desafios desses modelos é que não existem mais modelos restritos de IA. Dizem que podem fazer qualquer coisa, por isso é difícil testar tudo.

P: Você mencionou que a IA é uma ferramenta ou um substituto. Como você vê isso?

Dr. Daumé: Há mais dinheiro sendo investido em substituição.

P: O título mencionava IA romântica. Eu quero saber mais sobre isso.

Dr. May: Não há intenção suficiente nos modelos para que sejam substitutos românticos viáveis, mas eles são tão bons quanto os humanos no reconhecimento de padrões, mesmo quando eles não existem.

Dr. Kamar: Aconselho você a não pensar na IA como ela é agora. Tente projetar o futuro – imagine que em alguns anos esses sistemas serão personalizados para você. Qual é a relação que você terá com esse sistema?

Dr. May: Mas isso vai te amar?

Dr. Kamar: Ele lhe dirá que o ama.

Dr. May: Mas isso é suficiente?

P: Quero ouvir conselhos para pessoas que não estão na área de IA. Como podemos nos envolver com essas ferramentas? O que devemos saber?

Dr. Daumé: Na Universidade de Maryland, temos muitas essas conversas. É fácil para mim dizer que o jornalismo será diferente daqui a 5 anos, e outras áreas também. É incômodo dizer que o papel do professor será diferente daqui a 5 anos, mas será. Tenho colegas que usam diferentes plug-ins LLM para propostas e artigos; isso já está acontecendo. Regularmente tenho questões de exames escritas por ferramentas, mas preciso verificar a precisão. Escrever perguntas para exames não me traz alegria, então a IA pode tirar isso do meu prato. No ensino superior, temos que pensar mais nisso. Como isso está transformando nossos empregos? Há muitas discussões acontecendo nas universidades, mas não há muitos recursos reunidos.

P: Quão bem-vinda será a IA ser julgada no futuro ao considerar aplicações militares? Não houve menção a aplicações militares nesta sessão – eu sei que se eu ler as pessoas até certo ponto corretamente, há uma divergência de opinião sobre esse assunto.

Dr. May: O setor militar é amplo, muito do meu trabalho é patrocinado pelo departamento de defesa. Difícil de responder especificamente, em geral o departamento de defesa (sem falar por eles) parece estar a dar prioridade à segurança e protecção dos EUA, e continuará a fazer isso e a aproveitar os LLMs e a IA para ajudar os EUA a estarem seguros.

Dr. Kamar: Também precisamos falar sobre dupla utilização. Se considerarmos o trabalho militar em curso em biologia ou segurança cibernética, podemos pegar nas ferramentas muito promissoras que temos neste momento e utilizá-las porque queremos sistemas seguros e novos medicamentos. Mas com todo bom uso você terá um mau uso. Quais são os casos de uso em que não queremos que a IA seja usada? Em aplicativos de código aberto, as pessoas podem replicar esses modelos. Como evitamos que as pessoas causem danos nesses casos?

P: Ao interagir com modelos de linguagem, os adultos entendem que não estão vivos/autoconscientes, mas sim várias gerações depois; crianças que têm isso desde que se lembram de socializar? Eles têm um tutor ou professor totalmente IA; o sistema é integrado a um instrutor. Eles poderiam criar um vínculo com a instrução, achar que têm um ótimo relacionamento e aí o programa seria deletado. Qual é a psicologia infantil dos laços socioemocionais com entidades não pessoais?

Dr. Kamar: Precisamos de pesquisa, pesquisa interdisciplinar, e precisamos dela rapidamente. Em 5 anos, poderemos obter essas respostas, mas nesse período a IA poderá se tornar uma grande parte da vida do meu filho de 10 anos. Sua pergunta é extremamente importante. Há pesquisas que mostram que mesmo sistemas inocentes podem ter backdoors. Precisamos ter especialistas em segurança e especialistas em desenvolvimento infantil tendo essas conversas hoje.

Dr. Daumé: Não sei se alguém se lembra da Barbie de vigilância – há um grande problema de privacidade aqui. É uma questão social mais interessante. As respostas foram ajustadas para serem excessivamente positivas. As crianças diriam coisas como estou bravo porque Sally não brincou comigo e isso não dá sugestões socialmente apropriadas. Estou preocupado com agentes muito positivos, porque a positividade nem sempre é a resposta certa.

Muito obrigado pela leitura e fique ligado na recapitulação do nosso terceiro e último painel na AAAS 2024.

• Conteúdo com tecnologia de SEO e distribuição de relações públicas. Seja amplificado hoje.
• PlatoData.Network Gerativa Vertical Ai. Capacite-se. Acesse aqui.
• PlatoAiStream. Inteligência Web3. Conhecimento Amplificado. Acesse aqui.
• PlatãoESG. Carbono Tecnologia Limpa, Energia, Ambiente, Solar, Gestão de resíduos. Acesse aqui.
• PlatoHealth. Inteligência em Biotecnologia e Ensaios Clínicos. Acesse aqui.
• Fonte: https://feeds.feedblitz.com/~/874544948/0/cccblog~CCC-AAAS-Large-Language-Models-Helpful-Assistants-Romantic-Partners-or-Con-Artists-Part-Two/