CCC 在今年的 AAAS 年会上支持了三场科学会议。本周，我们将总结本届会议的亮点，“科学中的生成人工智能：前景与陷阱.” 该小组由 马修·特克博士，芝加哥丰田技术研究所所长），特色 丽贝卡·威利特博士，芝加哥大学统计学和计算机科学教授， 马库斯·布勒博士，麻省理工学院工程学教授， 邓肯·沃森-帕里斯博士，斯克里普斯海洋学研究所和加州大学圣地亚哥分校 Halıcıoğlu 数据科学研究所的助理教授。在第四部分中，我们总结了小组的问答部分。 

小组成员发言后进行了问答环节，马修·特克博士开始了讨论。 “这个小组的标题是‘承诺和陷阱’。我们已经讨论了许多承诺，但还没有解决许多陷阱。您对生成式人工智能的未来有何担忧？”

“这些模型的可靠性和可信度是一个大问题”，Rebecca Wilett 博士开始说道。 “这些模型可以预测看似合理的事情，但缺少关键、显着的元素；作为一个人，我能意识到那里缺少了一些东西吗？”

Markus Buehler 博士补充说，模型的实际预测可能需要一秒钟，但验证的实验过程可能需要数月、一年甚至更长时间。那么在没有验证结果的情况下，我们应该如何进行临时操作呢？ “我们还需要教育下一代生成式人工智能开发人员，以便他们设计出值得信赖和可验证的模型，并且我们可以在构建这些模型时使用基于物理的见解。”

Duncan Watson-Parris 博士在前面的两点基础上说道：“因为这些模型旨在生成合理的结果，所以我们不能仅仅查看结果来验证其准确性。生成人工智能研究人员需要深入了解这些模型的工作原理才能验证其结果，这就是为什么正确教育下一代如此重要。”

观众：“在材料科学中，我们知道某些材料研究的前进方向，但对于其他材料，例如室温超导体，我们不知道如何前进。您认为研究这些未知材料的前进道路会是什么样子？从监管的角度来看，应该如何开展此类研究？”

“嗯，我不是超导研究方面的专家，”Buehler 博士说，“所以我不会直接谈论这一点，但我可以概括地谈论我们如何在材料科学领域取得进展，特别是在我的蛋白质领域和生物材料的开发。我们取得进步的方式是有能力挑战极限。我们进行新的实验并测试古怪的想法和理论，看看哪些有效以及为什么有效。至于我们应该如何开展这项研究，我们需要更多具有集体访问权限的开源模型。我鼓励政治家不要过度监管这些技术，以便研究人员和公众能够使用这些类型的模型。我认为阻止人们使用这些模型不是一个好主意，特别是当我们可以众包想法和发展并引入来自人类活动不同领域的知识时。例如，当印刷机被发明时，当局试图限制这项技术的可用性，因此很少有书籍可以一起阅读，但这一努力惨遭失败。保护公众的最佳方法是促进对这些模型的获取，以便我们能够广泛地开发、探索和评估它们，以实现社会的最大利益。”

观众：“当今大多数生成式人工智能模型都是回归模型，专注于模拟或模仿不同的场景。然而，科学发现是由我们梦想的假设和预测推动的。那么我们如何创建旨在构思新预测的模型，而不是主要用于实验的当前模型呢？”

Buehler 博士首先回应道：“你是对的，大多数传统的机器学习模型通常都是基于回归的，但我们今天讨论的模型的工作方式有所不同。当您将具有多种功能的多代理系统组合在一起时，它们实际上开始探索新的场景，并开始根据所运行的实验进行推理和预测。他们变得更加人性化。作为一名研究人员，你不会运行一个实验然后就完成了——你会运行一个实验，然后开始查看数据并验证它，并根据这些数据做出新的预测，将各个点连接起来并通过以下方式进行推断做出假设并想象新场景将如何展开。您将进行实验，收集新数据，发展理论，并可能提出一个关于特定感兴趣问题的综合框架。然后，你会针对同事的批评来捍卫你的想法，并可能在使用新信息时修改你的假设。这就是新的多智能体对抗系统的工作原理，但它们当然补充了人类技能，具有更强的推理大量数​​据和知识表示的能力。这些模型已经可以产生新的假设，这些假设远远超出了已经研究的范围，从而促进了发现和创新的科学过程。”

“我会补充这一点，”威利特博士插话道，“完成发现和符号回归领域是另一个更有针对性的假设生成领域。这个领域有很多正在进行的工作。”

观众：“我们如何增加对这些类型模型的访问并克服障碍，例如大多数模型是为英语使用者创建的？”

丽贝卡·威利特博士回答说：“很多人都可以使用这些模型，但设计和培训它们需要花费数百万美元。如果只有一小部分组织能够建立这些模型，那么只有极少数人在科学界做出决策并确定优先事项。这些组织和个人的首要任务往往是利润驱动。也就是说，我认为情况正在开始发生变化。像美国国家科学基金会这样的组织正在努力建立可供更广泛的科学界访问的基础设施。这项工作类似于超级计算机的早期开发。早期，研究人员必须提交冗长的提案才能使用超级计算机。我认为我们将在人工智能和生成人工智能领域看到类似的新兴范例。”

“我同意，”沃森-帕里斯博士说。 “从监管方面来说，我认为我们不应该监管基础研究，也许是应用领域，但不应该监管研究本身。”

非常感谢您的阅读，请继续关注我们在 AAAS 2024 上的其他两个小组的回顾。

• SEO 支持的内容和 PR 分发。 今天得到放大。
• PlatoData.Network 垂直生成人工智能。 赋予自己力量。 访问这里。
• 柏拉图爱流。 Web3 智能。 知识放大。 访问这里。
• 柏拉图ESG。 碳， 清洁科技, 能源， 环境， 太阳能， 废物管理。 访问这里。
• 柏拉图健康。 生物技术和临床试验情报。 访问这里。
• Sumber: https://feeds.feedblitz.com/~/874103807/0/cccblog~CCC-AAAS-Generative-AI-in-Science-Promises-and-Pitfalls-Recap-%e2%80%93-Part-Four/