CCC 在今年的 AAAS 年會上支持了三場科學會議。本週，我們將總結本屆會議的亮點，“科學中的生成人工智慧：前景與陷阱.” 該小組由 馬修·特克博士，芝加哥豐田技術研究所所長），特色 麗貝卡·威利特博士，芝加哥大學統計學和電腦科學教授， 馬庫斯·布勒博士，麻省理工學院工程學教授， 鄧肯‧沃森-帕里斯博士，斯克里普斯海洋學研究所和加州大學聖地牙哥分校 Halıcıoğlu 資料科學研究所的助理教授。在第四部分中，我們總結了小組的問答部分。 

小組成員發言後進行了問答環節，馬修·特克博士開始了討論。 「這個小組的標題是『承諾和陷阱』。我們已經討論了許多承諾，但還沒有解決許多陷阱。您對生成式人工智慧的未來有何擔憂？”

“這些模型的可靠性和可信度是一個大問題”，Rebecca Wilett 博士開始說道。 「這些模型可以預測看似合理的事情，但缺少關鍵、顯著的元素；作為一個人，我能意識到那裡缺少了什麼嗎？”

Markus Buehler 博士補充說，模型的實際預測可能需要一秒鐘，但驗證的實驗過程可能需要數月、一年甚至更長。那麼在沒有驗證結果的情況下，我們該如何進行臨時操作呢？ “我們還需要教育下一代生成式人工智慧開發人員，以便他們設計出值得信賴和可驗證的模型，並且我們可以在構建這些模型時使用基於物理的見解。”

Duncan Watson-Parris 博士在前面的兩點基礎上說道：「因為這些模型旨在產生合理的結果，所以我們不能僅僅查看結果來驗證其準確性。生成人工智慧研究人員需要深入了解這些模型的工作原理才能驗證其結果，這就是為什麼正確教育下一代如此重要。”

觀眾：「在材料科學中，我們知道某些材料研究的前進方向，但對於其他材料，例如室溫超導體，我們不知道如何前進。您認為研究這些未知材料的前進道路會是什麼樣子？從監管的角度來看，應該如何進行此類研究？”

「嗯，我不是超導研究方面的專家，」Buehler 博士說，「所以我不會直接談論這一點，但我可以概括地談論我們如何在材料科學領域取得進展，特別是在我的蛋白質領域和生物材料的開發。我們進步的方式是有能力挑戰極限。我們進行新的實驗並測試古怪的想法和理論，看看哪些有效以及為什麼有效。至於我們應該如何進行這項研究，我們需要更多具有集體存取權限的開源模型。我鼓勵政治人物不要過度監管這些技術，以便研究人員和公眾能夠使用這些類型的模型。我認為阻止人們使用這些模型不是一個好主意，特別是當我們可以眾包想法和發展並引入來自人類活動不同領域的知識時。例如，當印刷機被發明時，當局試圖限制這項技術的可用性，因此很少有書籍可以一起閱讀，但這項努力卻慘遭失敗。保護公眾的最佳方法是促進對這些模型的獲取，以便我們能夠廣泛地開發、探索和評估它們，以實現社會的最大利益。”

觀眾：「現今大多數生成式人工智慧模型都是迴歸模型，專注於模擬或模仿不同的場景。然而，科學發現是由我們夢想的假設和預測所推動的。那麼我們如何創建旨在構思新預測的模型，而不是主要用於實驗的當前模型？”

Buehler 博士首先回應：「你是對的，大多數傳統的機器學習模型通常都是基於迴歸的，但我們今天討論的模型的工作方式有所不同。當您將具有多種功能的多代理系統組合在一起時，它們實際上開始探索新的場景，並開始根據所執行的實驗進行推理和預測。他們變得更加人性化。作為研究人員，你不會運行一個實驗然後就完成了——你會運行一個實驗，然後開始查看數據並驗證它，並根據這些數據做出新的預測，將各個點連接起來並通過以下方式進行推論做出假設並想像新場景將如何展開。您將進行實驗，收集新數據，發展理論，並可能提出一個關於特定感興趣問題的綜合框架。然後，你會針對同事的批評來捍衛你的想法，並可能在使用新資訊時修改你的假設。這就是新的多智能體對抗系統的工作原理，但它們當然補充了人類技能，具有更強的推理大量資訊和知識表示的能力。這些模型已經可以產生新的假設，這些假設遠遠超出了已經研究的範圍，從而促進了發現和創新的科學過程。”

「我會補充這一點，」威利特博士插話道，「完成發現和符號回歸領域是另一個更有針對性的假設生成領域。這個領域有很多正在進行的工作。”

觀眾：“我們如何增加對這些類型模型的訪問並克服障礙，例如大多數模型是為英語使用者創建的？”

麗貝卡·威利特博士回答說：「很多人都可以使用這些模型，但設計和培訓它們需要花費數百萬美元。如果只有一小部分組織能夠建立這些模型，那麼只有極少數人在科學界做出決策並確定優先事項。這些組織和個人的首要任務往往是利潤驅動。也就是說，我認為情況正在開始改變。像美國國家科學基金會這樣的組織正在努力建立一個可供更廣泛的科學界訪問的基礎設施。這項工作類似於超級電腦的早期開發。在早期，研究人員必須提交冗長的提案才能使用超級電腦。我認為我們將在人工智慧和生成人工智慧領域看到類似的新興範例。”

「我同意，」沃森-帕里斯博士說。 “從監管方面來說，我認為我們不應該監管基礎研究，也許是應用領域，但不應該監管研究本身。”

非常感謝您的閱讀，請繼續關注我們在 AAAS 2024 上的其他兩個小組的回顧。

• SEO 支持的內容和 PR 分發。 今天得到放大。
• PlatoData.Network 垂直生成人工智能。 賦予自己力量。 訪問這裡。
• 柏拉圖愛流。 Web3 智能。 知識放大。 訪問這裡。
• 柏拉圖ESG。 碳， 清潔科技, 能源， 環境， 太陽能， 廢物管理。 訪問這裡。
• 柏拉圖健康。 生物技術和臨床試驗情報。 訪問這裡。
• 資源： https://feeds.feedblitz.com/~/874103807/0/cccblog~CCC-AAAS-Generative-AI-in-Science-Promises-and-Pitfalls-Recap-%e2%80%93-Part-Four/