親子觀星會

《星艦迷航記》竟然能啟發 AI 解決不可能的問題  https://technews.tw/2024/04/03/star-trek-ai/


研究人員也將科幻小說、政治博弈等元素輸入到訓練場景。例如，讓AI模擬《星艦迷航記》中曲折離奇的星際航行，需要基於有限線索推理外星文明的動機、解決飛船故障等問題。又或者，構建一個充滿權謀算計的政治博弈場景，要求AI分析各方勢力的利益訴求，預測接下來的政治走向。

乍看之下，這些「奇幻提示」與數學問題似乎毫無關聯，甚至有些許「胡鬧」的意味。然而，其背後卻隱藏著深刻的科學原理。首先，此類場景往往需要綜合運用邏輯推理、敘事理解和創意思考等多種認知能力。在模擬過程中，AI需要跳出既有思維定勢，分析海量資訊，建立看似毫無關聯資訊之間的聯繫。這種「多面向跨領域」的訓練過程，有助於AI構建更為靈活、可拓展的思維模型，使其不僅局限於既定的數學公式，還能從不同角度切入問題，探索創新的解題思路。

究人員在針對名為Llama2-70B的LLM進行研究時，也得出了一個令人驚訝的發現。在某些情況下，移除「正向思考」式的提示，反而能帶來更好的效果。

研究聚焦於一種稱為「關聯思考」（Chain of Thought, CoT）的提示策略。例如，在要求LLM撰寫一篇關於太空旅行的報告時，提示可能從「描述地球是什麼樣子」開始，逐漸深入到「火箭如何升空」以及「太空人在太空會遇到什麼」等方面。

然而，研究人員意外發現，當去除提示中諸如「請構思一個激動人心的太空冒險故事」之類的「正向」引導時，Llama2-70B的整體表現有時反而有所提升，尤其是在一些需要事實準確性和邏輯嚴謹性的任務上。

這一發現似乎挑戰了我們以往的直覺。過度的「正向」引導也可能帶來負面影響。例如，系統可能會將注意力過多地集中在迎合提示的「正面」結果上，反而忽略了其他可能的中立或負面的潛在資訊。那麼LLM在沒有「正向」提示的情況下，反而能夠更加客觀地審視問題，並給出更加全面的分析。

研究結果看似「天馬行空」，卻蘊含著深厚的科學原理。AI能夠構建更為靈活、可拓展的思維模型，提升其應變能力、自主學習能力和資訊整合能力。這也進一步啟示我們，在AI的發展道路上，打破常規、勇於探索，要更加注重多元化和平衡的提示設計，並持續探索能夠引導LLM進行更加客觀、嚴謹推理的有效策略。