☆°．﹒☆°．﹒ ☆°．﹒ ☆°．﹒ ☆°．﹒ ☆°．﹒☆°．﹒ ☆°．
What ChatGPT and generative AI mean for science
Journal ∥ Chris Stokel-Walker
& Richard Van Noorden
Nature, News feature；Volume
614, February 2023, Pages 214-216
2022年底，兩位計算生物學家使用GPT-3
的人工智慧 (AI) 演算法作為助手，協助他們在幾分鐘的時間內完成了三篇研究論文的審閱與修改。ChatGPT是 GPT-3 的一個版本，它的出現讓科學界與社會大眾感到既興奮又擔心；2023年初，ChatGPT的代替寫作風暴愈捲愈大，AI是否會取代人類的論戰又再次地被掀起。
部分學者認為，像ChatGPT這一類型的生成式AI有助於提高研究人員的效率，例如：草稿編寫、創意發想、程式碼的撰寫與檢查、成果簡報的呈現，甚至有教師認為在備課及出考題等方面很有幫助。但是這種以大型語言模型(Large Language Model；LLM)為基礎所開發的聊天機器人，確實存在著智慧財產權與產出內容正確性等問題；為此，當 Nature 向研究人員詢問LLM的可能發展走向時，多數人傳達出緊張的情緒，並且表示「未來在法規與政策上的限制，是人工智慧能否廣泛應用的主要因素」。
智慧財產權問題：無法確認透過LLM完成的文章是否侵犯到任何人的智財權，也無法顯示資料來源。
內容正確性問題：LLM經常提供錯誤的回答，有時候甚至會有杜撰的行為，所以常造成所顯示的內容可靠性不高。
上述這2個問題在學術研究與其他需要專業知識的領域最為嚴重！
ChatGPT 這一類的生成式AI是透過巨量的線上資料庫來進行語言統計與學習，所以這當中必然包含了許多偏見、過時或不真實的資訊；簡單來說，就是以"看似合理"的方式將文字逐個推砌出來與人對話，並且，這當中常常包含了垃圾訊息與社會歧視。
期刊雜誌「Nature
Machine Intelligence」在今年1月時表示：不該相信ChatGPT能正確地處理事情，既然它所參考的資料都不具可靠性，那怎麼能相信它生成的資訊！同樣的狀況也發生在「Stack Overflow」，2022年12月，因為收到大量看似具說服力但卻不正確的技術建議，讓這一個程式設計論壇公告禁止使用ChatGPT。
有一些AI領域的企業特別雇用人力來優化機器人的訓練，但因為這些勞動者通常被當成低階工人來對待，所以大都是在不平等的待遇與條件下來進行"錯誤訊息標記"的工作，反而衍生了更多的可信度問題。另外，機器人訓練的過程中因為需要耗費大量能源，所以又出現了生態永續的議題。
那麼，面對這個有這麼多問題的生成式AI，大家該怎麼辦呢？很明顯的，其中一項必要作法就是確保生成式AI參考資料庫的正確性，並且能夠提出資料來源！
我們導讀的這一篇論文中提到了一個AI學術研究助手Elicit，這一個生成式AI網站除了用於協助研究人員尋找學術論文，還可以給予提升研究價值的建議。
我自己簡單的玩了一下Elicit；以本篇論文的副標作為詢問問題 (THE PROMISE AND PERIL OF GENERATIVE AI ?)；不出意外，Elicit提供了我很多可以參考的研究論文建議，並且每一個建議中都會提供論文作者、出處、年份、被引用次數、可連結至「Semantic
Scholar」進階查詢研究文獻的資訊，甚至能摘要"論文摘要"。
選取一篇Elicit摘要的"論文摘要"查看，因為被參考的資料庫中存放的是正確的資料，所以摘要出來的資訊確實擁有較高的可靠性。這也呼應了許多專家現正努力推動的其中一個論點：LLM 的使用應該透明公開，人工智慧的發展才能走得更遠！
使用生成式AI檢測工具來查看文章是否為AI生成，也是改進現況的其中一個方法，這與論文抄襲檢查是同一個概念，只是若衍伸應用到AI檢測，其準確度仍有待提升。
總結來看，生成式AI所參考的資料來源是至關重要的，若能確定資料庫的正確性與有效性，讓機器人能像醫護人員一樣可靠地回答一些開放式的醫學問題，或者能在專家的監督下協助醫生診斷疾病，確實是很吸引人的服務！
我並不擔心AI的發展，ElenaForesight中的配圖也多半是由生成式AI來產生，只要操作得恰當，確實好用又好看，又能幫自己的創作加分。但是，我永遠不會考慮使用LLM來生成"導論"，因為思維是人類存在的優勢，也是人類智慧的表象。所以，面對生成式AI的發展與風險這項議題，除了研究與開發人員的意圖，用的人是誰、怎麼去用、甚麼心態去用，全都很重要(這也是國家教育的意義，我們另行撰文探討)。
科技發展的速度飛快，創新每天都在發生；人工智慧的發展，才剛剛開始！
留言
張貼留言