生成式AI之利用與研究誠信

國立臺灣大學法律學院｜黃銘傑特聘教授

近年來，人工智慧（下稱「AI」）的快速成長及發達、特別是以大型語言模型（Large Language Models, LLMs）為基礎的生成式AI（Generative AI）之突破性及爆炸性發展，對於一般社會生活及工作型態，帶來重大衝擊與挑戰。就學術研究而言，生成式AI可以自動檢索並大量彙整、綜理迄至當時的研究成果、改寫或翻譯、生成各種文字、圖形、語音內容、甚至協助撰寫用於分析資料之程式碼，減輕研究過程與論文撰寫之負擔，促使學術研究者得將其精力集中於核心內容及創新課題之開發，加速學術研究的深化及創新。惟為與此同時，未能正確認識到生成式AI利用對學術研究所蘊含之風險及衝擊，將可能導致AI內藏之黑箱（Black Box）及知識幻覺（Hallucinations）等問題具體化、惡化，虛構、不實及錯誤的研究成果及其發表邇來時有所聞，使得研究誠信所堅持之誠實、透明、公正及可靠等基本理念遭受斲傷及質疑，引發社會一般對於學術研究之信賴，阻礙學術研究之正常、健全發展。

研究誠信新加坡宣言（The Singapore Statement on Research Integrity）要求研究人員應確實履行誠實（Honesty）、問責（Accountability）、專業禮儀與公平性（Professional Courtesy and Fairness）及適切的研究管理（Good Stewardship）等四大原則。我國人工智慧基本法第4條對於AI之利用及其內容生成則規定出人類自主、隱私保護與資料治理、透明與可解釋、公平與不歧視、問責等基本理念。於此認知下，研究人員於利用生成式AI等從事學術研究時，應至少遵循下列六項基本原則：

一、以人為本、人類自主：AI僅是研究輔助手段，不能亦無法取代人類智慧及創造力，研究人員應基於主體、主導之地位，適當利用生成式AI等從事學術研究。

二、誠實及透明：研究人員應翔實揭露其所使用之生成式AI等之名稱、版本、使用目的、方式、介入程度等，以維護學術研究之誠信。

三、核實及可解釋性：研究人員應建立適當的研究管理機制，確實查核、驗證資料來源及生成內容之正確性，保存其使用記錄，確保研究過程及結果的可解釋性。

四、隱私保護及資料治理：研究人員應有健全的資料治理及風險認知，妥善保護隱私及個人資料、防止自己及他人機密資訊之外洩。

五、公平與不歧視：研究人員應注意AI可能蘊含之偏見、歧視等，確保研究結果或建議的正確、衡平及公平性。

六、問責：研究人員應就其生成式AI等工具之使用及結果等各個層面，擔負最終責任。

展望未來，於研究及成果發表過程中，適當使用生成式AI等工具作為學術研究之輔助工具，似已無法避免；但於其利用過程中，應注意並防範生成式AI等之使用可能衍生之風險及弊端。研究人員除應本於上述六項基本原則，以專業、開放、理性且負責之態度，看待並適當利用生成式AI等工具，從事學術研究、確保研究誠信外，並應特別注意生成式AI作為研究、發表輔助工具之本質，翔實留存、紀錄其使用之方式、目的及過程，以戒慎恐懼之心確實驗證、核實其產出內容，而於研究成果發表時適當揭露生成式AI之使用。