聊天機器人ChatGPT與人工智慧（AI）掀起的熱潮，在學生答題與寫作能力方面引發諸多討論，國際有不少大學跟進禁止使用ChatGPT等生成式人工智慧（Generative AI）輔助寫作答題。一名史丹福網路高中的學生近來則發展一款反制平台，專門用來偵測各種文件是否以人工智慧工具生成。
在許多學界、家長擔心學生們靠著ChatGPT等聊天機器人來「寫作業」時，史丹福網路高中（Stanford Online High School）的學生克里格（Benjamin Klieger）採用OpenAI現有的Roberta模型為基礎，建立起一款進行GPT偵測的平台「CheckforAi」，並稱以他組建的模型偵測的平台比OpenAI的GPT偵測器更有效。
克里格表示，目前大眾仍普遍無法得知一份內容究竟是人類撰寫的，還是人工智慧生成的，對於各行各業來說，目前生成式人工智慧的產出對誠信問題造成了實際威脅，「若文字只有微小變化，原始模型就能偵測出它來自ChatGPT；但文字若經過混合調整，原始模型就會認定這些文字並不完全來自ChatGPT。」
▲克里格靠 OpenAI 的模型研發使用機器學習（machine learning）的偵測平台。 （圖／美聯社／達志影像）
另一名史丹福大學電腦科學博士生米契（Eric Mitchell）則表示，他認為ChatGPT在某種程度上可以改變教育領域的遊戲規則，但同時也擔心作弊問題。克里格的「CheckforAi」並非自ChatGPT出現以來第一個推出的人工智慧偵測器，包含米契在內的史丹福大學研究生今年2月也研發出了「DetectGPT」，普林斯頓大學生則在1月時也推出另一個偵測器「GPTZero」。
對於偵測工具是否能解決所謂誠信問題，米契仍採保守態度。他提到，由於人工智慧偵測器是最近才研發出來的，對這些偵測器給予如此高的信任，人們有很多顧慮，究竟偵測器需要具備多高的性能才能讓它們真正有用且利大於弊，「如果偵測模型有誤報率，學生就會無辜被指責抄襲，這將對學生造成非常嚴重的影響。」
我是廣告 請繼續往下閱讀
克里格表示，目前大眾仍普遍無法得知一份內容究竟是人類撰寫的，還是人工智慧生成的，對於各行各業來說，目前生成式人工智慧的產出對誠信問題造成了實際威脅，「若文字只有微小變化，原始模型就能偵測出它來自ChatGPT；但文字若經過混合調整，原始模型就會認定這些文字並不完全來自ChatGPT。」
另一名史丹福大學電腦科學博士生米契（Eric Mitchell）則表示，他認為ChatGPT在某種程度上可以改變教育領域的遊戲規則，但同時也擔心作弊問題。克里格的「CheckforAi」並非自ChatGPT出現以來第一個推出的人工智慧偵測器，包含米契在內的史丹福大學研究生今年2月也研發出了「DetectGPT」，普林斯頓大學生則在1月時也推出另一個偵測器「GPTZero」。
對於偵測工具是否能解決所謂誠信問題，米契仍採保守態度。他提到，由於人工智慧偵測器是最近才研發出來的，對這些偵測器給予如此高的信任，人們有很多顧慮，究竟偵測器需要具備多高的性能才能讓它們真正有用且利大於弊，「如果偵測模型有誤報率，學生就會無辜被指責抄襲，這將對學生造成非常嚴重的影響。」