AI檢測工具引爭議：原創(chuàng)論文被誤判為由AI生成

　　多知10月24日消息，近日，《彭博商業(yè)周刊》報道稱，用于檢查學生論文的人工智能工具越來越多地誤判論文，誤認為論文是抄襲的。即使學生能證明論文不是由人工智能撰寫的，他們也會得到不及格的成績和留校察看的處罰。

　　今年秋季學期，美國中央衛(wèi)理公會大學在線課程的學生 Olmsted(奧姆斯特德)在給老師提交了一份作業(yè)后，不久后收到成績：0分。她去找老師，老師告知她人工智能檢測工具已經(jīng)確定她的作品很可能是由人工智能生成的。老師還說，她的作品之前至少被標記過一次。

　　這項指控對于24歲的Olmsted 來說是“當頭一棒”，她為沒有做過的事情而被剝奪成績資格感到委屈與憤怒。Olmsted向老師和一名學生協(xié)調員反駁了老師的指控，強調她患有自閉癥譜系障礙，寫作方式公式化，可能會被誤認為是人工智能生成的。

　　好消息是成績最終被更改。但同時Olmsted收到了警告：如果她的作業(yè)再次被標記，老師將以對待抄襲的方式處理，將不會再進行第二次審查。

　　此前，北喬治亞大學的一名學生因使用拼寫檢查器 Grammarly 而被剝奪了獎學金。

　　由于AI技術的蓬勃發(fā)展，學校教育必須迎頭趕上并適應新的現(xiàn)實。根據(jù)民主與技術中心3月份發(fā)布的一項對450多名教師的調查，約三分之二的教師表示他們經(jīng)常使用基于AI的檢測工具。

　　但事實是，最好的人工智能拼寫檢測器非常準確，但并非萬無一失?！杜聿┥虡I(yè)周刊》在 2022 年夏天(即 ChatGPT 發(fā)布前不久)隨機抽取了提交給德克薩斯農工大學的 500 篇大學申請論文樣本，對兩項領先的服務——GPTZero 和 Copyleaks 進行了測試，這些論文是通過公共記錄請求獲得的，這意味著它們不屬于人工智能工具訓練的數(shù)據(jù)集。而這些AI檢測工具卻錯誤地將2%的論文標記為可能是人工智能撰寫的。

　　今年7月，ChatGPT 的開發(fā)商 OpenAI 關閉了自己的 AI 檢測工具，原因是“其準確率太低”。

　　盡管如此，市面上的AI檢測工具依然受到資本的青睞，各個AI檢測公司初創(chuàng)公司都有大量的融資。如GPTZero融資總額已超過1350萬美元，投資方包括Reach Capital、Uncork、Neo、Alt Capital以及路透社等;Copyleaks融資總額已超過840萬美元，投資方包括以色列風投公司日航風投(JAL Ventures)、Connecticut Innovations(康涅狄格創(chuàng)新)以及ICONYC 實驗室等。

　　GPTZero于2023年1月推出了第一個商業(yè)上可行的 AI 檢測解決方案，并繼續(xù)與數(shù)千名客戶(包括記者、政府機構、教育機構和財富 500 強公司)一起開發(fā)最先進、最易用的AI可解釋性工具。

　　Copyleaks成立于2015年，以一家基于AI的抄襲和AI內容檢測平臺。Copyleaks可快速檢測抄襲和AI生成內容，確保內容原創(chuàng)性。

　　美國還有一家老牌的學術檢測機構Turnitin，也有自己的AI檢測工具。

　　Turnitin是一家致力于確保教育誠信和有效改善學習成果的全球性公司，是 Advance Publications(先進出版公司)的子公司。25 年來，Turnitin一直與教育機構合作，在所有學科領域和評估類型中促進誠實、一致和公平。Turnitin產(chǎn)品被教育機構和認證及許可用于維護誠信和提高學習成績，并被學生和專業(yè)人士用于創(chuàng)作出他們最好的原創(chuàng)作品。

　　Turnitin推出的 AI 釋義檢測功能可以識別出可能使用 AI 釋義來修改提交內容中 AI 生成的文本的情況，從而幫助出版商和教育工作者維護研究寫作的完整性并為學生提供真實的學習體驗。Turnitin聲稱的其AI檢測工具的準確率為98.8%。

　　對于AI檢測工具，教師們也有自己的判斷，有的人會依賴AI工具，有的人憑直覺。不論如何，在AI盛行的當下，AI工具對教師和學生帶來了便利，也帶來了新的挑戰(zhàn)。