人工智能更新换代快 检测难度大

  【大公报讯】据《》报导：不少科技公司推出宣称能够检测AI文本的软件，可是教育专家称，精确检测其实非常困难，很简单过错指控学生“做弊”。

  就检测原理而言，由于谈天机器人一般经过很多文本练习，经过一系列剖析来猜测语句中的下一个单词，然后组成语句和阶段以及文章，而这样的做法一般会导致写作风格出奇地共同均匀。因而AI生成文本检测东西大多数都用在寻觅这种“过度”共同性。

  谈天机器人ChatGPT母公司OpenAI于2月1日宣告推出AI生成内容辨认器“AI Text Classifier”，用于区别人工编写的文本和AI生成的文本，但是好像精确度堪忧。OpenAI在博客中指出，该检测东西分辩AI生成文本的成功率仅为26%。

  很多高校运用的抄袭检测服务商Turnitin，4月推出了自家的AI检测东西，经过查找文本并寻觅“（风格）过分均匀”的语句，来断定文本内容是否由AI生成。不过，《》做的一项测验显现，该软件可过错地将人类生成的文本符号为AI所写。

  教育专家也表明，运用该检测东西或许会对那些非英语为母语的学生不公平，由于他们的写作风格，或许更挨近AI生成东西所运用的风格。

  有专家表明，AI检测将很难跟上大型言语模型（LLM）的开展脚步。例如，Turnitin的检测东西能够符号由ChatGPT前身GPT-3.5所编撰的AI文本，但不能符号其升级版模型GPT-4，检测面对的困难将渐渐的变大。