点击这里给金令牌猎头顾问发消息
 金令牌首页 金令牌猎头 十佳职业经理人评选 最佳雇主评选 加入俱乐部 《职业经理人周刊》 会员区   薪酬调查报告登录  
Rss订阅
教育培训猎头
《职业经理人周刊》 猎头公司
职业经理人俱乐部首页 >> 经理人资讯 >> 教育培训 >> 行业动态 >> 正文

89%美国大学生竟用ChatGPT写作业 “ChatGPT 反击战终于敲响了,这一次是要用算法打败算法吗? 斯坦福大学打响ChatGPT反击战


  《职业经理人周刊》   猎头班长v微博   微信:AirPnP   2023/2/7
猎头职位搜索
猎头|自助猎头
兼职|推荐人才

自 OpenAI 于 2022 年 11 月发布 ChatGPT 以来, ChatGPT 可谓是风靡各个领域:修bug、写代码、写周报、绘画、写小说……不仅如此,ChatGPT 也没“放过”教育圈,可谓是学生用得不亦乐乎,老师们却“防不胜防”……

据调查显示,美国 89% 的大学生在用 ChatGPT 做作业。近日,针对学生们屡禁不止的行为,斯坦福研究人员推出了 DetectGPT,便于检测出 AI 生成文本。DetectGPT 是基于大型语言模型(large language models,LLM)生成文本的特定倾向,从而可以判断文本是否是 AI 生成的。

著名猎头机构推荐金领职位
金令牌搜索企业 职位 经理人 专访 社区 会员
军工仪器研发制造--电子工程师/项目经理36-45万北京
电网侧储能初创公司-全钒液流储能--CEO150-200万江苏 上海
TOP5国内氢能源存储公司--俄罗斯客户经理30-60万莫斯科
央企背景-全钒液流电池电堆设计高级工程师(全钒液流电池储能)40-70万浙江 北京
著名合资财险保险公司--总精算师100-140万北京 河北
核生化军工企业--产品经理 (VR/AR)/研发经理60-70万 北京 深圳
财险公司---健康险事业部总经理40-60万北京 河北 天津
军用AI分布式智能仿真系统(军棋战略推演)-销售总监60-120万北京 成都 西安

新闻刚爆出,就引发不少网友关注,甚至有人调侃道:“ChatGPT 反击战终于敲响了,这一次是要用算法打败算法吗?

1ChatGPT 被学生们“玩坏”

其实,本次教育圈的猛烈回击,并非无中生有,主要原因是学生们要把 ChatGPT“玩坏了”!

去年 12 月,弗曼大学哲学助理教授 Darren Hick 给学生们布置了一篇 500 字的课后文章。明明是一个没有难度的作业, Darren Hick 却发现居然有学生用 ChatGPT 来完成。

在一些“蛛丝马迹”的追踪后,Darren Hick 发现 AI 生成的第一个迹象是:尽管文章的句法连贯,但它毫无意义。他还表示:“可能在 ChatGPT 之后的升级优化中,这些痕迹将更难发现。”强大的 AI 生成,让 Darren Hick 感到极度恐惧。

但是,这并非个案。

据《纽约时报》1 月中旬报道,北密歇根大学的哲学教授 Antony Aumann 在为自己任教的一门世界宗教课程评分时,读到了一篇没有错别字和语法错误的“最佳论文”,教授倍感意外。不料最后发现,是学生用 ChatGPT 完成的。

在该篇论文中, ChatGPT 通过简洁的段落、恰当的举例和严谨的论据,探讨了禁止罩袍带来的道德问题。不禁让人深思,ChatGPT 是否也能对其它的话题侃侃而谈?究竟会带来什么更大的“惊喜”呢?

为了避免事态发展的更加严重,今年 1 月美国纽约市教育部正式宣布:纽约市的学生和教师,无法再在教育部设备或互联网上访问 ChatGPT 。很多大学甚至将“使用AI”列入作弊手段,开始纷纷出招!

2斯坦福团队推出 DetectGPT

斯坦福大学研究团队推出 DetectGPT 的新方法 ,旨在成为首批打击高等教育中 LLM 生成文本的工具之一。

1 月 26 日,相关研究论文以《 DetectGPT : Zero-Shot Machine-Generated Text Detection using Probability Curvature 》为题,在网站 arXiv 上发布。

该方法的原理是:由 LLM 生成的文本通常在模型的对数概率函数的负曲率区域的特定区域徘徊。基于这个观察结果,研究团队定义了一个新的基于曲率的标准(称为 “zero-shot”),可以让 DetectGPT 用于判断文本是否是机器生成的,并且不需要训练人工智能或收集大型数据集来比较文本。

然而,该方法存在一定的局限性。例如,在现有的掩模填充模型不能很好地表示有意义的改写空间的情况下,则某些域的性能可能会降低,从而导致曲率估计的质量被降低;以及 DetectGPT 相比于其他检测方法需要更多的计算量等。

值得一提的是,研究团队表示,该方法在检测机器生成的文本方面优于其他零样本方法,未来在机器生成文本检查方面将很有前途。并且,他们将尝试将这一方法用于 LLM 生成的音频、视频和图像的检测工作中。

3网友:“感觉这是 AI 大战要开始了?”

伴随着#斯坦福大学推出新算法严查 ChatGPT 代写论文#的消息被爆出,就引发了网友的讨论热潮:

“这回学生用AI写论文要犯难了”;

“那我模仿 ChatGPT 的风格写作,怎么算呢”;

“感觉这是 AI 大战要开始了”;

“别人是用魔法打败魔法,你是用算法打败算法”。

毋庸置疑的是,随着 AI 技术的进一步发展,对于机器生成的文本及其相关的检测工作想必将备受关注。但是,任何事物的发展都存在两面性。一方面,AI 生成的文本能提供一套框架,便于人们更好地掌握修订和编辑的诀窍。而另一方面,它存在连续性较差,没有清晰的逻辑的缺点,甚至还会提供潜在的“作弊”可能。

(来源:CSDN)


我们尊重原创者版权,除非我们确实无法确认作者以外,我们都会注明作者和来源。在此向原创者表示感谢。本网转载文章完全是为了内部学习、研究之非商业目的,若是涉及版权等问题,烦请联系 service@execunet.cn 或致电 010-85885475 删除,谢谢!

发表评论:
主题:
内容:
匿名发表 验证码: 登录名: 密码:   个人 企业
发帖须知:
一、请遵守中华人民共和国有关法律法规、《全国人大常委会关于维护互联网安全的决定》《互联网新闻信息服务管理规定》
二、请注意语言文明,尊重网络道德,并承担一切因您的行为而直接或间接引起的法律责任。
三、管理员有权保留或删除其管辖留言中的任意内容。
四、您在本站发表的言论,本站有权在网站内转载或引用。
五、发表本评论即表明您已经阅读并接受上述条款。
金令牌猎头
企业找猎头   职业经理人找猎头
教育培训行业相关资讯
更多>> 
教育培训行业焦点企业对话
更多>> 
教育培训行业相关职位
更多>> 
教育培训行业相关企业
十大猎头公司推荐金领职位
关于我们 | 招聘猎头 | 猎头 | 自助猎头 | 悬赏招聘 | 十佳职业经理人评选 | 年度最佳雇主评选 | 会员登录 | 企业 | 职位 | 设为主页
联系我们 | 法律声明 | 搜索 | 猎头招聘 | 猎头公司 | 《职业经理人周刊》 | 职业经理人俱乐部 | 沙龙活动 | 资讯 | 刊例 | 收藏本站
Copyright® 版权所有  猎头服务热线:010-85885475 E-MAIL:club@execunet.cn
京ICP备05025905号-1   京公网安备 110105001605号
点击这里给金令牌猎头顾问发消息 猎头顾问