AI '부정행위'는 교수들이 상상하는 것보다 더 당혹스럽습니다

캠퍼스에서 군비경쟁이 벌어지고 있으며, 교수들은 패배하고 있습니다.

이 기사를 들어보세요

00:00

12:19

Hark에서 더 많은 이야기를 들어보세요

이 기사는 월요일부터 금요일까지 The Atlantic에서 꼭 읽어야 할 한 권의 기사를 편집자들이 추천하는 뉴스레터인 오늘 읽어야 할 한 가지 이야기에 실렸습니다. 여기에서 등록하세요.

100퍼센트 AI. 이것이 소프트웨어가 학생의 논문에 대해 내린 결론입니다. 내가 지도하는 학술 프로그램의 교수 중 한 명이 이 발견을 발견하고 나에게 어떻게 해야 할지 물었습니다. 그런 다음 또 다른 학생은 해당 학생의 다른 논문에서 동일한 결과(100% AI)를 보고 궁금해했습니다. 이것이 무엇을 의미합니까? 난 몰랐 거든. 나는 아직도 그렇지 않습니다.

문제는 더 많은 문제로 나뉩니다. 학생이 AI를 사용했다는 것을 확실히 알 수 있는지, 논문 작성에 AI를 "사용"한다는 것이 무엇을 의미하는지, 그리고 그것이 부정행위에 해당하는지 여부입니다. 우리 학생의 논문에 플래그를 붙인 소프트웨어도 다층적이었습니다. 코스웨어 시스템인 Canvas는 최근 새로운 AI 탐지 알고리즘을 설치한 인기 있는 표절 탐지 서비스인 Turnitin을 실행하고 있었습니다. 부정 행위에 대한 혐의가 있는 증거는 교육 기술 블랙박스가 중첩된 인형에서 나타났습니다.

이것은 ChatGPT의 첫 학년이 끝나는 대학 생활입니다: 비난과 혼란의 나날입니다. 지난 몇 주 동안 나는 처음으로 대량의 AI "부정행위"에 직면하고 있는 수십 명의 교육자 및 학생과 이야기를 나눴습니다. 그들의 이야기는 나에게 충격을 주었다. 캠퍼스 보고서에 따르면 교육에서 AI를 합법적으로 사용하는 것은 비양심적인 것과 구별하기 어려울 수 있으며, 사기꾼을 식별하는 것은 물론이고 책임을 묻는 것도 거의 불가능합니다.

옛날에는 학생들이 급우들에게 시험을 공유하거나 과제물을 나눠주었습니다. 그런 다음 그들은 인터넷의 도움을 받아 숙제를 아웃소싱하기 시작했습니다. EssayShark("연구 및 참고 목적으로만" 학기말 논문을 판매한다고 주장함)와 같은 온라인 비즈니스는 해당 프로세스를 전문화했습니다. 이제 학생들은 Chegg와 같은 "튜터링" 서비스에서 과제에 대한 답변을 구매할 수 있습니다. 이를 아이들은 "체깅(chegging)"이라고 부릅니다. 그러나 지난 가을 AI 챗봇이 출시되었을 때 과거의 모든 부정행위 방법은 쓸모없어 보였습니다. Chegg의 CEO는 이번 달 실적 발표에서 "이제 [ChatGPT가] 신규 고객 성장률에 영향을 미치고 있다고 믿습니다."라고 인정했습니다. 이후 회사는 약 10억 달러의 시장 가치를 잃었습니다.

다른 회사들도 동일한 격변으로 이익을 얻을 수 있습니다. 2018년까지 Turnitin은 교수들이 부적절함을 찾아내는 데 도움을 주기 위해 이미 연간 수익 1억 달러 이상을 가져갔습니다. 학생들이 과제를 제출하는 데 사용하는 코스웨어에 내장된 소프트웨어는 제출물을 기존 자료(이전에 Turnitin이 사용한 다른 학생 논문 포함)의 데이터베이스와 비교하고 복사되었을 수 있는 자료에 플래그를 지정합니다. 전 세계 15,000개의 교육 기관에 서비스를 제공한다고 주장하는 이 회사는 2019년에 17억 5천만 달러에 인수되었습니다. 지난달에는 AI 감지 추가 기능을 출시했습니다(교사가 거부할 수 없음). 챗봇 자체와 마찬가지로 AI 챗봇 대응책도 등장하고 있습니다.

이제 첫 번째 챗봇의 봄이 다가오면서 Turnitin의 새 소프트웨어는 수많은 긍정적인 식별 정보를 제공하고 있습니다. 이 문서는 "18% AI"였습니다. 그건 "100% AI"입니다. 하지만 그 숫자 중 실제로 무엇을 의미합니까? 놀랍게도 – 터무니없게도 – 확실히 말하기는 매우 어렵습니다. 제가 들은 각각의 "100% AI" 사례에서 학생들은 ChatGPT나 다른 AI 도구가 모든 작업을 수행하도록 허용하지 않았다고 주장했습니다.

그러나 회사에 따르면 이러한 지정은 실제로 에세이의 모든 문장과 마찬가지로 100%가 컴퓨터로 생성되었으며 더 나아가 이 판단이 98% 확실하게 내려졌다는 것을 의미합니다. Turnitin 대변인은 이메일을 통해 문법 검사기 및 자동 번역기를 포함하여 "알고리즘이나 기타 컴퓨터 지원 시스템을 사용하는 다른 도구로 생성된 텍스트"가 오탐지로 이어질 수 있으며 일부 "진짜" 글은 AI와 유사할 수 있음을 인정했습니다. -생성된 글. "어떤 사람들은 아주 예측 가능하게 글을 씁니다. "라고 그녀는 말했습니다. 분석의 확실성이 98%라는 회사의 주장에 이러한 모든 주의 사항이 설명되어 있습니까?