chatGPT_부정행위 감시 도구를 제공할 예정

OpenAI 가 학생과 전문가가 놀랍도록 설득력 있는 에세이를 작성하는 데 도움을 줄 수 있는 AI 챗봇인 ChatGPT의 공개 출시로 일부 교육자들을 불안하게 만든 지 두 달 후 , 이 회사는 교사들이 적응하는 데 도움이 되는 새로운 도구를 공개합니다.

오픈에이아이(OpenAI )가 에세이를 사람이 쓴 것인지 인공지능이 쓴 것인지 확인할 수 있는 'AI 텍스트 분류기'라는 새로운 기능 을 11일 발표했다 . 그러나 OpenAI조차도 그것이 "불완전하다"는 것을 인정합니다.


영어 AI 생성 텍스트에서 작동하는 이 도구는 입력을 받아 여러 범주에 할당하는 기계 학습 시스템으로 구동됩니다. 이 경우 학교 에세이와 같은 텍스트 본문을 새 도구에 붙여넣은 후 "AI에 의해 생성될 가능성이 있음"에서 "매우 가능성이 낮음"까지 5가지 가능한 결과 중 하나를 제공합니다.

OpenAI 의 정책 연구 책임자인 Lama Ahmad 는 CNN에 교육자들이 이와 같은 ChatGPT 기능을 요청해 왔지만 "약간 받아들여야 한다"고 경고했습니다.

Ahmad는 "AI를 평가 목적으로 사용하는 것과 마찬가지로 이 도구가 잘못될 수 있고 때때로 잘못될 것이라는 것을 알고 있기 때문에 이 도구를 단독으로 사용하는 것을 권장하지 않습니다."라고 말했습니다. "우리는 인간이 루프에 계속 참여하는 것이 얼마나 중요한지 그리고 그것은 많은 다른 데이터 포인트 중 하나에 불과하다는 점을 강조하고 있습니다."

Ahmad는 일부 교사가 학생이 작성했는지 여부를 측정하기 위해 학생 작업 및 작문 스타일의 과거 예를 참조했다고 말합니다. 새로운 도구가 또 다른 기준점을 제공할 수 있지만 Ahmad는 "교사는 학업 부정직 결정에 포함하는 방법에 대해 정말 주의해야 합니다."라고 말했습니다.


11월 말에 출시된 이후 ChatGPT는 사용자 프롬프트에 대한 응답으로 독창적인 에세이 , 이야기 및 노래 가사를 생성하는 데 사용되었습니다. 일부 과학자들을 속이는 연구 논문 초록 초안을 작성했습니다. 최근에는 미네소타 대학교의 4개 과정에서 법률 시험 , 펜실베니아 대학교 와튼 경영대학원의 또 다른 시험, 미국 의사 면허 시험에 합격했습니다.

그 과정에서 일부 교육자들 사이에서 경각심을 불러일으켰습니다. 뉴욕시와 시애틀의 공립학교는 이미 학생과 교사가 지역 네트워크와 기기에서 ChatGPT를 사용하는 것을 금지 했습니다. 일부 교육자들은 현재 ChatGPT에 대한 응답으로 과제를 재고하기 위해 놀라운 속도로 움직이고 있습니다. 학생들 사이에서 이 도구가 얼마나 널리 사용되는지, 학습에 얼마나 해로울 수 있는지가 불확실하지만 말입니다.

OpenAI는 이제 교사가 ChatGPT에서 작문 작업이 생성되는 시기를 감지할 수 있도록 돕기 위한 작지만 점점 늘어나는 노력 목록에 합류합니다. Turnitin과 같은 일부 회사는 도구로 과제가 작성된 시점을 교사가 식별하는 데 도움이 될 수 있는 ChatGPT 표절 탐지 도구를 적극적으로 개발하고 있습니다. 한편, Princeton 학생 Edward Tuan은 CNN에 95,000명 이상의 사람들이 이미 ZeroGPT라고 하는 자신의 ChatGPT 감지 기능의 베타 버전을 시도했으며 지금까지 "교사들 사이에서 엄청난 수요"가 있었다고 말했습니다.

AI 도구가 인간의 가치와 일치하는지 확인하기 위해 노력하는 OpenAI 정렬 팀의 책임자인 Jan Leike는 ChatGPT 를 통해 표절을 감지하는 것이 어려울 수 있는 몇 가지 이유를 나열했습니다. 예를 들어 사람들은 도구로 식별되지 않도록 텍스트를 편집할 수 있습니다. 또한 "우리가 학습한 텍스트 종류와 매우 유사한 텍스트를 식별하는 데 가장 적합합니다."

또한 회사 블로그 게시물에 따르면 처음 1,000개의 소수 목록과 같은 예측 가능한 텍스트는 정답이 항상 동일하기 때문에 AI 또는 인간이 작성한 것인지 판단할 수 없다고 회사 블로그 게시물에 따르면 말했습니다. 분류자는 또한 1,000자 미만의 짧은 텍스트에서 "매우 신뢰할 수 없습니다".


화요일 출시를 앞두고 CNN과 함께 시연하는 동안 ChatGPT는 여러 작업에 성공적으로 레이블을 지정했습니다. 예를 들어 "Peter Pan"이라는 책에서 발췌한 내용은 AI가 생성할 가능성이 "없는" 것으로 간주되었습니다. 그러나 회사 블로그 게시물에서 OpenAI는 사람이 쓴 텍스트를 5%의 시간 동안 AI가 쓴 것으로 잘못 표시했다고 밝혔습니다


오탐의 가능성에도 불구하고 Leike는 회사가 이 도구를 사용하여 AI 문해력에 대한 대화를 촉발하고 사람들이 AI로 작성된 텍스트가 인간에 의해 만들어졌다고 주장하는 것을 막는 것을 목표로 한다고 말했습니다. 그는 새로운 기능을 출시하기로 한 결정은 인간이 AI와 상호 작용하는지 여부를 알 권리가 있는지에 대한 논쟁에서 비롯된 것이라고 말했습니다.

“이 질문은 우리가 여기서 하는 것보다 훨씬 더 중요합니다. 사회 전체가 그 문제와 씨름해야 한다”고 말했다.

OpenAI는 일반 대중이 AI 검사 기능에 대한 피드백을 공유하도록 장려한다고 말했습니다. Ahmad는 회사가 K-12 교육자 들과 Harvard University 및 Stanford Design School과 같은 대학 수준 이상의 교육자들과 계속해서 대화를 나누고 있다고 말했습니다.

Ahmad에 따르면 회사는 OpenAI가 "기술과 기술이 무엇에 사용될 수 있고 어떤 용도로 사용되어서는 안 되는지에 대해" 더 잘 인식하게 만들고 싶어한다는 의미에서 "교육자를 위한 교육자"로서의 역할을 보고 있습니다.

"우리는 교육자가 아닙니다. 우리는 그것을 잘 알고 있습니다. 따라서 우리의 목표는 교사가 교실 안팎에서 이러한 모델을 효과적으로 배포할 수 있도록 돕는 것입니다."라고 Ahmad는 말했습니다. "그것은 그들에게 그것에 대해 말할 수 있는 언어를 제공하고, 그들이 능력과 한계를 이해하도록 돕고, 그런 다음 이를 통해 학생들이 AI가 이미 세상에 도입하고 있는 복잡성을 탐색할 수 있도록 준비시키는 것을 의미합니다