ChatGPT - 에세이의 종말, 대학입시컨설팅업체의 종말?

아래는 챗GPT로 작성한 글인지 판단하는 app-GPT Zero를 만든 프린스턴대학교의 한 학생에 대한 기사 번역문입니다. 디아이프렙에서는 보유하고 있는 실제 학생들의 글과 chatGPT를 통해 작성한 글들을 각각 10개씩 넣어서 테스트해보았습니다.

​

결과는 ai로 작성된 모든 글은 "완전히 ai가 작성한" 글임이 판명되었고, 실제 학생들의 글은 절반정도가 인간의 글로, 나머지 절반은 "ai에 의해 작성됨이 의심된다"는 판단을 받았습니다. 챗지피티도 놀랍지만, 그걸 어떻게 잡아내는지 그것도 놀라웠습니다. 현재까지 저희의 판단으로는 GPT zero의 detecting sensitivity가 높게 설정되어 있어 인간의 글도 ai의 글로 의심하는 것 같습니다. 앞으로 학생들은 자신이 제출한 에세이가 ai의 글이 아님을 증명해야 하는 새로운 과제를 떠앉을지도 모르겠습니다.

​

3월에 현행 버전보다 50배 성능이 좋은 GPT new version이 출시된다고 하는데, 바야흐로 치타와 가젤의 추격전이 시작되었습니다. 흥미진진합니다.

​

아래

--------------

인기 있는 인공지능 챗봇이 쓴 에세이를 제출하는 학생들을 걱정하는 교사들은 이제 그들만의 새로운 도구를 갖게 되었다.

​

프린스턴 대학교 4학년인 에드워드 티안(22)은 텍스트가 학계에서 비윤리적인 사용 가능성에 대한 두려움을 촉발시킨 바이러스 챗봇인 채팅 GPT에 의해 작성되었는지 여부를 감지하기 위해 앱을 만들었다.

​

​

프린스턴의 컴퓨터 과학 학생인 22세의 Edward Tian은 ChatGPT로 알려진 인상적인 AI 기반 언어 모델에 의해 쓰여진 에세이를 감지하는 앱을 만들었다.

저널리즘을 부전공하고 있는 컴퓨터 과학 전공자인 Tian은 겨울방학의 일부를 GPTZero를 만드는데 소비했는데, GPTZero는 인간이나 ChatGPT가 에세이를 썼는지 "빠르고 효율적으로" 해독할 수 있다고 말했다.

​

그가 그 봇을 만든 동기는 그가 인공지능 표절의 증가라고 보는 것과 싸우기 위해서였다. 지난 11월 말 채팅GPT가 출시된 이후 학생들이 획기적인 언어 모델을 활용해 AI가 작성한 과제를 자신의 것으로 넘기는 사례가 보고됐다.

​

"수다 떠는 광고가 난무하고 있어요. 이것과 저것이 AI에 의해 쓰여졌는가? 우리는 인간으로서 알 자격이 있다!" Tian은 GPTZero를 소개하는 트윗에 글을 썼다.

​

티안이 1월 2일에 그의 로봇을 온라인에 공개한 후 많은 선생님들이 그에게 연락을 취했고, 그들이 그것을 테스트함으로써 본 긍정적인 결과에 대해 이야기했다고 말했다.

​

출시 일주일 만에 30,000명 이상의 사람들이 GPTZero를 사용했습니다. 그것은 너무 인기가 많아서 앱이 다운되었다. GPTZero를 호스팅하는 무료 플랫폼인 Streamlit은 이후 웹 트래픽을 처리할 수 있는 더 많은 메모리와 리소스로 Tian을 지원하기 위해 개입했습니다.

​

GPTZero 작동 방식

​

발췌문이 봇에 의해 작성되는지 여부를 결정하기 위해 GPTZero는 "복잡함"과 "버스트니스"의 두 가지 지표를 사용합니다 복잡성은 텍스트의 복잡성을 측정합니다. GPTZero가 텍스트에 대해 당혹감을 느낀다면, 그것은 높은 복잡성을 가지고 있고 사람이 작성한 것일 가능성이 더 높습니다. 그러나 텍스트가 봇에게 더 친숙하다면(이러한 데이터에 대해 훈련되었기 때문에) 복잡성이 낮기 때문에 AI가 생성할 가능성이 더 높다.

​

버스트성은 별도로 문장의 변형을 비교한다. 예를 들어, 인간은 짧은 문장과 함께 더 길거나 복잡한 문장을 더 많이 쓰는 경향이 있다. 인공지능 문장은 더 균일한 경향이 있다.

​

시연 비디오에서 티안은 더 뉴요커와 채팅 GPT가 작성한 링크드인 게시물에 대한 앱의 분석을 비교했다. 그것은 인간과 인공지능에 의한 글쓰기를 성공적으로 구별했다.

​

새로운 인공지능 챗봇이 당신의 숙제를 해줄 수도 있다. 하지만 여전히 A+ 학생은 아니다.

Tian은 일부 사용자들이 테스트를 할 때 보고했듯이 그의 봇이 완벽하지 않다는 것을 인정했다. 그는 아직도 모델의 정확도를 높이기 위해 노력하고 있다고 말했다.

​

그러나 이 도구는 인간과 AI를 구분하는 것을 밝히는 앱을 설계함으로써 Tian의 핵심 임무, 즉 AI에 투명성을 가져오는 것을 목표로 작업하는 데 도움이 된다.

​

그는 "너무 오랫동안 AI는 내부에서 무슨 일이 일어나고 있는지 정말 모르는 블랙박스였다"고 말했다. "그리고 GPTZero와 함께, 저는 그것에 맞서 싸우기 시작하고 싶었습니다."

​

AI 표절을 억제하기 위한 탐구

​

인공지능이 만든 가짜 얼굴은 온라인 영향력 운영의 특징이 되었다.

인공지능 표절과 위조를 억제하기 위한 경쟁에서 대학 선배만이 아니다. 채팅 GPT의 개발자인 OpenAI는 인공지능 표절과 다른 사악한 응용 프로그램들을 방지하기 위한 약속의 신호를 보냈다. 지난달 오픈에서 AI 안전에 집중하고 있는 스콧 아론슨 연구원AI는 GPT가 생성한 텍스트를 출처를 확인하기 위해 '눈에 띄지 않는 비밀 신호'로 '워터마크'하는 방법을 연구해왔다고 밝혔다.

​

오픈소스 AI 커뮤니티 허그페이스는 채팅 GPT를 만드는 데 사용된 AI 모델의 초기 버전인 GPT-2에 의해 텍스트가 생성되었는지 여부를 감지하는 도구를 내놓았다. 이 도구에 대해 우연히 알게 된 사우스 캐롤라이나의 한 철학 교수는 AI가 작성한 작품을 제출하는 학생을 잡기 위해 이 도구를 사용했다고 말했다.

​

뉴욕시 교육부는 목요일에 "학생 학습에 부정적인 영향을 미치는 것과 콘텐츠의 안전성과 정확성에 대한 우려"를 우려하여 학교 네트워크 및 장치에서 채팅 GPT에 대한 액세스를 차단하고 있다고 밝혔다.

​

티안은 채팅 GPT와 같은 인공지능 도구의 사용에 반대하지 않는다.

​

그는 GPTZero가 "이러한 기술이 사용되는 것을 막기 위한 도구가 되기 위한 것이 아니다"라고 말했다. "하지만 어떤 새로운 기술이든, 우리는 그것을 책임감 있게 채택할 수 있어야 하고 우리는 안전장치를 가져야 합니다."