AI 탐지 프로그램(Detect program) 별로 어떤 차이가 있을까요?
- 교무팀
- 조회수11400
- 2023-04-05
AI가 작성한 텍스트를 탐지하는 프로그램을 활용하여 챗GPT, Bing AI 등의 사용 여부에 도움을 줄 수 있습니다.
AI 탐지 프로그램은 대표적으로 GPT Zero, Detect GPT, Originality.AI 가 있으며,
각 프로그램의 특징은 아래와 같습니다.
다만, Detect Program을 사용하더라도 작성된 텍스트가 완벽하게 챗GPT 등 생성 AI를 통해 만들어졌는지 확신할 수는 없습니다. 탐지 프로그램을 사용하더라도 교수자가 다시 한번 확인하는 과정이 필요합니다.
(사례) ChatGPT를 개발한 OpenAI가 공개한 AI텍스트 분류기를 시험 평가에서 AI작성 텍스트의 26%를 'AI 작성 가능성이 있음'으로 올바르게 식별하였으며, 사람이 작성한 텍스트의 9%를 'AI 작성 텍스트'로 잘못 표시했습니다.
1. GPT Zero
1) 판단 기준: Perplexity score / Burstiness score-perplexity 변화
2) AI가 작성한 텍스트는 인간이 작성한 글과 달리, 일정한 길이로 작성되는 경향이 있습니다. 이는 기계가 프로그래밍된 규칙에 따라 문장을 생성하기 때문입니다. 또한 AI는 어떤 단어 다음에 가장 가능성이 높은 단어가 무엇인지를 고려하여 문장을 생성합니다.
case 1 AI가 작성했다고 판단(9.857/2.476)
- 점수가 낮을수록 AI 작성 가능성 증가
case 2 사람이 작성했다고 판단(53.750/44.262)
- 본문에 AI가 썼을 가능성이 있는 부분은 노란색으로 하이라이트 처리
2. Detect GPT
1) 판단 기준: 명확한 기준은 제시되지 않음
2) 내용 입력 후 ’check content’ 클릭 시 AI 작성 여부 판단과 해당 가능성 제시
1) 판단 기준: 선형 확률 모델과 “Burstiness”및 “Perplexity”를 사용해 판단
2) 인간이 작성했다고 판단될수록 녹색, AI가 작성했다고 판단될수록 붉은색으로 하이라이트 처리
출처: https://raj-k-kadiyala.medium.com/gptzero-vs-chatgpt-a-gray-story-901b825e0666