[머니투데이] 리포트도 대신 쓰는 AI ... 가짜뉴스, 편견에 빠져 삐뚤어진다 (2023.1.28)

https://v.daum.net/v/20230128092002072

리포트 AI 대필..막아야 할까, 막을 수는 있을까

실제 챗GPT로 논문을 '대필'하는 사례가 이어지면서 미국 뉴욕시는 공립학교 내 챗GPT 접속을 차단했고 조지워싱턴대는 AI 영향력 밖인 구술시험과 그룹평가를 확대하기로 했다. 아예 시험과 과제물 제출에 컴퓨터대신 수기 시험을 확대하는 곳들도 늘고 있다. 영국의 130여 개 대학은 챗GPT가 에세이나 리포트 작성에 악용될 수 있다고 우려하는 성명을 냈다. 국제머신러닝학회(ICML)는 AI 도구를 활용해 과학논문을 작성하는 것을 금지했다.

대필문제가 불거지자 오픈AI는 부랴부랴 챗GPT가 생성한 문장을 식별해내는 워터마킹 기술을 개발하고 나섰다. 반면 챗GPT를 막을 수 없는 만큼 오히려 적극적으로 가르치고 활용하도록 해 부작용까지도 체득시켜야한다는 의견도 있다. 시민단체 '변화를 꿈꾸는 과학기술인 네트워크'의 설문에 따르면 응답자의 53% 이상이 챗GPT 결과물 활용 시 '창작과 독창성의 문제'가 있다고 답했다.

리포트나 논문 대필은 빙산의 일각이다. 틀린 답변을 정답처럼 말하는 '할루시네이션'(환각) 현상은 더 큰 문제다. 챗GPT는 기본적으로 인터넷상 텍스트 데이터를 통해 훈련하는 만큼 데이터에 존재하는 편견과 가짜뉴스, 잘못된 정보를 영구화할 수 있다. 아울러 챗GPT는 자연어를 처리하는 도구인만큼 특정 집단에대한 동향감시 또는 악의적 목적으로 오용될 수 있다는 우려도 나온다.