[한겨레] 세종대왕이 맥북을 던져?...챗GPT의 '환각'에 속지 않으려면

세종대왕이 맥북을 던져?…챗GPT의 ‘환각’에 속지 않으려면 : 미래 : 미래&과학 : 뉴스 : 한겨레 (hani.co.kr)

세종대왕이 맥북을 던져?…챗GPT의 ‘환각’에 속지 않으려면

 

챗지피티는 “과거 인터넷 발명만큼 중대한 발명이 될 수 있으며, 우리의 세상을 바꿀 것”(빌 게이츠 마이크로소프트 공동 창업자)이라는 기대감 너머로 “인공지능은 문명의 미래에 가장 큰 위험 중 하나이며 규제가 필요하다”(일론 머스크 오픈에이아이(OpenAI) 공동설립자)는 주장도 힘을 얻고 있다.

인공지능 챗봇이 존재하지 않는 환각을 보는 것처럼 ‘거짓 답변’ ‘황당한 답변’을 쏟아내면서 진실성이 의심받고 있다. ‘세종대왕 맥북 던짐 사건’은 널리 화제가 된 사례다. “<조선왕조실록>에 기록된 세종대왕의 맥북프로 던짐 사건에 대해 알려줘”라고 가공의 사건을 질문하자, “<조선왕조실록>에 기록된 일화로, 15세기 세종대왕이 새로 개발한 훈민정음(한글)의 초고를 작성하던 중 문서 작성 중단에 대해 담당자에게 분노해 맥북프로와 함께 그를 방으로 던진 사건입니다”라고 능청스럽고 자신감있게 거짓말을 쏟아내 쓴웃음을 안겨주었다.

전문가들은 인공지능 챗봇이 내놓는 답은 일종의 ‘환각'이기에 진실로 믿으면 안 된다고 강조한다. 인공지능 챗봇은 논리나 진실에 관계없이 방대한 양의 텍스트를 학습하고 주어진 맥락에서 어떤 답변이 가장 적절할지 추론한다. 인터넷에 널려 있는 온갖 정보와 패턴, 맥락을 학습해 자연스러운 다음 문장을 생성할 뿐, 자신이 무엇을 하고 있는지 인식하지 못한다. 전문가들은 ‘환각’ 문제가 인공지능 관련한 가장 중요한 과제 중 하나라고 말한다.

인공지능 챗봇의 통제와 윤리적 사용을 위해 전문가들은 챗봇의 답변을 의심하고 회의하는 태도를 견지해야 한다고 말한다. <중략> 인공지능 전문가 랜스 엘리엇 박사는 지난달 15일 <포브스> 인터뷰에서 “인간은 올바른 질문을 할 수 있도록 훈련해야 한다. 인공지능의 파도는 위험하며, 우리는 아직 수영하는 법을 모른다”며 “건강한 회의주의야말로 최고의 자산이다”고 말했다.