[조선일보] "나도 의심한다 고로 존재한다" 생각하는 AI 출현 (2024.01.02)

https://n.news.naver.com/mnews/article/023/0003808088?sid=105

“나도 의심한다 고로 존재한다” 생각하는 AI 출현

“2024년에는 더욱 크고 성능이 뛰어난 인공지능(AI)들이 본격적으로 등장할 겁니다. 자기 의심(self-doubt)을 할 줄 아는 AI가 그 시작입니다.”

그는 챗GPT와 같은 AI 챗봇과 차세대 AI의 결정적 차이로 ‘논증(reasoning)’ 능력을 꼽았다. 단순한 문서 정리, 정보 검색, 이미지·영상 같은 콘텐츠 생성 기능을 뛰어넘어 답변의 진실성과 가치관의 옳고 그름을 따지는 ‘보다 사람 같은’ AI의 등장을 곧 보게 된다는 것이다. 

그는 “AI의 다음 단계는 (마치 사람처럼) 스스로 내놓는 답의 진위를 되묻게 되는 것”이라며 “AI가 가짜 답변 대신 ‘확실치 않습니다’ ‘잘 모르겠습니다’와 같은 답변을 할 줄 알게 되면서 본격적인 진화가 시작될 것”이라고 했다.

-AI를 100% 통제하는 것이 기술적으로 가능한 일인가.

“당장은 어렵지만, 우리에겐 다른 선택지가 없다. 100%는 아니더라도 99%라도 통제할 수 있도록 원자폭탄을 만든 맨해튼 프로젝트나 아폴로 프로젝트와 동등한 수준의 투자와 연구를 추진해 해결해야만 한다. 지금의 AI의 가장 큰 문제는 나를 비롯한 그 누구도 AI가 어떻게 작동하는지 정확히 알지 못한다는 것이다. 언제 터질지 모르는 폭탄을 안전장치 없이 개발하는 것과 비슷하다. AI가 뻔뻔하게 거짓 정보를 제공하는 환각(hallucination) 현상은 이미 피해를 낳고 있다. 지금보다 더 똑똑한 AI가 나타났을 때 이를 통제하지 방법을 모른다면 위험한 일이 일어날 것이다.”

☞ 요슈아 벤지오(Yoshua Bengio)

캐나다 몬트리올대 컴퓨터과학 교수로 2006년 다량의 데이터에서 인공지능(AI)이 숨겨진 패턴을 발견하고 질문에 대한 답을 찾아내는 딥러닝(심층 학습) 기술을 처음 개발한 AI의 선구자이다. 제프리 힌턴 토론토대 교수, 얀 르쾽 뉴욕대 교수, 앤드루 응 스탠퍼드대 교수와 함께 ‘AI 4대 천왕’으로 불린다. 수십 년간 뚜렷한 발전이 없던 AI 분야의 겨울을 끝내고 오늘날의 AI 붐을 이끈 공로로 2018년 힌턴, 르쾽 교수와 함께 ‘컴퓨터 과학의 노벨상’이라 불리는 튜링상을 받았다.