AI 강의 2025 (박태웅 저 / 한빛비즈, 2024.12.20)

전작에 비해 최신의 내용을 추가했으나, 기존 챕터는 그대로 두고 새로운 뉴스들을 끼워 놓고 늘어놓은 느낌을 지울 수가 없다.  Open AI의 폐쇄적인 정책에 대한 전문가들의 성명서 전문 등을 추가한 것이 그러한 예다. 그러다 보니 책의 내용과 전개에 있어 매끄럽지 않고, 읽어야 할 텍스트만 많아지고 복잡해졌다.

개정판이지만 인공지능에 대한 실제적인 '내용'의 추가 보다는 '텍스트'의 추가에 집중한 개정판이다. "나는 왜 지금 이 시간에 이 책을 부여잡고 특정 이슈에 대해 특정인들이 발표한 성명서의 전문을 읽고 있어야 하나?" p267~p347는 정말 최악이다. 인공지능 윤리에 관한 각국의 법안이 나온다. 일부 조문과 해설 등은 요약되었거나 생략되었다고 하더라도 이 자그마한 책에 담아 놓은 이런 류의 내용은 책의 질과 저자의 평가를 하락시킨다. 책을 펴내는 저자라고 한다면 성명서나 법안의 전문이나 내용을 발췌하는 것이 아니라 해당 내용의 핵심과 우리에게 던지는 의미를 찾아내어 알기 쉽게 풀어서 설명해야 한다. 다음 번 개정판의 기대치가 심각하게 낮아졌다. ★

이미지 출처 : kyobobook.co.kr

"미디어는 메시지다"는 세계적인 미디어 학자 마셜 매클루언이 1964년 펴낸 불후의 고전 "미디어의 이해"에서 한 말입니다. <중략> 매클루언은 우리가 미디어가 전달하는 메시지에 집중하느라 정작 '미디어 자체가 가장 큰 메시지'라는 사실을 놓치고 있다고 말합니다. <중략> 우리가 대중을, '동시에 같은 뉴스를 보고, 같은 화제를 얘기하고, 같은 패션을 입고, 같은 유행을 타는 사람들'이라는 뜻으로 얘기하는 것이라면, 그런 대중은 매스미디어가 탄생함으롬써 비로소 생겨날 수 있었다는 것입니다. (p21~22)

얀 르쿤은 "거대언어모델은 인간 수준의 인공지능으로 향하는 고속도로에서 옆길로 새버린 것"이라고 말했습니다. 인공지능이 인간의 지능을 넘어서는 지점을 특이점이라고 하는데, 거대 언어모델로는 절대로 가지 못한다는것입니다. (p99)

 

인공지능이 생성한 학습 데이터로 훈련한 인공지능은 마치 종의 근친교배와도 같이 붕괴해 버립니다. 생성모델은 자신이 생성한 데이터로 훈련을 거듭할수록 점차 원본 데이터의 분포를 잃어가게 되는데 특히 분포의 꼬리 부분, 즉 빈도가 낮은 부분을 쉽게 잃게 됩니다. 최기 단계에서는 드문 특징들(예를 들어 아주 키가 큰 사람, 아주 키가 작은 사람)을 잊기 시작하다가, 나중이 되면 인공지능이 만든 것들이 본래 데이터와는 비슷하지도 않게 됩니다. (p249)

데이터가 공개적으로 사용 가능한 경우에도 함부로 데이터를 사용하면 '맥락 무결성'이라는 원칙을 위반할 수 있습니다. 이는 '개인의 정보가 원래 생성된 맥락을 벗어나 공개되지 않아야 한다'는 개인정보 보호의 기본원칙을 의미합니다. (p263)

2020년까지 전 세계에서 발표한 AI 관련 원칙은 80여 개에 이릅니다. 그중 주요한 36개의 보고서에서 제시한 다양한 원칙을 47개로 분류해보았습니다. 그러자 가장 공통이 되는 여덟 개의 핵심 주제가 드러났습니다.

프라이버시 / 책임성 / 안전과 보안 / 투명성과 설명가능성 / 공정성과 차별 금지 / 인간의 기술 통제 / 직업적 책임 / 인간 가치 증진 (p275)