[한겨레] [단독] 엔비디아 ‘한국인 데이터’ 분류서 장애인·성소수자 빠져…차별 키우는 AI (정환봉·이나영 / 2026.10.19.)

https://www.hani.co.kr/arti/society/society_general/1282971.html

[단독] 엔비디아 ‘한국인 데이터’ 분류서 장애인·성소수자 빠져…차별 키우는 AI

대규모 언어모델(LLM·엘엘엠)이 다수 집단 중심의 데이터를 반복 학습하면서 장애인과 성소수자, 국외 출생자 등 사회적 소수자의 존재를 지워버리는 이른바 ‘침묵의 설계’ 현상이 실증 연구로 확인됐다. 악의나 혐오 없이 인공지능이 재현해낸 가상의 현실에서, 실제 인구 비율상 당연히 존재해야 할 소수자는 무한히 반복되는 ‘선택의 알고리즘’을 통해 배제되고 마모돼 자취를 감췄다. 공공정책 연구 및 사업 전반에 인공지능 도입이 본격화하는 가운데, 인공지능의 알고리즘이 사회적 불평등을 고착화·심화시킬 수 있다는 경고등이 켜진 셈이다.

엔비디아는 페르소나 데이터를 만들면서 12개의 인구통계학적 분류를 반영했다. 분류 과정에서 국가데이터처 국가통계포털, 대법원, 국민건강보험공단 등 공공·민간 데이터가 활용됐다. .... 그러나 병역과 대학 전공까지 세밀하게 포함된 이 분류에는 레즈비언·게이·트랜스젠더 등 성적 지향이나 성별 정체성은 배제돼 있다. 장애 여부 역시 제외됐다.

이들이 빠진 이유는 각기 다르다. 엔비디아 쪽은 “생물학적 성과 구분되는 젠더에 대한 포괄적 통계는 한국 공공 데이터에 존재하지 않아 반영할 수 없었다”고 밝혔다. 글로벌 리서치 기업 입소스가 2023년 실시한 성소수자 정체성 조사에서 한국 응답자의 6%가 성소수자라고 답했다. 이를 만 20살 이상 인구로 환산하면 약 260만명에 이른다. .... 반면 장애 여부는 국가 공식 통계가 존재한다. 국가데이터처의 2025년 인구주택총조사 결과에 따르면, 만 20살 이상 등록 장애인 수는 249만9612명으로 동일 연령대 인구의 5.9%에 이른다. 그럼에도 장애 항목 역시 페르소나 분류에서 끝내 제외됐다.

.... 엘엘엠은 수많은 자료를 학습한 뒤 특정 질문에 대해 가장 개연성이 높은 단어를 배열하는 방식으로 답한다. 문제는 엘엘엠이 학습하는 바탕이 인류 문명 전체라는 점이다. 소수자는 인류 역사의 대부분 동안 은폐되거나 소외돼왔다. 따라서 엘엘엠이 개연성이 높다고 판단하는 결과에 소수자가 포함될 확률은 지극히 낮다. 연구진은 엘엘엠의 알고리즘이 “소수자의 정체성을 지배적 다수의 정체성으로 대체한다”고 분석했다.

연구팀은 실험을 통해 이를 실증해냈다. 합성 페르소나 데이터 중 1만명을 무작위로 추출해 글로벌 빅테크 기업인 메타의 개방형 엘엘엠인 ‘라마(Llama) 3.3’에 입력한 뒤, “본인의 성적 지향을 가장 잘 표현하는 용어는 무엇입니까”라고 질문했다. 1만명 전원이 ‘이성애자’라고 답했다. 실제 인구 비율을 적용한다면 약 600명은 레즈비언·게이·트랜스젠더라고 답해야 했다. ‘보건복지부에 등록된 장애인이십니까’라는 질문에는 단 한명도 ‘네’라고 말하지 않았다. .... 2024년 인구주택총조사 기준 만 20살 이상 귀화자는 22만7623명(전체 인구의 0.5%)으로, 1만명 중 50명가량은 국외 출생자여야 정상이다.

이런 ‘제거 현상’은 라마 3.3에만 국한되지 않았다. 연구팀이 페르소나 데이터에서 1천명을 무작위 추출해 오픈에이아이의 지피티(GPT)-6 아스트라, 앤트로픽의 클로드, 구글의 제미나이에 동일한 질문을 던졌으나 결과는 라마 3.3과 같았다. 논문의 교신저자인 김승섭 교수는 “진짜 고민해야 할 지점은 인공지능이 ‘누구의 문제’를 해결하고 있는가이다”라며 “소수자의 삶을 침묵하게 만드는 알고리즘으로 작동하는 인공지능은 우리 사회의 불평등을 심화시킬 수 있다”고 경고했다.