서울대 공대 전기정보공학부 이정우 교수팀, 인공지능 모델 신뢰도 높이는 AI 편향성 감소 기술 개발

서울대학교 공과대학은 전기정보공학부 이정우 교수 연구팀이 인공지능(AI) 학습 데이터에 존재하는 편향성(Bias)을 감소시키는 원천 기술을 개발했다고 밝혔다.

이정우 교수가 창업한 AI 자동학습 플랫폼 기업 ‘호두에이아이(HodooAI)’는 지난 12월 9일부터 15일까지 캐나다 밴쿠버에서 열린 AI 이론 분야의 국제학술대회 ‘NeurIPS 2024 (Neural Information Processing Systems, 신경정보처리시스템학회)’에서 해당 기술을 제안한 논문 ‘Mitigating Spurious Correlations via Disagreement Probability’를 발표했다. 임팩트 팩터(Impact Factor) 24, 논문 채택률 25%의 최고 권위 학회에서의 이번 논문 발표는 서울대 CML (Cognitive Machine Learning Lab) 연구실 및 호두에이아이의 첨단 기술력을 국제적으로 인정받았다는 점에서 의미가 깊다는 평가를 받고 있다.

AI 실용화의 가장 큰 걸림돌은 데이터의 편향성(편견)에 기인한 AI 판단의 불공정성 및 불투명성 문제이다. 심지어 최근 많은 인기를 끌고 있는 챗GPT (ChatGPT)에도 이러한 불공정성 문제가 남아있다고 알려져 있다. 예를 들면 AI 모델을 통해 대출 신청자의 상환 가능성을 평가하는 은행은 소득 수준이 높은 특정 인종 또는 성별의 신청자를 주로 선호하게 된다. 이때 AI 모델이 신청자의 인종, 성별, 나이 대신 다른 합당한 근거에 기반해 공정하게 평가토록 하려면, 먼저 대출 신청자 데이터에 존재하는 편향성을 제거해야 한다. 이처럼 AI 학습 데이터의 편향성 문제는 모든 AI 기술이 내재한 근본적 문제이다.

이에 이정우 교수 연구팀은 다양한 학습 데이터 내의 가짜 상관관계(spurious correlations) 유무와 관계없이 올바르게 예측하도록 AI 모델을 학습시키는 AI 편향성 경감 기술을 개발했다. 이 획기적 기술을 활용하면 데이터의 지엽적 특징이 아닌 핵심 특징을 파악하는 AI 모델의 일반화 능력을 향상시킬 수 있다. 특히 이번 논문에서 제안된 알고리즘은 기존 AI 모델에 비해 약 21% 정도 향상된 정확도를 보이며 높은 성능과 신뢰도를 입증했다.

기술 개발에 나선 연구팀은 먼저 일부러 편향된 AI 모델을 만든 다음, 이를 이용해 모든 학습 데이터 샘플에 대해 가짜 상관관계가 존재하지 않을 확률을 구했다. 그 이후 가짜 상관관계가 존재하지 않을 확률에 따라 학습 데이터를 재추출(resampling)하고, 편향된 모델을 이어서 학습시켰다. 연구팀은 이 방식에 관해 가짜 상관관계가 존재하지 않을 확률이 높은 학습 데이터를 더 많이 추출되게 만듦으로써 AI 모델이 점차 가짜 상관관계에 의존하지 않도록 만들었다고 설명했다.

AI 모델의 가짜 상관관계 의존도를 줄이고, 모델이 핵심 요인을 정확하게 포착해 판단의 근거로 사용하도록 하는 이 편향성 경감 기술은 폭넓은 범용성을 갖췄다. 따라서 향후 영상·의료·법률·수치 데이터 등에 존재하는 편향성을 제거하는 기법으로 널리 사용될 수 있다. 특히 의료 현장에서 활용 시, 신속하고 정확한 진료에 크게 기여할 것으로 전망된다. 아울러 이 특허 기술은 향후 호두에이아이의 AI 플랫폼에서 ‘편향성 제거 AI 엔진’을 생성하는 핵심 기술로 사용될 예정이다.

한형근 연구원(제1저자)은 “이번에 선보인 기술이 AI 편향성 제거에 관한 국내 기술력을 세계적 수준으로 끌어올리는 데 큰 역할을 할 것“이라며” 앞으로 모델과 데이터 종류에 관계없이 AI 편향성 경감 기술 연구가 활발히 이루어져 신뢰도와 안정성이 보다 높아진 AI 모델이 세계 곳곳에서 안전하게 사용되길 기대한다”고 말했다.

연구를 지도한 이정우 교수는 “최고 권위의 AI 학회인 NeurIPS 2024에서 논문이 채택돼 기쁘게 생각한다”고 소감을 밝히면서 “더욱 혁신적인 기술 개발로 한국 AI 스타트업의 기술 수준을 높이는 데 기여할 것”이라고 포부를 밝혔다.

한국의 대표적인 ‘신뢰 가능한 AI (Trustworthy AI)’ 기술 전문가로 꼽히는 서울대 전기정보공학부 이정우 교수는 지난 2017년 연구실 제자 5명과 함께 AI 서비스 회사를 위한 AI 자동학습 플랫폼 기업 ‘호두에이아이(HodooAI)’를 설립한 바 있다. 이정우 교수가 발표한 이번 논문에 공저자로 참여한 한형근, 주형준, 김세환 연구원은 현재 ‘책임 있는 AI(Responsible AI)’ 연구에 매진하고 있으며, 향후 학계에서 후속 연구를 수행하거나 글로벌 기업 연구소에서 근무할 예정이다.

웹사이트: https://eng.snu.ac.kr/