(데일리포스트 이미지 출처=pxhere 제공)
데일리포스트 이미지 출처=pxhere 제공

[데일리포스트=김정은 기자] 인공지능(AI) 기술을 통해 진료를 개선하고 환자에게 도움을 주기 위한 많은 연구가 이루어지고 있다. 하지만 일각에서는 AI 알고리즘의 편향 문제로 인해 AI 기술의 의료 적용에 보다 신중해야 한다고 지적한다. 실제로 연간 2억 명이 이용하는 미국 의료시스템에서 인종차별이 일어나고 있다는 연구결과가 지난 10월 국제학술지 '사이언스'에 공개된 바 있다. 

사이언스에 게재된 연구팀 논문
사이언스에 게재된 연구팀 논문

◆ 美연구진, 의료 시스템의 ‘자동화된’ 흑인 불평등 확인   

의료 현장에서는 과거 병력 및 건강진단 결과 등 잠재적인 건강 위험을 예측해 질병 가능성이 높은 사람에게 우선적으로 의료 서비스를 제공하는 시스템이 사용되고 있다. 이는 머신러닝에 의해 자동으로 판단되며, 인종 데이터도 취급하지 않기 때문에 편견을 방지하고 공정하고 효율적인 의료 서비스를 제공할 수 있다고 믿어 왔다. 

그러나 캘리포니아주립대 버클리캠퍼스 보건대학원 연구팀이 의료 시스템 데이터베이스와 인종 데이터를 비교 한 결과, 만성질환 수가 같은 경우라도 흑인의 건강위험 점수가 비흑인에 비해 10점 낮게 나타나는 것을 확인했다. (아래 그래프) 

캘리포니아주립대 버클리캠퍼스 보건대학원 연구팀 발표 자료 

연구팀이 실제 의료기록을 검증해보니, 당뇨병·빈혈·신부전·고혈압 등의 질병은 오히려 비흑인보다 흑인이 많았다. 즉, 흑인이 비흑인에 비해 의료 서비스 필요성이 낮지 않다는 것. 

이러한 차이가 나타난 원인은 흑인이 의료를 받을 때 사용한 연간 의료비가 다른 인종에 비해 평균 1800달러(약 213만원) 적었기 때문이다. 의료비 차이가 흑인에 대한 불평등한 AI 의료 알고리즘으로 표면화된 것이라고 연구진은 추정하고 있다. 

◆ AI, 인간이 만든 데이터 통해 편견과 차별까지 학습   

사이언스 게재 논문의 내용은 간단히 말해 의료 알고리즘이 흑인환자의 치료 수요를 비흑인 환자에 비해 과소평가하고 있다는 것. 결국 의료비 데이터를 통해 고액 치료를 받지 못하는 흑인환자에 대한 차별이 확인된 셈이다.  

코리 부커 미 상원의원이 연방 거래위원회에 보낸 공개서한 

이에 따라 코리 부커(Cory Booker) 상원의원과 론 와이든(Ron Wyden) 상원의원은 연방거래위원회(FTC)에 의료 알고리즘의 인종 편향성으로 인한 피해를 조사하고 있는지, 또 의료관련 기업에 대한 알고리즘 조사는 이루어지고 있는지 등을 묻는 공개서한을 발표했다.

사이언스 게재 논문의 공동저자인 브리검 앤 여성병원의 브라이언 파워(Brian Powers) 박사는 "알고리즘 편차를 검출하기 위한 툴은 존재하지만 이를 활용한다 해도 편견의 잠재적 원인을 제거할 수 없다"며 "모든 알고리즘에 적용 가능한 하나의 해결방법은 존재하지 않는다"고 언급했다. 

또 "이번에 문제가 드러난 의료 알고리즘이 의료비를 질병의 지표로 활용한 사례처럼 대리지표를 이용한 알고리즘은 보다 신중한 검토가 필요하며, 대리 지표의 편견은 개별적인 평가가 필요하다"고 지적했다. 

데일리포스트 이미지 출처=Unsplash 제공
데일리포스트 이미지 출처=Unsplash 제공

미국 씽크탱크기관 부르킹스 연구소의 니콜 터너 리(Nicol Turner-Lee)는 "툴은 구축방법의 문제점 특정에 도움이 되지 않는다"며 AI의 편견 해소를 위해 의료시스템·의사·알고리즘 개발 그룹 등이 연계해야 한다는 견해를 밝혔다. 

저작권자 © 데일리포스트 무단전재 및 재배포 금지