자율주행차, 피부가 어두운 보행자를 밝은 보행자만큼 자주 감지하지 못할 수 있다

PDS는 경로에서 세 명의 StartFragment Fitzpatrick scale test흰색의 보행자를 감지 (출처: 크리에이티브 커먼즈 버지니아 교통부)

 

(2020.06.17) 새로운 연구에 따르면 운전자 없는 자동차는 어두운 피부 색소 감지 능력이 더 떨어지는데, 이는 자율주행 자동차가 흑인 사회에 직면하여 이미 불균형한 보행자 사망률을 해결하지 못할 수도 있다는 것을 의미한다.

조지아 공대의 연구에 따르면, 대다수 보행자 감지 시스템에 내장된 안면 및 신체 인식 기술은 피부가 밝은 사람들을 주로 인식했고 피부가 더 어두운 사람들을 덜 인지하고 반응하지 않았다. 연구원들은 기계 학습 환경에 인간의 피부색을 구별하기 위해 흔히 사용되는 Fitzpatrick 테스트에서 4, 5, 6 단계의 피부 타입을 가진 인간의 형상을 마주했을 때 4~10%의 일관적인 정확도가 낮다는 것을 발견했다.

 

 

Fitzpatrick scale test

 

많은 흑인, 원주민, 그리고 다른 유색인종들은 Fitzpatrick 척도의 상위권에 속한다. 유색인종들은 자동차와의 보행자 충돌로 사망할 가능성이 훨씬 더 높았다.

 

유색인종 보행자가 상대적으로 치명적인 충돌 사고 위험 가능성이 높음을 나타내고 있음 (출처 : Smart Growth America)

 

하지만 문제는 자동화된 탐지 시스템이 왜 흑갈색의 피부를 탐지하는 데 서투르냐는 점이다. 연구원들은 두 가지로 주요한 이유를 지적하고 있으며 그 이유는 기업들이 인간 운전자보다 더 똑똑해야 하는 컴퓨터를 훈련시키기 위해 사용하는 불공평한 데이터셋과 관련이 있다.

 

첫째, 평균적으로 대다수 보행자 감지 시스템이 훈련된 데이터셋은 피츠패트릭 점수가 낮은 보행자(일반적으로 흰색)의 점수가 높은 보행자의(검은색, 갈색) 점수 보다 3.5배 더 많았다. 보행자 감지 시스템은 보통 훈련된 모델에서 가장 자주 보았던 피부색의 보행자들의 생명을 구하는 게 더 낫다고 생각하며 피부가 검은 사람들의 이미지는 훨씬 더 적게 보고 있었다.

 

둘째, 연구원들은 데이터셋 자체가 상당히 작다는 것을 발견했다. 고등학교 통계수업을 들은 사람이라면 알고 있듯이 너무 작은 데이터셋들은 잘못된 분석에 기반하여 위험한 판단을 내릴 수 있다. 이것이 기계학습과 인공지능 시스템을 구축하는 사람들이 보행자 감지 시스템을 훈련시키기 위해 이용할 수 있는 데이터 확장을 적극적으로 노력하고 있는 이유 중 하나이다. CAPTCHA(자동 로그인 방지시스템)에서 횡단보도를 선택하여 이메일 서버에 “인간임을 증명”한 적이 있다면, 아마 본인도 모르게 자동화된 차량의 트레이닝셋에 추가했을 것이다. 하지만 수년간의 노력에도 불구하고, 데이터셋은 여전히 충분하지 않다.

 

자동화된 자동차들은 매일 점점 더 스마트해질지 모르지만 이런 차량에 앞서 수많은 연구들이 보여주듯이 자동화된 차량은 아직 도로 위에 있을 만큼 충분히 똑똑하지 않으며 이미 보행자가 사망한 사례들이 있다. 게다가 보행자 감지 시스템이 자동차 사고를 100% 예방하고 보행자의 생명을 100% 구할 수 있을 만큼 충분히 스마트해 질 것이라는 것을 아직 증명하지 못했다.

 

도로안전보험연구소의 최근 연구에 따르면, 내일 도로에 있는 모든 자동차가 자율주행차로 만들어지더라도, 적어도 66퍼센트의 충돌은 여전히 일어날 것이라고 했다. 연구는 자율주행차는 위험하게 만들어진 환경에서 위험한 기계를 조종하는 복잡한 임무를 감당하지 못하며 인간이 기계를 과대평가하며 인종 편견을 가지고 자율주행차가 도울 것을 요구하는 것이라고 말하고 있다. 

 

자율주행차는 교통법규를 준수할 뿐만 아니라 보행자 통행량이 많은 지역이나 가시성이 낮은 지역에서 사람이 운전하는 것 보다 더 느리게 운전하는 등 도로 상황에 적응하고 다른 도로 이용자들이 무엇을 할 것인지에 대한 불확실성을 감안한 주행 전략을 구현해야 한다. 단기적으로 가장 좋은 접근방식은 흑인 및 유색인종 사회에 영향을 미치는 근본적인 인종차별적 교통폭력을 없애고 혁신 기술이 모든 문제를 해결해주기를 바라는 것을 중단하는 것이다.

 

 

 

[출처] https://usa.streetsblog.org/2020/06/17/study-avs-may-not-detect-darker-skinned-pedestrians-as-often-as-lighter-ones/

Study: AVs May Not Detect Darker-Skinned Pedestrians As Often As Lighter Ones

Edited by Lucy