갈수록 늘어나는 AI 기술부채로 일부 자율주행차 침몰 우려

많은 AI 기술 부채가 산적해 있다.

(2021.08.09.) 셰익스피어는 우리에게 빚을 지는 것의 위험에 대해 경고한 것으로 유명하며, "빌려주는 사람도 대출받는 사람도 아니다; 대출은 종종 자신과 친구를 잃는다"고 말했다. 일부 빚에 시달리게 되는 사람들은 그들 자신이 최악의 나락으로 빠져들고 있음을 알게 된다. 빚은 그들과 사랑하는 사람, 친구, 지인들에게 지독한 악영향을 미치고, 그 외에도 의심할 여지 없이 끔찍한 소식을 전할 징조이기도 하다.

 

 하지만 어떤 사람들은 자신들이 많은 빚을 지고 있다는 것을 알고도 그렇게 하고 있다. 그들은 빌린 돈이 상당한 보상을 해줄 것으로 기대하고 있다. 부채를 떠안는 것은 수익성이 매우 높을 수 있으며, 이것이 검증된 전략인 경우가 많다.

기자가 이러한 이야기를 하는 이유는 소프트웨어 개발 영역에서 발생하고 기술 부채를 소개하기 위해서이다.

 

기술 부채란?

 

 기술부채란 일반적인 부채가 이자를 내고 돈을 당겨쓰는 것처럼 기술적으로 해결되야 할 문제를 뒤로 미루고, 비즈니스 문제를 해결하기 위한 시점을 앞당기는 것이다.

일반적인 부채와 유사점들이 많은데, 기술부채만의 특징은 갚아야 할 양이 정확이 예상되지 않으며 어느시점에, 얼마를 해결해야한다는 지에 대한 견적이 나오지 않는다는 것이다.

 

 이러한 부채는 소프트웨어 개발에서도 발생하는 데 예를 들어 마감일을 맞추기 위해 대충 처리하는 코드의 구성, 오류 처리를 다른 사람에게 미루는 등의 형태로 발생할 수 있다.

 

 기술부채가 문제가 되는 이유는, 훗날 기술 부채를 충당하기 위한 비용이, 기술부채가 처음 발생했을 때 인지된 부채 양보다 몇 배나 더 많을 수 있기 때문이다. 예를 들어 기술부채로 인한 다운된 앱을 부활시키기 위해 다른 프로그래머가 빠르게 투입되는데, 코드를 보면 프로그래머는 문서가 전혀 없다는 사실에 당황하고, 당연히 코드도 이해할 수 없다. 이 애매한 코드 더미를 해독하는 데 몇 주 또는 몇 달이 걸리며 시간을 낭비하게 될 것이다.

 

AI 기술 부채란?

 

 AI 시스템이 강화된 엄격한 제어 및 기능으로 개발되었다고 가정할 수 있지만 슬프게도 이는 오해일 수 있다. AI 시스템 제작을 향한 성급함은 유감스럽게도 신뢰도가 낮고 동시에 테스트가 제대로 이루어지지 않아 실패를 기다리고 있는 소프트웨어로 가득 찬 골드러시로 이어졌다. 이런 전반적인 소프트웨어 기술 부채 측면과 AI 골드러시 현상을 연결해볼 때 삶과 죽음과 관련된 시스템을 수반하는 문제, AI 기반 자율주행차라는 답이 나오게 된다.

 

 현재 AI 자율주행차 개발에 AI 기술 부채가 발생하고 있다는 것은 누군가에게는 놀랍고 충격적일 수도 있다. 자동차의 미래가 인공지능 기반의 진정한 자율주행차로 구성돼 있다는 점을 생각하면 더욱 놀라운 사실이 아닐 수 없다. 진정한 자율주행차는 사람의 운전이 아닌 AI 운전 시스템을 통해 구동된다는 점을 명심해야 하며 기술의 부채는 이러한 부분에 영향을 줄 것이다.

 

자율주행차의 분류 이해

 

 먼저 자율주행차에 대한 이해를 해야한다. 명확히 설명하자면 진정한 자율주행차는 AI가 전적으로 스스로 운전하는 차이며, 운전 과제 중에는 사람의 도움이 전혀 없는 차다.

대체로 레벨 4 및 레벨 5로 간주되며, 인간 운전자가 주행 노력을 들여야 하는 차량은 일반적으로 레벨 2 또는 레벨 3으로 간주된다. 주행을 공동으로 공유하는 자동차는 반자율적이며, 일반적으로 ADAS(Advanced Driver-Assistance Systems)라고 하는 다양한 자동 추가 기능을 포함하고 있다.

 

 한편, 레벨 4의 노력은 이 테스트가 그 자체로 허용되어야 하는지에 대한 논란이 있지만 매우 좁고 선별적인 공공 도로 실험을 통해 점차 설득력을 얻으려고 노력하고 있다. (우리는 모두 고속도로에서 행해지는 실험에서 생사를 위협 받는 실험 대상이다). 일부는 우리의 고속도로와 샛길에서 일어나고 있다고 주장한다.

 

 반자율 자동차의 경우 최근에 발생하고 있는 불안한 측면에 대해 대중에게 미리 경고하는 것이 중요하다. 즉, 인간 운전자가 레벨 2 또는 레벨 3 자동차의 운전석에서 졸고 있는 동영상을 계속 게시함에도 불구하고, 우리 모두는 반자율 자동차를 운전하는 동안 운전자가 운전 작업에서 주의를 뗄 수 있다고 오도하지 않아야 한다. 레벨 2 또는 레벨 3에 얼마나 많은 자동화가 적용되는지에 관계없이 차량의 운전 행위에 대한 책임자는 운전자에게 있다.

 

자율주행차와 AI 기술부채의 상관관계

 

 레벨 4, 레벨 5의 진정한 자율주행차는 운전에 인간 운전자가 관여하지 않으며, 모든 탑승자는 승객이며 동시에 AI가 운전을 하게 된다.

 

 당장 논의해야 할 측면은 오늘날의 AI운전 시스템에 관련된 AI가 민감하지 않다는 점이다. 즉, 인공지능은 모두 컴퓨터 기반 프로그래밍과 알고리즘의 집합체이며, 인간이 할 수 있는 것과 같은 방식으로 추론할 수 없는 것이 가장 확실하다.

 

 AI 운전 시스템의 역할을 논할 때 인간의 자질을 AI에게 돌리는 것이 아니라는 점을 강조하게 되는데 요즘 인공지능을 의인화하려는 경향이 지속되고 있으며 이러한 현상은 위험한 것으로 보여진다.

근본적으로, 사람들은 아직 인간과 완전히 같은 인공지능이 존재하지 않는다는 부정할 수 없음에도 불구하고 인간다운 인식을 오늘날의 인공지능에 부여하고 있다. 따라서, AI 운전 시스템이 기본적으로 운전이란 분야에 대해 "알지" 못할 것이라고 생각할 수 있고 운전과 그에 수반되는 모든 사항들은 자율주행차의 하드웨어와 소프트웨어의 일부로 프로그래밍 되어야 한다.

 

 AI 운전 시스템과 오늘날의 자율 주행 자동차 관련 코드에는 AI 기술 부채가 많이 존재한다.

첫째, 자율주행차의 기능을 강화하고 활성화하기 위한 코드 라인이 1억 개 이상 존재할 수 있다는 추정도 있다. 여기에는 특정 자동차 회사나 자율주행차가 자체 개발한 고유 코드가 포함되며 AI 구동 시스템과 기타 구성요소가 혼합된 오픈 소스 코드를 사용하는 등 타사 코드의 영역과 영역도 포함된다.

 

 이러한 과정에서 안타깝게도, 많은 기업들이 자신들이 얼마나 많은 AI 기술 부채를 떠안고 있는지 모르고 있다. 이것은 금융 부채를 떠안고 그들이 그렇게 하고 있다는 것을 모르는 사람들과 다소 유사하다.

AI 기술 부채는 발생하며 동시에 기록되거나 추적되지 않는다. 일부 AI 개발그룹과 이들의 놀라운 AI 드라이빙 시스템 개발 노력도 마찬가지다. AI 기술부채가 여기저기 쌓이고 있지만 쌓이고 있다는 사실에 주목하려는 노력은 뚜렷하지 않다.

 

자율주행 차량의 AI 기술 부채는 어디에서 발생되는가

 

 자율주행차의 가장 중요한 분야 중 하나는 센서 제품군의 기반이 되는 AI와 모든 기계 조작의 구성이다. 자율주행차의 센서는 매우 중요하다. 대체로 실시간 비디오카메라, 레이더, LIDAR, 초음파탐지, 열화상 등을 아우르는 센서가 활용되고 있다.

 

 이 센서는 기본적으로 AI 운전 시스템의 눈과 귀의 역할을 한다. 주행 중에 데이터가 센서로 스트리밍되고 계산적으로 분석된다. 필요한 컴퓨터 패턴 매칭을 수행하는 중요한 방법은 머신러닝(ML)과 딥러닝(DL)을 활용하는 것이다. 데이터를 직접 분석하는 것 외에도 멀티 센서 데이터 퓨전(MSDF)을 수행하여 데이터를 통합하고 주행 장면의 해석을 정렬하고 삼각 측량할 필요가 있다. 이러한 감각 사용을 위한 모든 복잡한 코드에는 모든 종류의 AI 기술 부채가 숨겨져 있다.

 

 AI 주행시스템을 총동원해 자율주행차를 세우고 시험장에 나가려고 서두르는 바람에 부채 중 일부가 발생하기도 하며 AI 개발자를 코드 개발, 초보 AI 개발자의 기술력 확대, 능숙한 AI 개발자의 기술력 벼랑 끝으로 몰아넣은 결과 빚의 일부가 존재하기도 한다. 또한 이는 엄격한 추적 및 소프트웨어 코딩 관행을 수립하고 준수하지 않고 수행하는 경우로 인한 사례도 있다.

 

AI 기술부채를 직접 경계하는 자율주행차 업체는 상대적으로 적다.

 

 앞으로 업체는 AI 기술 부채가 잠재적으로 어디에 잠복해 있는지를 알아내야 한다. 하지만 이것은 힘들고 어려운 과정일 수 있고 때론 누군가에게 손가락질 받을 수도 있다.

 AI 기술 부채는 자율 주행 자동차의 각 단계와 수명 주기 전반에 걸쳐 발생할 수 있다. 아직 밝혀지지 않은 설계 부채 측면이 있을 수 있으며, 아마도 자율주행차가 도로 시험에서 진행되고 나서야 가시성을 얻을 수 있을 것이다.

 AI팀이 최소한 기술부채가 어디서 발생하는지 알고 있다면 기술부채가 존재할 수 있는 단점을 고려할 수 있다. 가령 부채의 위험을 최소화하려고 노력하거나 부채와 관련된 기술지분의 발생금액을 줄일 방법을 모색할 수 있을 것이다.

 

[출처] https://www.forbes.com/sites/lanceeliot/2021/08/09/there-is-increasingly-mounting-ai-technical-debt-that-is-going-to-inevitably-sink-some-self-driving-cars/?sh=34e0d5be2b7f

Editor Song