테슬라 자율 주행 자동차의 한계 - 가상의 표지판의 구분

운행 중 설치된 도로광고판에 가상의 도로 표지판을 순간적으로 반짝이게 함 

테슬라의 자율주행 장치는 전기자동차 판매전략 중 하나고 많은 사람들이 완전한 자율주행의 상용화를 기다리고 있다.

그런데, 이스라엘의 한 대학 연구팀이 테슬라의 자율 주행 장치를 속일 수 있는 실험을 성공적으로 마무리했고

자율 주행 자동차의 새로운 한계를 발견하게 되었다. 

 

연구자들이 테슬라의 자율주행차에게 비디오 광고판을 보여주면서 이후 임의로 만들어진 속도제한 혹은 정지표지판 이미지를 투사했을 때 자율주행 시스템이 이를 포착하고 투영된 도로 표지판을 따라갔다.

해당실험은 테슬라의 자율주행 장치가 얼마나 인지를 잘하는 지를 보여주기도 하지만, 반대로 도로에서 혼란을 일으킬 수 있다라는 것을 보여주기도 한 실험이다.

'순간적인 환영 공격' 실험

가상 이미지를 인터넷에 연결된 도로변 광고판, 표지판에 삽입하는 원격 해커 공격이 있다면 운전자에게 큰 피해가 발생할 수 있다. 그래서 도로의 중간 광고판에 미리 만들어진 영상 - 속도제한 이미지가 삽입되어 1/1000초 동안 반짝이게 하는 ‘2D 이미지’ 테스트를 진행했다.

 

결과는 테슬라가 광고판에 순간적으로 번쩍이는 가짜 속도제한을 따르는 결과가 나왔다.

심지어 광고판 영상을 해킹할 필요도 없이 아마존에서 쉽게 구입할 수 있는 300달러 빔 프로젝터를 사용하여 광고판 위에 투사하는 것도 동일한 결과로 이어졌다. 이런 빔 프로젝터는 비행드론에 쉽게 설치할 수 있으며 빔 프로젝터의 투영시간도 1/1000초 정도면 충분하다.

가상의 2D 사람 투영

또 도로에 투사된 가상의 2D 사람을 인식하고 자율주행 장치가 브레이크를 사용하여 차량을 감속, 정지 시켰다.

이외에도 단순히 광고판이나 2D이미지를 투영하는 데에서 그치는게 아니라 도로벽, 나무 등에 투영하는것에서도

같은 패턴을 볼 수 있었고 실제 도로 표지판과 투영된 가상의 도로표지판을 구분하지 못했다.

 

가상의 도로 노선

악의적인 사람이 있다면, 자율주행 차는 브레이크 또는 방향 전환과 같은 원하지 않는 행동을 취하도록 할 수 있다고 보여지고 다른 차량이 인근차선으로 들어가 도로에 새로운 노선을 투영하고 차선을 회전, 조정하도록 속인다면 차량승객의 생명을 위협할 수 있는 우려가 생기게된다.

 

대부분의 자율주행 자동차 업체가 운전자들은 직접 감독만하거나 뒷자리에 앉아 시간을 보내며 자율주행차량을 이용하라고 홍보를 하기 때문에 이 실험은 중요한 의미를 가질 수 있다.

자율주행차량을 사용하더라도 손은 운전대에, 눈은 도로를 주시해야 할 필요가 있겠다. 악용을 위한 프로젝터 이미지 주사는 단 1초도 걸리지 않기 때문에 운전자의 즉각적인 반응이 중요할 것이다.

실제 속도제한 표시와 나무에 투영된 가상의  속도제한 표시

 

 연구팀은 Tesla, Mobileye 에게 해당 실험 결과를 알렸지만 아직 시스템을 개선하지 않았다고 한다.

사실 개선을 하지 않았다기 보단 개선을 하지 못하는 것에 더 가까울 것이다.

이미지를 인식, 감지 하는 소프트웨어가 나무에 임의로 투영된 도로 표지판과 나무 옆에 존재하는 실제 표지판의 차이를 감지할 수 있는 방법이 없기 때문이다. 이와 동일하게 임의로 투영된 가상의 도로선과 실제로 그려진 합법적인 도로선을 구분하는데 있어서도 마찬가지다.

 안전한 상용화를 위해 자율주행 시스템은 사람, 자동차, 표지판 등등의 투영을 실제와 반드시 구별할 수 있어야 한다. 

 

 

출처:

https://www.zdnet.com/article/tesla-and-other-autopilot-driven-cars-tricked-with-2d-projections/

Tesla and other autopilot-driven cars tricked with 2D projections | ZDNet

https://interestingengineering.com/teslas-autopilot-can-be-tricked-in-just-a-split-second-through-this-method

 

 

 Author Bella