좌측은 변조되지 않은 원본 이미지다. 우측 이미지도 육안으로는 좌측과 똑같아 보이지만 실제로는 변조가 이뤄져 심층신경망(DNN) 기반 소프트웨어의 눈에 타조로 인식된다. 가운데 이미지가 바로 알고리즘을 기만하기 위해 가해진 미묘한 왜곡이다. (출처: 구글-뉴욕대 공동연구팀. 2014년 2월)
구글 연구팀이 2015년 발표한 논문에 따르면 판다의 사진[좌]에 미세한 빛 왜곡[가운데]을 가했더니 구글의 이미지 인식 알고리즘 ‘구글넷(GoogLeNet)’이 이를 긴팔원숭이로 인식했다. 그것도 99.3%의 신뢰도로 말이다.
