AI를 깨서 더 좋게 만들기

AI를 깨서 더 좋게 만들기
연구원들은 미지의 문제에 직면했을 때 답변의 패턴을 연구하여 AI를 더욱 강력하게 만드는 방법을 조사합니다.
날짜:
2022년 6월 30일
원천:
규슈대학
요약:
현재 AI는 매우 정확하지만 이미지 인식에서 융통성이 없습니다. 이것이 정확한 이유는 미스터리로 남아 있습니다. 연구원들은 신경망이 알려지지 않은 요소를 처리하는 방법을 평가하기 위해 'Raw Zero-Shot'이라는 방법을 개발했습니다. 그 결과는 연구자들이 신경망을 '강력하지 않은' 것으로 만드는 공통 기능을 식별하고 AI를 보다 안정적으로 만드는 방법을 개발하는 데 도움이 될 가능성이 있습니다.

오늘날 이미지 인식에 사용되는 인공 지능 시스템은 상업용 응용 프로그램에 대한 엄청난 잠재력과 함께 믿을 수 없을 정도로 강력합니다. 그럼에도 불구하고 이미지 인식을 지원하는 딥 러닝 알고리즘인 현재 인공 신경망은 한 가지 큰 단점이 있습니다. 바로 약간 수정된 이미지에도 쉽게 깨집니다.

이러한 '견고함'의 부족은 더 나은 AI를 구축하고자 하는 연구자에게 중요한 장애물입니다. 그러나 이 현상이 발생하는 정확한 이유와 그 이면의 기본 메커니즘은 거의 알려지지 않았습니다.

언젠가 이러한 결함을 극복하기 위해 큐슈 대학 정보 과학 및 전기 공학부의 연구원들은 신경망이 알려지지 않은 요소를 처리하는 방법을 평가하는 'Raw Zero-Shot'이라는 방법 을 PLOS ONE 에 발표했습니다. 그 결과는 연구자들이 AI를 '비견고'하게 만드는 공통 기능을 식별하고 문제를 수정하는 방법을 개발하는 데 도움이 될 수 있습니다.

연구를 주도한 다닐로 바스콘첼로스 바르가스(Danilo Vasconcellos Vargas)는 "자율주행 자동차와 의료 진단 도구를 포함하여 이미지 인식 신경망을 위한 다양한 실제 응용 프로그램이 있습니다."라고 설명합니다. "하지만 AI를 아무리 잘 훈련시켜도 이미지가 조금만 바뀌면 실패할 수 있습니다."

실제로, 이미지 인식 AI는 하나를 식별하도록 요청받기 전에 많은 샘플 이미지에 대해 '훈련'됩니다. 예를 들어 AI가 오리를 식별하도록 하려면 먼저 많은 오리 사진으로 AI를 훈련시켜야 합니다.

그럼에도 불구하고 가장 잘 훈련된 AI라도 오도될 수 있습니다. 사실, 연구자들은 인간의 눈에는 변경되지 않은 것처럼 보일 수 있지만 AI가 정확하게 식별할 수 없도록 이미지를 조작할 수 있음을 발견했습니다. 이미지의 단일 픽셀 변경조차도 혼동을 일으킬 수 있습니다.

왜 이런 일이 일어나는지 더 잘 이해하기 위해 팀은 훈련되지 않은 샘플, 즉 AI에 알려지지 않은 요소에 직면했을 때 어떻게 행동하는지 패턴을 식별하기 위해 다양한 이미지 인식 AI를 조사하기 시작했습니다.

"AI에게 이미지를 주면 그 답이 맞든 아니든 그것이 무엇인지 말하려고 할 것입니다. 그래서 오늘 가장 일반적인 12개의 AI를 가져와 'Raw Zero-'라는 새로운 방법을 적용했습니다. 샷 학습'" Vargas가 계속됩니다. "기본적으로 우리는 힌트나 훈련 없이 AI에게 일련의 이미지를 제공했습니다. 우리의 가설은 그들이 대답하는 방식에 상관관계가 있을 것이라는 것이었습니다. 그들은 틀릴 수도 있지만 같은 방식으로 틀릴 수도 있습니다."

그들이 발견한 것은 바로 그것이었다. 모든 경우에 이미지 인식 AI가 답을 생성하고, 그 답은 틀리지만 일관성이 있습니다. 즉, 함께 클러스터링됩니다. 각 클러스터의 밀도는 AI가 다양한 이미지에 대한 기본 지식을 기반으로 알 수 없는 이미지를 처리하는 방법을 나타냅니다.

Vargas는 "AI가 무엇을 하고 있고 알려지지 않은 이미지를 처리할 때 무엇을 배웠는지 이해한다면 동일한 이해를 사용하여 단일 픽셀 변경 또는 약간의 수정이 있는 이미지에 직면했을 때 AI가 중단되는 이유를 분석할 수 있습니다"라고 말합니다. "하나의 문제를 다른 관련 문제에 적용하여 한 문제를 해결하려고 시도하면서 얻은 지식을 활용하는 것을 Transferability라고 합니다."

팀은 CapsNet으로도 알려진 Capsule Networks가 가장 조밀한 클러스터를 생성하여 신경망 간에 최고의 전송성을 제공한다는 것을 관찰했습니다. 그들은 CapsNet의 동적 특성 때문일 수 있다고 믿습니다.

Vargas는 "오늘날의 AI는 정확하지만 추가 유틸리티를 위한 견고성이 부족합니다. 우리는 문제가 무엇이며 왜 발생하는지 이해할 필요가 있습니다. 이 작업에서 우리는 이러한 문제를 연구할 수 있는 전략을 보여주었습니다"라고 결론지었습니다. "정확성에만 초점을 맞추는 대신 견고성과 유연성을 향상시키는 방법을 조사해야 합니다. 그러면 진정한 인공 지능을 개발할 수 있을 것입니다."