최근 몇 년 사이에 가장 핫해지고, 가장 큰 규모의 투자를 받는 분야는 AI다. 앞으로 더 커질 것이고, AI는 모든 비즈니스에서 없어서는 안 될 필수 요소가 될 것임에는 의심의 여지가 없다. 하지만, 갈 길은 멀다. 너무 멀다. 대부분의 AI 회사가 제시하는 장밋빛 그림은 비현실적이고, 가끔 나는 AI 회사가 피칭하는걸 듣고 있다 보면 저 창업가 분들은 어느 시대에 살고 있나, 미래에서 왔을까라는 생각을 할 정도로 황당했던 적이 몇 번 있다. 하지만, 내가 이 분야의 전문가는 아니라서, 나도 이 기술, 이 비즈니스, 이 회사가 약속하는 미래가 정말로 실현 가능한지가 제대로 판단되지 않을 때가 많고, 이럴 경우 주변의 다양한 분들한테 조언을 구하지만, 그래도 이런 회사를 검토하는 건 항상 어렵다.

완벽하진 않지만, Zest AI라는 회사의 CTO가 최근에 테크크런치에 기고한 글을 한번 읽어보면, AI 회사나 기술을 검토할 때, 투자자, 고객, 또는 협력업체 입장에서 확인해봐야 하는 6가지 사항들이 나열되어 있는데, 이 AI 회사가 정말로 뭔가 있는 건지, 아니면 그냥 AI로 겉만 번드르르하게 포장되어 있는 건지를 판단할 때 꽤 유용한 거 같아서 간략하게 소개해본다.

1/ AI 훈련에 어떤 데이터를 사용하나?
Garbage in, garbage out이라는 말이 있다. AI가 좋은 결과를 만들기 위해서는 좋은 데이터로 훈련을 시켜야 한다. 제대로 된 AI 회사라면 정확하게 어떤 데이터를 사용해서, 어떤 결과를 예측할 수 있는지에 대해서 자세히 설명할 수 있어야 한다.

2/ 사람이 하는 일을 AI가 어느 정도 대체하는가?
AI가 구현되면 사람이 전혀 필요 없다든지, 또는 수십 명 또는 수백 명의 사람을 즉시 대체할 수 있다고 하는 회사는 의심해봐야한다. 아직 AI는 그 수준까지 오지 못했다. AI가 할 수 있는 일과 할 수 없는 일을 정확하게 지적할 수 있고, 아직 사람이 필요한 프로세스에 AI가 어떻게 적용될 수 있는지 잘 설명할 수 있어야 한다.

3/ 실제 사례가 있는가?
이 AI 기술이 실제로 구현된 사례가 있는지, 그리고 있다면, 구체적으로 어떤 문제가 있었는데, 어떻게 AI가 해결을 했고, 그 결과를 정량적으로 수치화할 수 있었는지를 물어봐야한다. 연구실에서 테스팅해봤다고 현실에서도 AI가 작동하진 않는다. 한 연구에 의하면 연구실에서 만들어진 AI 중 20%만 현실에서 돌아간다고 하듯이, 실생활에서는 실험에 사용한 가정이나 제약조건이 존재하지 않기 때문에, 어떤 고객이 실제로 사용했고, 정확히 어떤 결과가 발생했는지 확인해봐야한다.

4/ AI를 구축하는데 얼만큼의 노력, 시간, 그리고 자원이 투입됐는가?
수십 명의 데이터과학자와 공학박사들이 AI 모델링을 하고, 수 년 동안 연구실에서 알고리즘을 개발한 건 대단하지만, 그렇다고 실제로 현실에 적용했을 때 만족할만한 결과가 나오는걸 보장할 순 없다. 위 3번과 같이 확인해봐야한다.

5/ AI의 결정과 추천사항을 명확하게 설명할 수 있는가?
단순히 좋아할 만한 기사나 옷을 추천하는 건 누구나 할 수 있지만, 앞으로 AI가 해야 할 일은 점점 더 복잡해지고, 점점 더 규제를 받게 될 것이다. AI 기반의 대출 결정을 하거나, 또는 자율주행 결정을 할 때는, 왜 AI가 그런 결정을 했고, 왜 그런 추천을 했는지 명확하게 설명할 수 있어야 한다. 규제가 까다로운 분야라면, 더욱더 그렇다.

6/ AI의 의사결정에 공정성이 있는가? 편견은 없는가?
AI를 훈련하는 데이터에는 어쩔 수 없이 어느 정도의 바이어스가 들어가 있다. 가장 이슈가 많이 되는 게 인종과 성차별에 대한 바이어스인데, AI를 연구하는 인력 대부분이 백인남성이라는 점을 고려하면, 의도하지 않게 이런 부분이 원데이터에 반영되고, 이게 AI를 통해서 처리되면, 공정성에 큰 문제가 발생할 수도 있다. 윤리적인 부분도 충분히 반영되어야 한다.

나도 이 기사를 접한 후에 AI 관련 회사를 만나면, 위 6가지 질문을 기본적인 프레임으로 삼으면서 비즈니스를 검토하는데, 상당히 도움이 많이 되고 있다.

<이미지 출처 = 크라우드픽>