"인공지능(AI)은 을이고 우리가 갑이다. AI에게 일을 잘 시키는 것은 사람에게 일을 잘 시키는 것과 같다."
강송희 한국공학대학교 교수는 22일 서울 중구 더존을지타워에서 열린 39회 AX 리더십포럼에서 이같이 말했다.
AI가 아무리 똑똑해져도 이를 활용하는 것은 결국 사람의 몫이라는 것이다. AI에 어떤 일을 맡길지, 그 결과를 누가 검토하고 책임질지 정하지 않으면 기업의 업무 방식은 달라지기 어렵다.
이날 강 교수는 'AI 시대, 기업은 무엇을 통제하고, 무엇을 바꿔야 하는가'를 주제로 강연했다.
강 교수는 "이제 AI 모델 경쟁은 관심에서 벗어나고 있다"면서 "우리가 지금 이야기할 것은 'AI를 샀는데, 왜 결정은 그대로인가'에 대한 고민"이라고 말했다.
이어 "중요한 것은 데이터와 운영 효율이다. 어떤 데이터를 활용하고, 어느 지점에서 조직이 개입해 책임을 지느냐가 기업 경쟁력의 핵심"이라고 설명했다.
강 교수가 인용한 맥킨지 조사에 따르면 AI로 개인 생산성이 개선됐다는 응답은 80%였지만, 조직의 영업이익에 긍정적인 영향을 줬다는 응답은 37%였다. AI가 영업이익의 5% 이상에 기여한 '고성과 기업'은 6%에 그쳤다.
강 교수는 앞으로 기업의 경쟁력은 더 좋은 AI를 먼저 도입하는 것보다 AI의 속도와 안전성을 동시에 수용할 수 있는 운영체계를 얼마나 잘 갖추느냐에 달려 있다고 했다.
AI에 맡길 일과 사람이 책임질 일 구분해야
AI를 도입한 기업은 무엇부터 바꿔야 할까. 강 교수가 제시한 해법은 'AI 거버넌스'다.
단순히 AI 사용 규정을 만드는 것이 아니라, 조직 안에서 AI가 어떤 역할을 하고 누가 이를 관리할 것인지 정하는 운영체계다.
예를 들어 AI가 단순히 업무를 보조해도 되는 일과 직접 처리해도 되는 일, 반드시 사람이 판단해야 하는 일을 구분하는 것이다.
AI가 작성한 보고서에 잘못된 숫자가 들어갔다면 누가 이를 검토하고 책임질까. AI가 고객에게 부적절한 답변을 했다면 누가 바로잡아야 할까.
이처럼 문제가 발생했을 때의 책임자와 대응 절차를 미리 정해둬야 한다. 개인정보나 내부 재무자료 등 민감한 데이터를 어디까지 AI에 제공할 수 있는지도 마찬가지다.
특히 AI 거버넌스를 법무나 규제 대응으로만 바라봐서는 안 된다고 지적했다. 규정을 만드는 데 그치지 않고 실제 업무에서 AI를 활용하고 관리하는 체계로 이어져야 한다.
데이터 더 모으기 전에 '정리'부터
AI를 제대로 활용하기 위해서는 데이터 관리 방식도 바뀌어야 한다.
강 교수는 "기업에 데이터가 부족한 것이 아니라, 정작 의사결정할 때 쓸 만한 데이터가 없다는 것이 문제"라고 꼬집었다.
강 교수는 데이터를 무작정 더 모으기보다 먼저 '정리'를 해야한다고 말했다. 각각의 결정에 필요한 데이터가 어디에 있고, AI 결과를 검증하고 책임질 사람은 누구인지 설계하는 것이 우선이다.
이후 90일 안에 AI를 활용해 바꿀 수 있는 의사결정 하나를 정하고, 실제 업무에서 어떤 변화가 나타나는지 확인해 이를 조직 전체로 확산하는 방안을 제시했다.
강 교수는 "모델은 빌릴 수 있지만 우리 회사의 데이터, 업무 맥락, 책임 구조는 우리만의 것으로 복제할 수 없다"고 말했다.
그러면서 "결국 AI 시대 기업의 경쟁력은 얼마나 뛰어난 AI를 가졌느냐보다, AI를 활용해 더 나은 결정을 반복하고 그 결과에 책임질 수 있는 조직을 만드는 데 있다"고 강조했다.
