AI 알고리즘이 채용 과정에서 중대한 결정을 내린다면, 과연 그 판단을 신뢰할 수 있을까? 현재 국내 주요 기업 258곳 중 41.1%가 이미 인공지능 기반 채용 시스템을 도입한 상황이다. 그러나 이에 대한 신뢰도는 여전히 논의 중이다. AI 채용을 둘러싼 공정성 문제를 짚어보고, 이를 바라보는 구직자와 기업 간의 인식 차이, 그리고 그 간극을 좁히기 위한 해결 방안을 함께 살펴본다.

AI 채용의 신뢰 확보를 위해 기업은 타당도 검증, 구직자에게는 평가 기준의 투명한 공개가 필요하다. [사진=셔터스톡]

 

일상의 다른 분야와 마찬가지로 채용 분야에서도 인공지능의 도입이 관찰되고 있다. 인공지능의 채용시장 도입은 2010년대부터 시작되었으나, 코로나19로 인해 비대면 플랫폼이 확산된 2020년 이후 본격적으로 자리 잡았다. 현재 AI는 채용의 거의 모든 단계에서 활용되고 있다. 서류전형에서는 직무 적합성 평가, 표절 여부 검토, 문서 오류 탐지 등 다양한 기능을 수행하며, 이 과정에서 기업들은 업무 부담 경감과 비용 절감의 효과를 가장 크게 체감하고 있다.

실제로 소프트뱅크는 AI 도입을 통해 서류 검토 시간을 75% 단축했으며, 유니레버는 연간 7만 시간 이상의 업무 시간을 절감했다. 이러한 수치는 인공지능이 효율성 면에서 채용 시스템의 패러다임을 어떻게 바꾸고 있는지를 여실히 보여 준다. 필기전형에서 AI는 인적성과 직무 적합성을 판단하는 데 쓰인다. 기업들은 객관적인 평가 기준을 통해 공정한 결과를 도출할 수 있다는 기대 아래 인공지능을 활용하고 있으며, 정량적 평가에 기반한 기술적 분석을 통해 인재 선별의 정밀도를 높이고자 한다.

면접전형에 AI 기술을 활용하는 사례 역시 존재한다. AI는 지원자의 음성, 표정, 말의 내용 등을 분석해 의사소통 능력, 자신감, 진실성 등을 평가한다. 예를 들어, 현대자동차는 표정과 음성 톤을 분석하는 기술을 도입하고 있으며, 롯데는 AI를 통해 면접 내용을 정량화해 평가에 활용하고 있다. 그러나 대부분의 기업은 AI 면접 이후 대면 면접을 병행하며, AI 결과를 최종 판단의 보조자료로만 사용하는 경향을 보인다.

한국산업인력공단에서 2023년 발행한 ‘채용 분야 인공지능 활용 실태 및 공정성 확보 방안 연구’에서 확인할 수 있는 바와 같이, 국내 주요 기업 258곳 중 41.1%가 이미 인공지능 채용 시스템을 도입하고 있다는 것은 더 이상 인공지능이 미래형 채용 방식이 아닌, 오늘날 채용 실무의 일환으로 자리 잡고 있음을 시사한다.

이러한 흐름 속에서 기업과 공공기관이 효과적이고 공정한 인재 선발을 위해 다양한 방식으로 채용 과정에 인공지능 기술을 도입하는 사례가 늘고 있으나, 기술에 대한 신뢰성과 타당성에 대한 우려의 목소리 역시 커지고 있다. 우려를 해소하고 인공지능 기술이 채용절차에 도입된 당초 목적을 달성하기 위해서는 인공지능 채용의 도입 현황과 이에 대한 기업 및 구직자의 인식을 함께 살펴볼 필요가 있다.

 

AI 채용에 대한 구직자와 구인자 간 인식 차이

위에서 언급한 한국산업인력공단의 연구에서 진행한 설문에 따르면 기업들은 비용 절감, 원하는 인재 채용, 공정 채용 등을 이유로 AI 기술을 도입하고 있으며, 현재 AI 기술을 활용하지 않는 기업 중 41%는 향후 도입을 검토하고 있다.

기업들은 AI가 전통적 채용과 비슷하거나 더 정확하고, 더 공정하고, 편견이나 차별을 심화하지 않는다고 응답했다. 심지어 AI 채용 시스템에 대해 긍정적으로 인식하고 있음을 보여 주었다. 다만 기업 입장에서 이러한 인식은 AI 기술 도입이 가지고 올 궁극적인 효용에 대한 기대감에 가깝고, 그 효용을 실현하는 방법론과 그에 따른 결과의 무결성에 대해서는 아직 확신이 부족한 것으로 보인다.

실제로 AI 기술을 채용의 어느 전형이든 도입한 기업의 70~80%는 해당 솔루션을 활용하기에 앞서 맞춤화 작업을 진행하고 있다. 아울러, AI 평가 결과는 각 전형의 부분 점수, 또는 참고 자료로 활용되는 경향이 강했는데, 이는 인사 담당자들이 AI 평가 결과의 오류 가능성을 배제하지 못하기 때문이다.

한편, 한국노동연구원이 2024년 발표한 ‘인공지능 채용 가이드라인(안)’에 따르면, 청년 구직자들은 AI 채용에 대해 이중적인 인식을 보이고 있었다. AI 기반 채용이 자신을 정확하게 평가하는지에 대한 설문에서 ‘정확하게 평가한다’(40.6%)라는 응답이 ‘부정확하게 평가한다’(17.2%)라는 응답보다 월등히 높은 것으로 드러났다. 반면 AI 기반 채용이 더 공정할 수 있다는 응답은 53.9%였으나, 기존 채용 과정이 더 공정하다는 인식(46.1%)과의 격차가 그렇게 크지 않았다. 그리고 AI 기반 채용을 선호한다는 응답은 기존 채용 방식을 선호한다는 응답(67.7%)의 절반 수준인 32.3%에 불과했다. 이는 AI 채용에 대한 정보 부족과 불확실성에서 오는 구직자들의 심리적 저항을 반영한다.

예컨대 AI 기술이 적용되지 않은 기존 채용 방식을 선호하는 이유로는 사람이 아닌 존재가 사람을 평가하는 것에 대한 불만을 가장 높게 꼽았고(30.9%), AI가 주재하는 과정을 신뢰하지 못하기 때문이라는 응답이 두 번째로(28.8%) 높았다. 아울러 AI 채용 과정에서 차별을 경험했다고 응답한 비율은 무려 44.2%에 달했다. 구직자들이 인식한 차별 요소가 실제 채용 과정에서도 반영되었는지 그 여부는 불분명하지만, 이러한 불안감에 전혀 근거가 없지는 않다.

과거 아마존은 인공지능이 남성 지원자에게 유리한 평가를 지속적으로 내린다는 이유로 관련 채용 시스템을 폐기한 바 있다. 구직자들은 AI가 학벌, 외모, 연령, 성별, 장애 등의 요건에 대한 차별을 학습하거나, 사후적으로 차별적인 판단 기준을 주입받게 되는 상황을 우려하고 있다. 이와 비교하면 구인자들은 AI 채용이 전통적 채용에 비해 절차적으로 공정할 뿐 아니라 AI 채용이 불공정한 결과를 가지고 올 수 있다는 인식의 수준이 낮다는 점이 두드러진다. 나아가 논의의 전반을 살펴보았을 때, 학습 데이터로 활용되지 못한 소수자 집단에 대한 평가의 불공정성, 또는 AI 평가에 요구되는 디지털 자원에 대한 접근성 또한 충분히 고려되지 못하고 있는 것으로 확인되었다.

 

AI 채용에 대한 신뢰의 문제

AI 도입은 채용 방식에 있어 분명한 변화를 이끌고 있지만, 각 기업의 성격에 따라 적용 방식과 기대 효과가 상이하다. 예컨대 대다수 기업이 AI를 활용하여 효율적이고 객관적인 채용을 달성하고자 하는 것과 달리, 구글은 인공지능 채용 시스템을 통해 성별, 인종 등의 요소를 배제한 평가 기준을 적용해 다양성 확보에 기여하고자 한다. 다만 기업의 궁극적인 목표는 필요로 하는 인재를 효과적으로 확보하는 것이고, 이러한 측면에서의 성과 달성은 AI 채용 솔루션에 대한 신뢰의 문제로 지난한 것이 현실이다.

AI 평가에 대한 신뢰의 문제는 구인자와 구직자에게 각기 다른 방식으로 채용에 부정적인 영향을 준다. 우선 구인자들은 AI 평가 결과를 전적으로 신뢰하지 못하기 때문에 전통적 평가방식을 병행하거나, AI 채용 솔루션을 맞춤화하는 노력을 지속하고 있다. 심지어 이미 많은 기업이 AI 기술을 적용하고 있는 서류전형에 대해서도 AI 평가로 인해 창의적이거나 개성이 뚜렷한 인재를 놓치는 결과를 우려하여, 평가 결과를 제한적으로만 활용하려는 움직임이 관찰되고 있다. 구직자는 AI 채용의 공정성에 대해 신뢰하지 못하고 있다. 학습 데이터 또는 외부의 의도에 따라 시스템이 편향을 보일 가능성을 배제할 수 없기 때문이다.

앞선 아마존의 사례나, 미국 평등고용기회위원회(EEOC)가 연령 차별 채용 소프트웨어를 사용한 중국 I튜터그룹에 소송을 제기하여, 구직자들에게 총 36만 5,000달러의 합의금을 지불하게 한 사례도 있다. 인사 담당자들이 AI를 신뢰하지 않는 이유는 AI가 무엇을 근거로 어떤 데이터를 활용했는지 알 수 없기 때문이다. AI는 일관된 기준을 맥락에 상관없이 적용할 수 있는 것이 강점이지만 이러한 기준이 객관적이고 합리적인지에 대한 의구심이 남아 있는 것이다.

같은 맥락에서 AI에 대한 교육 수준이 높은 지원자들은 AI가 차별의 원인이 될 수 있는 요소를 활용하여 결정을 내리도록 학습할 수 있다는 사실을 알고 있다. 경우에 따라서는 AI에 그러한 민감정보를 주지 않더라도 학습 과정을 통해 다른 정보로부터 민감정보를 추정하여 활용하는 것과 같은 결과를 가져올 수 있음을 알고 있다. 예컨대 AI는 어떠한 의사결정을 할 때 “PC를 사용하느냐, Mac을 사용하느냐?”라는 데이터를 활용하도록 학습될 수 있는데, 이것이 사회경제적 지위와 밀접한 상관이 있는 경우 불공정한 의사결정을 하게 되는 것이다.

 

투명하고 정확한 AI 채용을 위한 제안

그렇다면 AI 채용 시스템은 앞으로 어떤 방향으로 진화해야 할까? 달리 말하자면, 어떻게 해야 우리가 채용 장면에서 AI의 활용을 신뢰할 수 있고 이를 바탕으로 최대의 효용을 얻을 수 있을까?

신뢰란 ① 합리적인 기대를 ② 투명한 과정을 통해 ③ 지속적으로 달성하는 대상에 대해 우리가 갖는 감정이다. 본문에서는 이러한 신뢰 구축을 위해 AI 채용 시스템에 요구되는 노력을 몇 가지 서술하고자 한다.

우선 AI 채용 시스템에 대한 기업의 신뢰를 확보하기 위해서는 타당성을 확보할 수 있어야 한다. 무엇보다도 기업의 문화와 인재상이 각기 다르다는 점을 고려하면 AI가 개별 기업에 적합한 데이터로부터 학습한 규칙을 평가에 적용하도록 할 수 있는 기술적 기반이 요구된다. AI가 제대로 작동하기 위해서는 적절한 데이터의 확보 및 처리를 위한 역량과 AI에 대한 이해도가 전제되어야 하며, 이를 뒷받침할 기술 인프라와 전문 인력 확보 또한 필요로 한다.

나아가 AI 솔루션의 도입 결과가 기업의 기대에 부합하는 것이었는지 타당도 보고서를 제공할 필요가 있으며, 알고리즘에 대한 지속적인 점검 및 관리를 통하여 사후적으로 편향을 학습하는 상황을 막을 필요가 있다. 구직자의 신뢰를 확보하기 위해서는 충분한 정보 공개를 통해 타당하고 공정한 평가가 이루어지고 있음을 투명하게 알릴 필요가 있다.

현재 많은 구직자들이 AI 채용 과정에서 ‘무엇을 준비해야 할지 모르겠다’는 어려움을 호소하고 있는데 이러한 어려움은 정보 부족과 평가 방식의 불투명성에서 기인하기 때문이다. 따라서 AI 평가 결과의 정확성과 공정성을 인지시켜줄 수 있도록 평가가 어떤 과정을 거쳐, 어떤 기준을 바탕으로, 어떤 결과가 도출되었는지와 같은 핵심 정보에 대해 보다 구체적이고 투명한 커뮤니케이션이 이뤄져야 한다.

이는 채용 결과 피드백 제공과 같은 방식으로 이루어질 수 있다. 일반적으로 지원자에게 관련 피드백을 주지 않는 이유가, 평가위원의 고도화된 전문성을 바탕으로 한 자율적 판단이 반영되는 과정에서 시비가 발생할 수 있기 때문임을 고려한다면 AI 평가 및 피드백 제공은 정확성과 공정성에 대한 훌륭한 커뮤니케이션 기회가 될 수 있다.

마지막으로 지원자가 AI 채용 시스템 도입에 따른 불이익을 받지 않을 수 있도록 다양한 집단의 규준 데이터를 학습시키는 것에서 나아가, 채용 과정에서의 접근성을 확보할 수 있도록 조정된 AI 솔루션 또는 대안적인 솔루션이 존재해야 할 것이다.

결국 AI 채용은 효율성과 공정성이라는 두 축 사이에서 균형을 잡아야 하는 과제다. 기업은 AI 채용 시스템의 타당성을 확보함과 동시에, 구직자들에게는 평가의 기준과 결과에 대한 설명이 제공되어야 하며, 이는 AI 채용에 대한 신뢰를 높이는 중요한 요소가 될 것이다.

인공지능이 채용의 보조자가 아닌 독단적 결정권자가 되는 순간, 우리는 기술의 진보라는 이름으로 인간 중심성을 잃어버리는 결과를 맞이할지도 모른다.

 

전솔연 휴먼메트릭스 R&D팀 주임연구원

syjeon@humet.co.kr

본 글은 미디어스트리트의 품질경영 2025년 7월호에서 발췌되었습니다.