이번 호에서는 카카오 CA협의체 ESG위원회 정책팀 김대원 팀장님과의 인터뷰를 통해 AI의 윤리적 활용과 주의점에 대한 고견을 들어보고자 한다.

Q1 기술 발전에 따라 기업이 윤리경영 측면에서 새롭게 주의해야 할 위험 요소는 무엇이며, 이를 어떻게 관리할 수 있을까요?

일반적으로 기업이 기술을 채택하는 이유는 더 나은 세상을 만들기 위함입니다. 기술은 일상을 보다 편리하고 윤택하게 만드는 도구로서 실효성이 있으며, 이에 따라 경영 활동의 도구로 채택됩니다.

모든 것에는 명(明)과 암(暗)이 있듯이, 기술 고도화 역시 의도치 않은 역기능을 초래할 수 있습니다. 이는 기술 자체에 내포된 문제일 수도 있고, 기술이 사회에 녹아들거나 확산되는 과정에서 예상치 못한 일이 발생하는 경우일 수도 있습니다.

이러한 부정적인 영향은 두 가지로 분류할 수 있습니다. 하나는 예측 가능한 문제이고, 다른 하나는 예측 불가능한 문제입니다. 전자의 경우, 기업은 사전 검토 체계를 마련하여 최대한 발생을 방지하려 합니다. 서비스나 기술에서 나타나는 역기능은 품질 관리 차원에서 억제해야 하며, 문제 발생 가능성을 최소화하는 것은 기업의 필수 과제입니다. 하자가 있거나 이용자 및 사회에 불편을 초래하는 문제가 반복적으로 발생할 경우, 해당 기업의 제품이나 서비스에 대한 지속적인 사용 의도가 낮아질 수 있기 때문입니다.

기업이 사회 구성원으로서 책임을 다하는 것도 중요하지만, 기업의 1차적인 존립 목적이 ‘영리 추구’라는 점을 고려하면, 기술이 초래할 수 있는 역기능을 통제하는 것은 필수적인 과제일 수밖에 없습니다.

이러한 책임을 수행하기 위해 국내 기술 기업들은 관련 철학과 방향성, 그리고 세부 지침을 포함한 기술윤리 정책을 마련하고 있습니다. 전담 기구는 정책을 안정적이고 조직적으로 운영하며, 이러한 활동과 정책이 사회적 기준에 부합하는지 지속적으로 검토합니다. 예를 들어, 카카오는 2018년 1월 국내 최초로 기술윤리 규범을 발표했으며, 최근에는 그룹 차원의 통합적인 기술윤리 관리를 위해 ‘그룹기술윤리’ 총괄 조직을 신설하여 운영 중입니다. 또한, 관련된 노력의 성과와 방향성을 연말에 ‘기술윤리 보고서’ 형태로 사회와 공유하고 있습니다.

Q2. 기업이 기술을 윤리적으로 활용하기 위해 가장 먼저 준비해야 할 정책적 요소와 실천 방안은 무엇일까요?

법적으로 준수해야 할 항목과 기업이 정책적으로 관리해야 할 사항을 명확히 구분할 필요가 있습니다. 법으로 반드시 지켜야 하는 항목은 기업 윤리나 정책과 무관하게 준수해야 합니다. 즉, ‘반드시 해야 하는 것’입니다. 이러한 항목을 준수하지 않으면 사회 존립 자체가 어려워지므로, 기업은 이를 철저히 지켜야 합니다.

반면, 기술 기업이 내부 정책을 통해 관리해야 하는 항목은 법적으로 규제되지 않지만, 상식적으로 수용하기 어려운 부분입니다. 이는 법과 상식 사이의 회색 지대(gray area)로, 기업 윤리와 정책을 통해 관리해야 하는 영역입니다. 따라서, 이 모호성을 제거하는 것이 가장 중요한 과제입니다.

우선적으로 확립해야 할 것은 방향성과 정책 적용 범위입니다. 이상적으로는 회색 지대 전체를 포괄적으로 관리할 수 있다면 더할 나위 없겠지만, 이는 현실적으로 어려운 목표입니다. 기업의 사업적 방향성과 보유 자원의 한계를 고려하여, ① 무엇을 위해 ② 무엇에 대해 ③ 어떤 방식으로 대응할 것인지를 정해야 합니다. 이 과정에서는 사회적 감수성을 충분히 반영해야 합니다. 단순히 합리성과 도덕성을 갖추는 것뿐만 아니라, 사회적 눈높이에 부합하는지도 면밀히 검토해야 합니다. 이는 기업 윤리와 정책이 내부적으로 정당성을 확보하는 동시에, 사회적 신뢰를 얻을 때 비로소 지속가능하기 때문입니다. 이 두 가지 요소 중 하나라도 부족하면 실효성이 급격히 떨어질 수밖에 없습니다.

기업이 직면한 현실과 무관하게 ‘하면 좋은 일’에 해당하는 정책은 수명이 길지 못합니다. 내부 구성원의 광범위한 지지를 얻기도 어렵습니다. 공감(共感) 확보 여부는 정책이 조직 내에서 능동적으로 작동할 수 있는지를 결정짓습니다. 아무리 좋은 정책이라도 구성원이 납득하고 이해하지 못하면, 단순한 문서에 불과하게 됩니다. 조직 내 정책의 생명력은 결국 이를 준수하는 임직원의 자발적 참여에 달려 있습니다. 다만, ‘해야 하는’ 영역과 밀접하게 관련된 정책이라면 예외가 될 수 있습니다. 이러한 정책을 이행하지 않을 경우, 개인이 감당하기 어려운 수준의 사회적 비용이 발생할 수 있으며, 이는 정책의 실질적인 영향력을 높이는 강제 요소로 작용할 수 있습니다.

Q3. 기업이 AI, 데이터 분석, 블록체인 등 첨단기술을 반부패 및 윤리경영(ESG) 강화에 효과적으로 활용하는 방법이나 사례가 있을까요?

기술 기업의 대표적인 예로 플랫폼 서비스 업체를 들 수 있습니다. 플랫폼 서비스란 이용자와 이용자, 그리고 이용자와 서비스를 연결하는 역할을 하며, 서비스를 중심으로 다양한 소통이 이루어지는 공간입니다.

이 과정에서 여러 형태의 소통이 발생하며, 그 대표적인 예로 콘텐츠와 서비스에 대한 이용자의 평가 댓글을 들 수 있습니다. 소위 ‘리뷰’ 혹은 ‘댓글’로 불리는 이러한 글은 학제 간 연구의 대상이 되기도 합니다. 경영학적으로는 소비자의 구매 의사 결정에 영향을 미치는 중요한 요소로 분석되며, 미디어학이나 사회학적으로는 여론 형성에 기여하는 기제로 평가됩니다. 이는 ‘표현의 자유’에 기반한 개인의 자율적 의견이 생산적인 효과를 만들어 내는 사례라 할 수 있습니다.

그러나 댓글이 가진 긍정적인 측면과 더불어 부정적인 영향도 존재합니다. 악의적인 댓글은 사회적 여론을 왜곡하거나, 특정 개인의 인권을 침해하는 수단이 될 수 있습니다. 이에 따라 “‘표현의 자유’뿐만 아니라 ‘표현의 자유로부터의 안전’도 중요하다”라는 사회적 요구가 점점 커지고 있습니다.

카카오는 플랫폼 기업으로서 악성 댓글로부터 이용자를 보호하고, 플랫폼의 건강성을 강화하기 위한 방안을 지속적으로 개발하고 있습니다. 그중 하나가 세이프봇(Safebot)입니다. 데이터 분석과 AI 기술을 결합하여 표현의 자유를 보장하면서도 이용자를 보호하는 기술입니다. 2021년 12월 정식 도입된 세이프봇은 AI 기술을 활용하여 욕설, 비속어 등 서비스 운영 정책을 위반한 댓글을 자동으로 가립니다. 도입 전후 1년여 동안의 기록을 분석한 결과, 욕설이나 비속어가 포함된 댓글의 비율이 기존 대비 약 70% 감소한 것으로 나타났습니다. 카카오는 이러한 성과가 세이프봇의 능동적인 조치뿐만 아니라, 기술 도입을 계기로 형성된 건전한 댓글 문화에 대한 이용자들의 자발적인 참여 덕분이라고 해석합니다.

이 결과는 기업이 이용자의 편의를 높이기 위한 기술을 개발하고 도입하는데 있어서 이용자의 안전과 사회문화적 파급까지도 철저하게 고려해야 함을 시사하며, 그럼으로써 기술과 사회문화가 상호 보완하며 성숙될 수 있음을 알 수 있습니다.