AI가 기업과 사회 전반에 필수 도구로 도입되면서 윤리적·법적 책임이 강조되고 있다. 세계경제포럼의 "Why corporate integrity is key to shaping the use of AI"에 따르면, AI의 책임 있는 사용은 규제 및 책임 위험과 업계 리더의 사회적 책임 의식으로 인해 산업 전반에 걸쳐 주의할 사항이 되고 있다. 실제로, 기업의 청렴성은 법률 준수를 넘어서 AI 시스템의 윤리적 배포까지 포함하는 경향이 있으며, 많은 기업이 윤리적 규칙, 지침 원칙 및 내부 지침을 채택하여 AI 위험을 관리하기 위한 실사를 강화하기도 한다. ICT 연구 및 컨설팅 기관인 가트너(Gartner)는 2025년 주요 전략기술 트렌드를 발표하였으며, 2028년까지 포괄적인 AI 거버넌스 플랫폼을 구현하는 조직은 미구현 조직에 비해 AI 관련 윤리적 사고가 40%가량 적게 발생할 것으로 예견했다.
이번 사례 돋보기에서는 선도적으로 AI윤리, 거버넌스를 도입하고 있는 기업과 AI를 윤리적으로 활용하고 있는 기업의 사례 통해 해당 기업이 어떤 윤리 원칙, 정책을 가지고 있는지 알아보고자 한다.
SK텔레콤
SK텔레콤은 국내 통신사로 인공지능(AI) 인프라 구축과 AI 모델 개발 등 AI 전환에 주력하고 있다. 3월 6일에는 스페인에서 개최된 MWC25에서 세계이동통신사업자협회(GSMA), 유럽통신사업자협회(커넥트 유럽), 도이치텔레콤 등 해외 기관·기업에 자사 인공지능(AI) 거버넌스를 소개하고 협력을 논의하기도 했다.
SK텔레콤은 ESG 경영차원에서도 2023년에 MSCI ESG 평가에서 AA등급, KCGS 종합 평가 A등급을 획득한 기업이며, ESG 경영차원에서도 AI를 접목한 친환경 솔루션 적용 확대(E), AI 기반 사회적 가치 창출 강화(S), AI 거버넌스 고도화(G) 등 최적화된‘AI ESG’를 추진하고 있다.
SK텔레콤의 AI 거버넌스에 대해 살펴보면, SK텔레콤은 2024년 1월 AI의 신뢰성과 안전성을 확보하기 위해 AI 거버넌스를 회사경영에 도입할 것을 공표하고, 24년 3월 AI 거버넌스 원칙 ‘T.H.E. AI’를 공개했다. 이는 ‘by Telco. for Humanity. with Ethics AI’를 축약한 것으로 SK텔레콤 AI의 특성(Telco, 통신기술 기반의), 목표(Humanity, 사람을 향한, 사람을 위한), 가치(Ethics, 윤리적 가치 중심의)와 이에 따르는 AI 거버넌스 원칙을 상징한다. SK텔레콤은 이 원칙을 바탕으로 AI 행동 규범을 구체화해 사규에 반영하기도 했다. 그 내용은 하기와 같다.
<SKT-AI 행동 규범 “Global AI Company로 도약하는 우리의 약속”>
| 1. 【by Telco】 | SK텔레콤은 Telco 기반의 연결과 소통 전문가로서, 지역적 경계를 넘어 글로벌로 뻗어 나가고 있습니다. 이에 혁신적인 AI 기술이 필수적임을 믿으며, AI를 서비스 전 분야에서 원활히 활용할 수 있도록 기술 개발 및 서비스 적용에 최선을 다합니다. |
| 2. 【by Telco】 | AI의 가능성 뿐만 아니라 한계점도 잘 이해할 것이며, 고객보다 먼저 발생 가능한 상황을 예측하고 대응하기 위해 노력합니다. 이를 통해 고객이 SK텔레콤의 AI 서비스를 신뢰할 수 있도록 합니다. |
| 3. 【by Telco】 | AI 기술의 개발 및 배포, AI 서비스 제공 전 과정에서 레드티밍(Red teaming)1) 등 안전성을 보장하기 위한 테스트와 심사 프로세스를 진행합니다. 이를 통해 AI에 대한 예측 가능성을 높여 나갑니다. |
| 4. 【by Telco】 | AI 신뢰성의 핵심 요소인 고객의 데이터 보호와 보안을 강화하기 위해 최선을 다합니다. Telco에서 쌓아온 데이터 안전에 대한 노하우를 AI 서비스에도 충분히 적용하고, 관리/평가 체계를 구축하며 데이터 사용에 대한 투명성을 확보하기 위해 고객과의 적극적인 소통을 지속합니다. |
| 5. 【for Humanity】 | SK텔레콤의 AI 기술이 모든 고객에게 편향 없이 작동하고 디지털 약자가 발생하지 않도록 노력합니다. 전 사회 영역에서 다양성을 보장하고 포용성 향상을 추구합니다. 사회 문제 해결을 위한 프로젝트에 AI 기술이 도움을 줄 수 있도록 후원하고, AI 접근성을 높이며 디지털 격차를 줄일 수 있는 AI 교육 프로그램과 AI 교육 기회를 제공하여 사람 중심의 AI 환경을 만들어갑니다. |
| 6. 【for Humanity】 | SK텔레콤의 AI가 교육, 건강, 고용 등 여러 분야에서 긍정적인 변화를 일으킬 수 있다고 믿으며, SK텔레콤이 이들 분야에서도 주도권을 확보할 수 있도록 AI 서비스를 공급하여 우리 사회 전반의 복지와 행복을 지원합니다. |
| 7. 【for Humanity】 | AI 기술 개발과 운영 과정에서 비차별과 비폭력 가치를 적극적으로 반영할 수 있도록, AI 알고리즘과 데이터 세트의 설계 단계부터 편향과 차별을 방지하는 기준을 마련하고, 다양한 목소리와 관점을 AI 개발 과정에 반영합니다. |
| 8. 【with Ethics】 | Telco를 포함한 AI 서비스 전 영역에서 다양한 사용자 그룹과 지속적으로 소통하며, 사용자들의 의견을 경청하여 SK텔레콤의 AI 기술을 이해당사자들에게 충분히 설명하고 신뢰받을 수 있는 모범을 만들어갑니다. |
| 9. 【with Ethics】 | 인간 중심적 AI 개발과 운영을 위한 윤리적 원칙이 AI 기술의 설계, 개발, 운영 전반에 걸쳐 적용될 수 있는 기준과 체크리스트를 마련하며, 이를 내재화하고 구체화하여 지속적으로 강화합니다. |
| 11. 【T.H.E. AI】 | AI 관련 각 활동에서의 모범 사례를 찾아 공유하고, 지속적으로 업데이트하여 SK텔레콤의 구성원들이 함께 우리의 추구 가치를 지켜갈 수 있도록 하며, 더 나아가 AI 산업 분야의 선도기업으로서 솔선수범합니다. |
| 12. 【T.H.E. AI】 | 아울러, 2024년 5월 ‘AI 서울 정상회의’에서 발표된 ‘프론티어 AI 안전 서약’ 및 ‘서울 AI 기업 서약’의 핵심 가치를 지켜갈 수 있도록 구체화된 규정들을 제시해 나갑니다. |
출처: SK텔레콤 홈페이지 | https://www.sktelecom.com/
또한 SK텔레콤은 AI 거버넌스 활동을 기록한 AI거버넌스 리포트를 홈페이지에 게재하고 있다. 이에 따르면 SK텔레콤은 AI 기본원칙과 전략을 연계하여 AI 사업의 기회와 리스크에 종합적으로 대응하는 관리체계를 운영한다. 이 관리체계는 AI 거버넌스 체계 관리, AI 사업 관리, 이슈 관리로 구성되며, 국내외 규제 및 정책 동향, 기술 트렌드 분석 등을 통해 지속적으로 체계를 관리 및 개선하고 성과에 대한 대정부, 대언론 커뮤니케이션, 내부 교육을 수행한다.
또한 원활한 AI 거버넌스 관리체계 운영을 위해 대외협력 담당(Chief Governance Officer)이 총괄하는 AI 거버넌스 전담 조직을 신설하여 조직 간 시너지를 창출하고, 핵심 이슈를 ESG위원회에 보고하여 적절한 의사결정을 지원하기도 한다.
이처럼 SK텔레콤은 윤리경영 차원에서 AI 윤리를 포함하고 AI 헌장과 행동규범을 정립해 사규와 조직관리시스템(Mgmt)에 반영하여 ai로 생길 수 있는 윤리리스크 또한 이슈와 사업관리차원에서 다루고 있다.
Novartis(노바티스)
Novartis(노바티스)는 스위스 바젤에 본사를 둔 글로벌 제약사로 AI개발사와 협력하여 신약설계, 환자 모니터링 등에 AI를 활용하고 있다. 동시에 노바티스는 책임감있는 AI 기술의 사용 및 배포를 위해 AI프레임워크와 AI윤리 정책을 두고 있다. 이는 세계경제포럼 기사 “Innovation with integrity: The 4 principles of responsible use of AI(2025.1.16)”를 통해서 소개되기도 했다.
노바티스는 AI의 이점을 극대화하는 동시에 위험을 최소화하기 위해 다양한 팀과 함께 AI 컴플라이언스 거버넌스 구조를 구축하여 이러한 위험으로 인해 발생하는 복잡성을 평가하고 해결하고 있다.
또한 노바티스의 윤리강령과 새로운 데이터 및 기술 정책을 반영한 책임감 있는 AI를 위한 프레임워크를 구축하여 AI윤리의 중요성을 강조하고 명확한 지침을 제공한다. 노바티스의 윤리강령은 2019년 직원들의 의견을 수렴하여 제정되었으며, 홈페이지를 통해 노바티스는 윤리 강령을 통해 회사가 올바른 선택을 하는데 도움이 된다고 언급하고 있다. 윤리강령의 내용 중 데이터 및 기술에 대한 항목을 살펴보면, 다음과 같다.
<윤리강령-데이터 및 기술>
| 우리의 약속 | 책임감 있게 행동하고 윤리적으로 데이터 사용 기술 배포 시스템 보안에 있어 책임감 있고 윤리적으로 행동합니다. |
| 실천합니다. | 개인정보에 대한 권리를 존중하고 AI 및 기타 기술을 인권을 보호하고 데이터 도난, 분실, 오용 또는 무단 공개를 방지하는 방식으로 사용합니다. |
| 중요한 이유 | 데이터와 기술은 신약 개발, 임상시험 간소화, 환자 접근성 및 지원 강화 등 다양한 수단을 통해 인류의 삶을 개선하고 연장하려는 우리의 목적을 진척시키는 데 중요한 역할을 합니다. |
출처: Novartis, Code of Ethics
2021년에는 윤리강령의 핵심원칙에 부합하는 "AI의 윤리적이고 책임감 있는 사용에 대한 약속"을 도입했다. 2024년에 빠르게 발전하는 기술 발전에 따라 데이터, AI 및 기술의 책임 있는 사용을 강화하도록 윤리강령을 업데이트 하였다. 그 후 '데이터 및 기술의 윤리적 사용 정책'을 도입하기도 했다. 해당 정책에서 제시하는 4가지 핵심 원칙은 다음과 같다.
<데이터 및 기술의 윤리적 사용정책-4가지 핵심 원칙>
| 1. 인간성 존중 | 다양성과 포용성을 촉진하고, 인권을 존중하며, 환자와 사회에 도움이 되는 방식으로 데이터와 기술을 배포하고 사용함하여 인류를 존중하고 사회와의 신뢰를 유지합니다. |
| 2. 투명하고 공정한 데이터 수집 | 데이터를 수집하는 이유와 방법, 데이터 및 기술로 수행하는 작업을 명확하고 간단하게 설명합니다. |
| 3. 책임감 있는 사용 | 데이터 및 기술을 책임감 있게 사용하고 책임 범위에 따라 데이터와 기술을 적절하게 관리하고 보호할 책임이 있습니다. |
| 4. 데이터 및 기술 보호 | 위험 기반 보안을 적용하여 수명 주기 전반에 걸쳐 데이터 및 기술의 보안, 무결성 및 가용성을 보호하고 보장합니다. 데이터 손실을 방지합니다. |
출처: Novartis, Ethical Use of Data and Technology,
세계경제포럼(WEF), Innovation with integrity: The 4 principles of responsible use of AI(2025.1.16)
한편, 노바티스의 AI 위험 및 규정 준수 관리 프레임워크는 회사 내부와 외부에서 윤리학자, 데이터 프라이버시, 법률 및 AI 전문가가 포함된 팀을 구성해 개발되었으며, EU AI법(AI Act)과 같은 새로운 규정에 부합하도록 만들어졌다. 이 프레임워크에 따라 AI 시스템은 다음과 같이 2단계 프로세스를 거쳐 위험을 평가한다.
- 1. 잠재적 영향 평가 : 편견 및 차별 등 다양한 영역에서의 영향을 평가
- 2. 심층 평가 : 위험도가 높은 시스템에 대해 심층 평가 및 강화된 리스크 관리 적용
또한, 노바티스의 윤리, 리스크 및 컴플라이언스에는 개인정보 보호, 디지털 및 AI 윤리부서가 포함되어 윤리, 리스크 및 컴플라이언스 책임자에게 직접 보고할 수 있다. 이처럼 노바티스는 AI거버넌스를 통해 AI의 혁신적 잠재력을 활용하면서도 윤리적이고 책임 있는 사용을 보장하고 보고 의무를 준수하고자 한다.
- AI 서비스 개발 기업이 출시 전에 문제가 없다는 사실을 스스로 검증하고 보고하는 것을 말한다. 또는 사람이나 AI를 사용하여 새로운 시스템의 잠재적 위험을 구조화된 방식으로 탐색하는 것을 의미한다.
참고
- SK텔레콤, 지속가능경영보고서(2024)
- SK텔레콤, AI거버넌스 리포트
- SK텔레콤, AI행동 규범
-
SK뉴스, 뉴스투데이, "[ESG경영 사례분석] SK텔레콤, 유영상의 'AI ESG'는 신성장동력...사회등급은 A+로 한 단계 상승"(2025.1.10)
https://www.news2day.co.kr/ -
뉴시스, "KT, 글로벌 통신사들과 윤리적 AI 구현방안 논의 [MWC25]"(2025.03.06)
https://www.newsis.com/ -
Open AI, "Advancing red teaming with people and AI"(2024.11.21)
https://openai.com/ -
Novartis 홈페이지, Our commitment to ethical and responsible use of Artificial Intelligence (AI)
https://www.novartis.com/ - Novartis, Code of Ethics
- Novartis, Ethical Use of Data and Technology
- Novartis, Q1 impact and sustainability update
- 세계경제포럼(WEF), Innovation with integrity: The 4 principles of responsible use of AI(2025.1.16)
-
MIT 슬론 경영대학원(MIT Sloan School of Management MBA), “What leaders should know about ’bring your own AI’
https://mitsloan.mit.edu/ -
국민일보, "AI 손잡는 제약, 끌어당긴 신약"(2025.3.18)
https://www.kmib.co.kr/ -
fieldfisher, "Interview with Simon Bristow, Global Data Privacy and AI Expert, Novartis"(2023.7.26)
https://www.fieldfisher.com/