네이버는 2021년 '인공지능(AI) 윤리 준칙', 2022년 'AI 윤리 자문 프로세스' 등을 공개하며 AI 관리 거버넌스 체제를 순차적으로 구축했다. 검색부터 쇼핑까지 모든 서비스 영역에 AI를 적용하는 대표적인 회사인 만큼 개발·기획, 배포에 이르는 전과정에서의 AI 리스크를 사전에 인식·평가·관리하기 위함이었다.

이 과정에서 AI 안전성(Safety)을 전문으로 연구하는 별도의 조직을 출범하고 실무 인력을 이사회 내 리스크관리위원회 태스크포스(TF)에 합류시키는 등 내부 시스템을 정비했다. 특히 최고경영진의 사회·환경·지배구조(ESG) 관련 핵심성과지표(KPI)에 AI 안전성 지표를 포함하는 등 거버넌스 차원에서 해당 역량을 강조하고 있다.

◇AI 안전성 관리 체계 고도화, C레벨 KPI에도 반영

2024년 1월 네이버는 퓨처AI센터라는 신설 조직을 꾸려 AI 안전성을 전담으로 연구하고 윤리 정책 전반을 구축하는 역할을 맡겼다. 네이버 AI 서비스의 전 주기에 걸친 위험을 관리하고 정책을 수립하는 등 AI 안전성 전반을 총괄하기 위해 대표이사(CEO) 직속 조직으로 꾸려졌다.

설립과 함께 센터장을 맡은 인물은 하정우 네이버클라우드 AI혁신센터장이었다. 하 센터장은 2015년 네이버랩스 입사 후 클로바 AI 리서치 리더, AI랩 연구소장 등을 거친 AI 연구개발(R&D) 전문가다. 퓨처AI센터가 AI 모델·서비스의 위험 요소를 식별·평가하고 대응 방안을 연구하는 조직인 만큼 회사 내 주요 전문가를 센터장으로 선임했다.

네이버는 단순히 AI 안전성을 연구하는 데 그치지 않고 전사 거버넌스 차원에서 이를 관리하기 위해 퓨처AI센터와 이사회를 연결했다. 센터 인력을 중심으로 AI 리스크 매니지먼트 TF를 꾸리고 TF를 이사회 내 리스크관리위원회 리스크관리 워킹그룹 직속으로 편입했다. 센터 자체가 CEO 직속 조직일 뿐 아니라 이사회 리스크관리위원회 직속으로도 동시에 움직였다.


여기에 추가로 AI 안전성 여부를 최고경영진 ESG KPI에 포함한 점이 눈에 띈다. 회사는 이사회 내 ESG위원회를 통해 ESG 목표와 추진과제를 선정해 C레벨급 최고경영진의 ESG KPI에 반영하는데 2024년 처음으로 AI 안전성 및 AI 기반 사회 확대를 KPI 목표에 추가했다.

그해 네이버는 AI 안전성 프레임워크(ASF)라는 AI 리스크 대응체계를 확립하며 △위험 인식 △평가·관리 △거버넌스 △외부 협업 △향후 과제(소버린 AI 공동개발·AI 정책 고도화·글로벌 AI 안전성 동참) 등 실행 항목을 구체화했다. 이후 지난해에는 ESG KPI에 AI 안전성 포용적 참여 강화, AI 생태계 확장 캠페인·교육 진행, 양방향 AI Safety 보안 기술체계 확립 등을 추가해 전사적인 관리·감독 기능을 강화했다.

◇퓨처AI센터 R&D 방점, CRO 중심 AI RM센터 재편

현재 AI 리스크 관리는 최고책임경영책임자(CRO) 산하의 AI RM(Risk Management)센터가 담당하고 있다. 지난해 6월 하정우 센터장이 대통령실 AI미래기획수석비서관으로 임명된 후 회사 차원의 AI 리스크 관리 조직도 재정비했다.

퓨처AI센터는 R&D에 방점을 찍고 AI 관련 선행연구 조직으로 역할을 이어가는 대신 리스크 관리 측면에선 AI RM센터가 그 역할을 분담하기로 했다. 기존에 퓨처AI센터가 담당하던 AI 위험 관리 정책 수립의 임무를 AI RM센터에서 담당한 셈이다. 퓨처AI센터는 네이버 AI·데이터 관련 전문 R&D 인력이 센터를 이끌고 있으며 AI RM센터에는 내부 주요 서비스를 이끌던 인력이 포진됐다.

AI RM센터가 리스크 정책 관리에 보다 힘을 실은 만큼 조직도상 CRO 아래에 배치된 상태다. 앞서 올해 초 네이버는 신규 C레벨 인사를 단행하며 유봉석 정책·RM부문장을 신임 CRO로 선임한 바 있다.

유 CRO를 포함한 3인의 C레벨(최고데이터콘텐츠책임자·CDO, 최고인사책임자·CHRO)을 추가하며 기존 CEO·최고재무책임자(CFO)·최고운영책임자(COO) 등 3인 중심의 C레벨 구성을 다양화했다. 당시 네이버는 C레벨 3인을 추가하며 "AI 등 기술이 사회에 미치는 영향력이 커짐에 따라 네이버의 사회적 책임을 더욱 강화하겠다"고 밝히기도 했다.