한국은행 출입기자 공부모임인 'BOK習(복습)'에서 7월 14일 'AI 보안'을 주제로 모임을 가졌습니다. 

모임 회원인 김지선 YTN 기자가 정리한 강의 내용을 공유합니다.

□ 주제 : 금융 혁신을 위한 AI 보안

□ 강사 : 김철웅 금융보안원장

<복습 회원들이 김철웅 금융보안원장의 강의를 듣고 있다.>

1. 금융권 AI 활용 현황

- AI 활용기업 17년 20% -> 22년 50%로 증가. ChatGPT로 인한 AI 산업 발전 가속화. 

- 금융권 특화 모델 BloombergGPT 출현. 

- 해외 금융권도 수년간 인공지능 활용 서비스 경쟁적 도입, 최근 안정화 및 확대 도입 추세.

ex. JP Morgan 계약 분석 도구 COiN, Bank of America 대화형 금융거래앱 Erica 출시(21년 가입자 2천만 명) 등

- 국내 금융권은 기존 외부 솔루션 활용 등 국소적 도입 입장에서 최근 신용 평가 등 핵심 업무와 대고객 업무에 활용하고 전사적 AI 조직을 신설하는 등 디지털 전략의 핵심으로 접근 방식 변화

- AI 활용 영역은 금융업무(신용평가, 채권 분배 최적화, 금융시장 전망, 이상 거래 탐지), 고객 응대 자동화(금융상담, 금융비서(상품 추천)), 금융권 특화 AI 개발 등

- 금융보안원 내 사이버대응본부에서 AI 모델 개발과 금융 보안 업무에 AI 활용. 전 금융사 네트워크 가동해 악성, 랜섬 등 하루 평균 5만-15만 건 공격 탐지. AI의 패턴 탐지 결과, 유의미한 공격 2만 건 가운데 6천 건 분석해 악의 여부 판독. 정탐률 높아.  

2. 금융권 AI 이슈 : 리스크 관리

- 금융소비자 리스크: 금융정보 탈취, 잘못된 금융조언, 대출 차별 등

- 금융기관 리스크: 증권거래 알고리즘 유사 시 대응 불가 재정적 손실, 시장 오측정, 인력의 다양성 결여, 대출 과정 차별 등에 따른 소송 위험

- 금융체계 리스크: 공격에 악용, 금융시장 변동성, 허위 정도로 제도적 절차 조작, 상호 연결에 따른 인프라 리스크  

- AI TRiSM: 신뢰성(의도한 기능을 편견 없이 수행하는가), 위험(사용과 관련된 잠재적 위험), 보안(무단 저급, 침입, 조작, 적대적 공격으로부터 시스템 보호)

- 금융분야는 비교적 발 빠른 대응

   2021. 7 금융분야 가이드라인 

   2022.8 금융분야 AI 개발, 활용 안내서 및 활용 활성화, 신뢰 방안 확보 

   2023.4. 금융분야 AI 보안 가이드라인 

- AI 보안 가이드라인의 핵심은 자산 침해 가능성과 정보 유출에 대비 

- 금융분야 AI 알고리즘 보안성 검증체계 TF 운영 중 (23. 12월까지 예정)

3. 향후 활용 방안  

(1) 설명 가능한 인공지능(XAI): 인공지능의 동작을 사람이 이해할 수 있도록 처리하는 기술

 - AI 성능 향상

 - AI 결과에 대한 판단 기준을 이해해 사람이 최종 결정 가능

 - 결과에 대한 합리적 설명 가능

 - 판단 기준을 보고 차별적, 고위험 방지 가능

 - 규제 준수: 개인정보보호법, 신용정보법의 설명 요구권, 금융소비자보호법

 - 현재 금융보안원에서 개발 진행 중 

 - 2023년 3분기: XAI 안내서 발간, 챗봇 보안성 검증 실시, 데이터 공동 확보

          4분기 : AI 보안성 검증체계 마련, AI 테스트베드 구축

(2) 성공적인 인공지능 활용을 위한 핵심 요인

 - 양질의 데이터 확보

 - 수익성, 성과 창출 적용 분야

 - 선행적 조직 역량

 - 전문인력 확보와 기술 투자

 - 법·규제, 설명 가능성, 소비자 보호 등 윤리와 보안

 => AI를 적극 활용하되 보호가 잘 이뤄질 수 있도록 할 것인가, 원천 차단할 것인가? 

(3) AI 활용의 핵심은 데이터. 은행, 증권 등 금융은 오랜 시간 축적된 데이터가 시계열로 확연한 분야. 현재는 금융 쪽만 어느 정도 이뤄진 1단계. 

   향후 의료, 유통 분야까지 확대될 경우 파급 효과 극대화될 것으로 예상.