AI가 만든 위험, 보험은 어디까지 책임질까?
안녕하세요. 트레져러입니다.
AI가 기업 업무에 빠르게 들어오면서 보험업계에도 새로운 질문이 생기고 있습니다.
AI가 잘못된 판단을 내려 기업에 손해가 발생하면 누가 책임질까요?
최근 글로벌 재보험 브로커 Gallagher Re는 AI 책임, 데이터센터, 사이버, 디지털 위험을 한데 다루는 Digital Risk Practice를 출범시켰습니다.
AI와 디지털 인프라에서 발생하는 위험이 더 이상 사이버보험 하나의 문제로만 보기 어려워졌기 때문입니다. 하나의 기술 문제가 배상책임, 전문직업배상, 재산, 사이버 등 여러 보험 영역에 동시에 영향을 줄 수 있다는 것입니다.
그렇다면 AI 시대에는 어떤 새로운 위험을 보험사가 계산해야 할까요?
AI 사고는 해킹만을 의미하지 않습니다.
출처: 극동대학교
AI 위험이라고 하면 가장 먼저 개인정보 유출이나 해킹을 떠올리기 쉽습니다.
하지만 실제 범위는 훨씬 넓습니다.
예를 들어 기업이 AI를 활용해 고객의 대출이나 보험 가입 여부를 판단했는데 잘못된 결과가 나올 수 있습니다.
생성형 AI가 사실과 다른 정보를 제공하거나, 저작권이 있는 자료를 잘못 활용해 분쟁이 생길 수도 있습니다.
AI 에이전트가 사람 대신 주문이나 계약과 같은 작업을 수행한다면 잘못된 행동이 실제 금전적 손실로 이어질 가능성도 있습니다.
즉, AI 위험은 단순한 ‘IT 오류’가 아니라
잘못된 판단 → 기업의 업무 → 고객이나 제3자의 손실
로 이어질 수 있다는 점이 중요합니다.
Gallagher Re 역시 AI 위험이 기존의 사이버보험뿐 아니라 배상책임보험과 전문직업배상 등 여러 보험 영역에 걸쳐 나타날 수 있다고 보고 있습니다.
기존 보험에 이미 AI 위험이 숨어 있을 수도 있습니다.
출처: Linkedin
여기서 보험사에게 어려운 문제가 하나 생깁니다.
AI 사고를 별도로 보장하는 보험상품이 없어도 기존 계약에서 보험금 지급 책임이 발생할 수 있다는 점입니다.
예를 들어 한 기업이 AI를 이용해 전문 서비스를 제공하다 고객에게 손해를 입혔다면 기존 전문직업배상보험에서 문제가 될 수 있습니다.
고객 데이터가 유출됐다면 사이버보험이 관련될 수 있고, AI의 판단으로 실제 재산 피해가 발생한다면 또 다른 보험계약과 연결될 수도 있습니다.
Gallagher Re는 이런 위험을 ‘Silent AI’라고 설명합니다.
쉽게 말하면 보험계약에 ‘AI 위험을 보장한다’고 명확하게 적혀 있지 않아도 기존 보험 안에 AI 관련 손실이 이미 포함돼 있을 가능성을 의미합니다.
보험사 입장에서는 앞으로
“우리 계약은 AI 사고를 어디까지 보장하는가?”
를 다시 확인해야 하는 이유입니다.
더 큰 문제는 한 번의 사고가 여러 기업으로 번질 수 있다는 것입니다.
출처: Vinciworks
AI와 디지털 서비스는 대부분 독립적으로 움직이지 않습니다.
많은 기업이 같은 클라우드 서비스, 데이터센터, AI 모델이나 소프트웨어를 함께 사용합니다.
따라서 공통으로 사용하는 기술에 문제가 발생하면 여러 기업에서 동시에 손실이 발생할 수 있습니다.
이런 현상을 보험에서는 집적위험(Accumulation Risk)이라고 합니다.
자연재해를 생각하면 이해하기 쉽습니다.
한 번의 태풍이 같은 지역의 수많은 건물을 동시에 피해 입힐 수 있는 것처럼, 하나의 디지털 인프라 장애도 여러 기업을 동시에 멈추게 할 수 있습니다.
실제 사례도 있습니다.
2024년 CrowdStrike의 잘못된 소프트웨어 업데이트로 전 세계 항공사와 은행, 병원 등의 시스템이 멈췄습니다.
당시 디지털 위험 분석회사 Parametrix는 미국 Fortune 500 기업의 직접적인 경제적 손실만 약 54억 달러에 달할 것으로 추정했습니다. 하지만 그중 보험으로 보상되는 규모는 약 10~20%에 그칠 것으로 예상했습니다.
CrowdStrike 사고 자체는 AI 사고가 아니었지만, 하나의 기술 공급자에 많은 기업이 의존할 때 손실이 얼마나 빠르게 확산될 수 있는지 보여주는 대표적인 사례입니다.
AI에서도 같은 문제가 발생할 수 있습니다.
그래서 데이터센터도 보험업계의 AI 이슈가 됩니다.
출처: Simplilearn
AI 이야기에 갑자기 데이터센터가 등장하는 이유도 여기에 있습니다.
AI 모델을 운영하려면 대규모 서버와 반도체, 전력, 네트워크 인프라가 필요합니다.
그 중심에 데이터센터가 있습니다.
AI 사용량이 늘수록 데이터센터에 대한 기업들의 의존도도 높아질 수밖에 없습니다.
Gallagher Re가 이번 Digital Risk Practice에서 AI Liability와 Data Centers를 Cyber와 함께 다루는 이유도 각각을 별개의 위험으로 보기 어렵기 때문입니다.
실제로 Gallagher Re가 이달 발표한 보고서에 따르면 2026년 2분기 글로벌 InsurTech 투자금 24억4천만 달러 가운데 99.1%가 AI 중심 기업에 투자됐습니다.
AI 기술이 빠르게 확산될수록 이를 뒷받침하는 인프라와 새로운 위험도 함께 커지고 있는 것입니다.
재보험은 왜 이 문제를 중요하게 볼까요?
출처: 산아일보
보험사는 한 기업의 AI 사고만 보는 것이 아닙니다.
자신이 보유한 수많은 보험계약 가운데 같은 AI 모델이나 클라우드, 데이터센터에 의존하는 기업이 얼마나 많은지도 살펴봐야 합니다.
만약 같은 시스템을 사용하는 기업이 많다면 하나의 사고가 여러 보험금 청구로 동시에 이어질 수 있기 때문입니다.
이때 재보험의 역할이 중요해집니다.
보험사가 혼자 감당하기 어려운 대규모 위험의 일부를 재보험을 통해 이전할 수 있기 때문입니다.
Gallagher Re 역시 새로운 Digital Risk Practice의 목적을 AI와 디지털 위험이 어디에 존재하는지, 한곳에 얼마나 집중돼 있는지, 재보험을 통해 어떻게 관리할 수 있는지 파악하는 것으로 설명하고 있습니다.
즉 AI 시대의 재보험에서는
개별 사고의 확률뿐 아니라
같은 기술에 얼마나 많은 위험이 연결돼 있는가
도 중요한 질문이 되고 있습니다.
앞으로 보험계약도 달라질 수 있습니다.
출처: 한국경제
AI 위험이 커질수록 보험사가 확인해야 하는 정보도 늘어납니다.
기업이 어떤 AI를 사용하고 있는지, 중요한 결정을 AI가 단독으로 내리는지, 사람이 최종 검토하는지, 문제가 발생했을 때 기록을 확인할 수 있는지 등이 위험을 평가하는 기준이 될 수 있습니다.
보험계약 역시 AI 사고를 명확하게 포함하거나 제외하는 방식으로 점차 구체화될 가능성이 있습니다.
결국 AI 기술의 발전은 새로운 보험상품을 만드는 것에서 끝나지 않습니다.
기존 보험계약 안에 어떤 위험이 숨어 있는지 다시 살펴보고, 여러 기업에 동시에 발생할 수 있는 손실까지 계산해야 하는 문제로 확장되고 있습니다.
새로운 위험일수록 정보의 연결이 중요합니다.
AI 책임보험과 데이터센터 위험은 아직 빠르게 변화하고 있는 영역입니다.
따라서 재보험 담당자 역시 새로운 시장 동향과 계약조건, 관련 클레임 정보를 계속 확인해야 합니다.
Treasurer INS는 AI 책임 위험 자체를 산출하는 모델은 아닙니다.
대신 재보험 업무에서 계약과 클레임 데이터를 구조화하고, 문서 비교·검증과 시장 뉴스 분석 등을 하나의 업무 흐름 안에서 지원합니다.
새로운 위험이 등장할수록 중요한 것은 새로운 기술의 이름을 아는 것만이 아닙니다.
그 위험이 어떤 계약에 포함돼 있고, 어디에서 손실이 발생할 수 있으며, 여러 계약에 어떻게 확산될 수 있는지를 파악하는 것이 더 중요해집니다.
AI는 기업의 업무를 바꾸고 있습니다.
그리고 이제 보험업계에서는 한 단계 더 나아가,
“AI를 어떻게 사용할 것인가?”에서
“AI가 만든 위험을 어떻게 보험할 것인가?”
라는 새로운 질문이 시작되고 있습니다.