사이버보안의 미래, 생각보다 인간적

---

AI가 사이버보안을 혁신하며 정형, 비정형 데이터를 처리합니다. 보안 전문인력은 전통적인 방식으로 클라우드 환경의 보안을 유지하는 동시에 특정 인간 행동과 AI 결과의 “환각“을 이해하는 소프트 스킬 개발에 관해 더 많은 전문지식을 확보해야 합니다.

---

글쓴이: 존 리카타(John Licata)

빠르게 진보하는 인공지능

바이러스 보호 소프트웨어처럼 온라인 위협을 예방하기 위한 전통적인 사이버보안 전술이 더할 나위 없이 중요하기는 하지만 그 효과에 있어서는 한계가 있습니다. 인공지능(AI)의 급속한 진보를 따라잡느라 여념이 없는 세상에서는 내일의 소프트웨어 플랫폼을 보호하는 데 있어 과거의 보안 기법은 더 이상 충분치 않습니다. 그렇다면 비즈니스는 AI 채택 급증에 대비하고 사이버 위협으로부터 어떻게하면 시스템을 보다 안전하게 지켜낼 수 있을까요?

사이버보안 선진사례와 교육훈련은 다양한 위협에 대해 전문지식을 입증하고 인지도를 높이는 효과를 낼 수 있습니다. 하지만 기존 직무기술 격차는 AI의 인기 상승과 AI에 대한 의존도 증가로 인해 더욱 심화될 전망입니다.

“AI와 사이버보안의 교차점은 복잡합니다. 끊임없이 발전하고 잘못 이해하기 쉬운 새로운 프런티어죠. 하지만 한 가지는 확실합니다. AI는 우리 곁에 함께할 전망입니다. 그만큼 사이버보안에서 AI의 역할도 계속 늘어나기만 할 뿐입니다.”

롤랜드 코스티어(Roland Costea), SAP 최고 정보보안 책임자(CISO)

내달리는 인간의 감정

직무 스킬 강화가 도움이 되기는 하지만 사실 가려져 있는 진짜 문제가 있습니다. 바로 불안감이죠.

직원의 90%가 자신이 속한 조직이 어떤 형태로든 AI를 활용 중이라고 하면서도 EY 조사에 참여한 응답자의 71%는 AI에 관한 불안감으로 고군분투하고 있다고 밝혔습니다. 이 조사에 따르면 AI에 대한 노출이 늘어날수록 불안감도 줄어드는 게 아니라 오히려 더 커져서 절반 가량(48%)은 1년 전보다 AI에 대한 우려가 커졌다고 전했습니다.

이러한 감정적인 AI 불균형은 우려할 만합니다. 직원들이 직장의 안전을 지키고 AI 주도형 공격에 방어해야 하는 중요한 역할을 맡고 있기 때문이죠. 개발자에게 사람의 마음까지 읽는 심리학자 역할도 맡아야 한다고 하면 교육훈련에 새로운 접근법이 요구됩니다.

노동경제연구소(The Institute of Labor Economics)에 따르면 대다수 기술 도입 기업이 인력 트렌드에 대응하기 위해 보다 전문화 된 근로자를 채용한다고 합니다. 하지만 AI가 사이버보안을 혁신하고 정형, 비정형 데이터를 사람이 혼자서는 할 수 없었을 방식으로 처리하는 상황을 고려할 때 이번에는 이야기가 다를 수 있습니다.

따라서 보안 전문인력은 전통적인 의미의 클라우드 환경 보호에 필요한 전문지식을 더욱 확충하는 한편 특정 인간 행동과 AI 결과에 숨어있는 “환각”을 이해할 수 있도록 소프트 스킬 개발에도 힘써야 합니다.

“AI와 사이버보안의 맥락에서 보자면 환각은 인공지능 시스템이 예상치 못한 혹은 부정확한 결과를 내놓는 경우를 가리킵니다. 이는 훈련 데이터의 편견이나 알고리즘 내부의 복잡한 상호작용에 기인하는 일일 수 있습니다. 이러한 AI 환각 현상을 인지하고 처리하는 일이 중요하며 사이버보안 전문인력이 갖춰야 할 새로운 스킬세트입니다.”

롤랜드 코스티어(Roland Costea), SAP 최고 정보보안 책임자(CISO)

AI로 인해 치솟는 사이버 위협

문제를 더 복잡하게 만드는 요인은 바로 사이버 위협이 AI로 인해 더욱 정교해지고 빈번해진다는 사실입니다. EY에 따르면 파악된 사이버 공격건수가 지난 5년간 75% 증가했고 랜섬웨어 비용도 (2021년 200억 달러에서) 2031년까지 2,650억 달러에 이를 전망입니다.

사이버 공격자는 AI 모델에 대한 입력값을 조작하고 악성 코드로 전염 시켜 불필요한 연산을 처리하게 함으로써 결국에는 운영비를 올리고 명성에 피해를 줍니다. 시스템 중단과 다운타임, 데이터 유출, 고객의 신뢰 손상, 고객 이탈 증가, 신규 고객의 관심 소멸 등을 초래할 수 있기 때문이죠.

많은 이가 탐내는 지적재산을 노릴 수도 있습니다. 사이버 공격 대상이 공급망의 구성원인 한 조직이라면 물류 흐름을 지연시키고 지장을 초래할 수 있습니다. 추가로 보안 사고는 법적 손해나 규정 위반으로 인한 손실로 이어질 수 있습니다. 추가 보안 조치 구현에 필요한 신규 교육훈련에 즉시 초점을 맞출 필요가 생겨 직원 생산성 저하를 유발할 수 있기 때문입니다.

강력한 보안 문화 확립이 관건

종합해 보자면 사이버 위협이 놀라운 속도로 진화하기 때문에 고려할 항목도 참 많습니다. 총체적인 사이버보안 전략과 AI 시대에 걸맞는 인간의 역할의 출발점은 선진사례와 투명성, 규제준수를 고려한 설계, 제로 트러스트 보안 모델 생성 등을 정조준한 보다 강력한 보안 문화 확립입니다.

사이버보안의 인간적 측면에 대한 적절한 투자가 없다면 여러분 조직의 명성과 신뢰 점수에 실질적인 리스크가 존재하며 재무 손실 문제도 악화될 뿐입니다.

비즈니스가 사이버 위협과 기술보다 앞서 나가기 위한 구체적인 방안에 초점을 둔 2부 글도 기대하세요.

• 원문: The Future Of Cybersecurity Is More Human Than You Think, SAP BrandVoice, Forbes.com