‘AIDR’이란 무엇인가

이제는 사람이 아니라 AI 에이전트를 통제해야 할 때

소만사 김대환 대표이사

올해 AI 세계의 가장 큰 화두는 뭐니 뭐니 하더라도 에이전틱 AI일 것이다.

25년 말부터 빵터지더니 올 초부터는 모든 이슈를 빨아들이는 블랙홀이 되었다. PC에 AI 에이전트를 설치하고 권한을 부여해서 사람이 작업하는 것처럼 AI 에이전트가 일을 대신해 주는 것이다. 메일을 대신 답변하고 보내고, 사내 및 인터넷에 있는 자료를 취합하여 분석 후 요약하고, 발표 자료 초안을 만든다. 한 번 AI 에이전트를 활용해 본 사람은 다시는 옛날로 돌아갈 수 없다고 말하는 분들이 적지 않다.

IT 분야는 한 번 뭔가 뜬다고 하면 미쳐 돌아가는 것이 다반사이다.

미국 플랫폼 기업은 보안에 대한 우려는 신경 쓰고, 에이전틱 AI 트렌드에 뒤처지지 않도록 집중하고 있으며, 우리나라 대기업도 AI 퍼스트를 선언하면서, AI 에이전트 물결에 올라타고 있다. 보안을 생각하다가 뒤처지는 것은 있을 수 없는 일이다.

그런데 세상 모든 것이 그러하듯 활용이 어느 정도 무르익으면 보안의 이슈가 고개를 들게 되어 있다.

이러한 AI 활용의 추세에 따라서 탄생한 개념이 AIDR이다. (AI Detect and Response) EDR은 잘 아는 것처럼 Endpoint Detect and Response의 약자이다. AIDR은 EDR에서 Endpoint를 대체한다. Endpoint에서 사람인 해커가 악성 행위를 하는 것을 감사하고 통제하는 것이 EDR이었다면 AIDR은 AI가 하는 행동을 감사하고 통제하는 것이다. 향후 endpoint 컴퓨팅, 혹은 모든 컴퓨팅은 사람이 아니라 AI가 더 많은 비중을 차지할 것이라는 트렌드 변화를 상징하는 역사적인 순간이기도 하다. 이에 따라서 도대체 누가 이 행위를 한 것이야 라는 Identity에 대한 이슈도 앞으로 더 커질 수밖에 없다. 홍길동의 PC라면 당연히 홍길동이 한 것이라는 가정이 이제는 더 이상 성립하지 않는 것이다.

AIDR의 주요한 기능은 자산 식별, 설치 통제, 가시성 확보, 그리고 권한 통제이다.

자산 식별은 어떤 AI 에이전트와 MCP, 모델이 로컬 PC에 설치되어 있는지 확인하는 것이다. 자산 식별과 설치 통제는 서로 간에 상호보완적이다. 이상한 AI 에이전트가 설치를 시도할 경우에는 통제하는 것이다. 에이전트가 제대로 일하는지 판단하는 것은 평판 관리의 영역이다. 회사에서 사람을 뽑을 때 레퍼런스 체크를 하는 것처럼 에이전트에 대한 평판 관리를 확인하고 다운로드 여부를 결정한다. 앱마켓에 대한 레이팅과 비슷한 것이다. AI 에이전트는 평판 관리가 훨씬 더 어렵다. 원래 해야 하는 일을 하면서 은근슬쩍 다른 일을 하는 것을 잡아내는 것이 쉽지 않기 때문이기도 하다. 열 길 물속은 알아도 한 길 사람 속은 모르는 것처럼 AI 에이전트의 깊은 속을 들여다보기는 어려운 일이 되었다.

실시간으로 AI 에이전트 로그를 다 남기고, 통제하는 것은 가시성 영역이다.

기존에 EDR은 레지스트리를 변경하고, PowerShell을 실행하고, 파일을 암호화하고, 악성 사이트 접속 등의 이상한 행위 중심으로 감사 로그를 남겼다면 AIDR은 정당한 업무를 하는 것을 빙자하면서 이상한 행동을 하는 것을 검출해야 하는 것이기 때문에 감사 로그 형성도 좀 더 많이 해야 할 수도 있다.

권한 관리는 또 하나의 중요한 숙제이다.

앞으로 AI 에이전트가 우회해서 권한을 획득하려고 하는 일도 부지기수로 나올 것이고, 이를 통제해야 할 것이기 때문이다.

AIDR은 새로운 개념이다.

AI 에이전트가 활성화되었기 때문에 나온 이슈이고, 따라서 기술 개발이 1년 정도밖에 되지 않았다. 글로벌 제품도 아직은 초기 버전 단계이며 국내 제품과 기술 격차도 그닥 크지 않다고 생각한다. 물론 크게는 수천억까지 투자받은 후에 개발에 집중하기 때문에 27년 상반기를 지나면, 어쩌면 그보다도 이른 내년 초쯤 완성도 높은 외산 솔루션들이 시장에 출시될 것으로 예상한다. 그렇다고 국내 솔루션이 뒤처진다고 보지는 않는다. 생긴 지 얼마 되지 않은 개념인 데다, 국내에서도 이미 AI 에이전트를 적극적으로 활용하고 있기 때문에 활용 수준 자체는 다른 나라에 결코 뒤처지지 않는다. 게다가 한국은 제조업과 첨단산업 비중이 높은 나라이다 보니 보안에서도 오히려 더 적극적으로 움직이는 편이다. 사용 환경과 활용도가 이미 미국 같은 나라 수준까지 올라와 있는 만큼, 이를 뒷받침하는 보안·커버리지 역량도 절대 뒤처지지 않을 것이라고 본다.

마지막으로 사내 IT 보안 담당자로서 또 하나 질문이 생기는 것은 필연적이다.

AI 에이전트를 보호하기 위해서 PC에 보안 에이전트를 또 하나 더 설치해야 하는 것인가. 지금도 7개 에이전트가 PC에 깔려 있는 상황이다. 혹시라도 통합 보안 에이전트에서 해결해 줄 수는 없는 것인가.

보안 운영자들의 편의성을 위해서는 에이전트가 추가되는 것이 당연하다.

솔루션 담당자들끼리 업무가 서로 간에 겹치지 않는 것이 깔끔하고 속 편하다. PC의 개인정보 보호 업무와 PC 악성코드 분석 업무는 서로 간에 다른 업무 분장이 되었으면 좋겠고 서로 간에 말 섞는 것도 최소화하고자 하는 것이 자연스러운 일이다. 그런데 보안의 고객인 직원들 입장에서는 에이전트 추가는 보안팀의 무능으로 보여질 수 있다. 7개 이상 에이전트가 PC 부팅하면서 줄줄이 뜨는 것은 충분히 불만을 가질 만한 일이다. 보안 때문에 성능도 저해되는 것 같고, 충돌도 발생하는 것 같고, 부팅도 느려지는 것 같다.

보안팀의 업무 분장의 명쾌함을 위해서 에이전트를 더 늘릴 것인가

아니면 고객을 위해서 에이전트를 통합할 것이냐,

이는 앞으로도 계속되는 숙제일 것이다.

기존에 Endpoint 보안 업체는 AIDR을 기존 Endpoint 솔루션 체계 안에 내재화하려고 할 것이고,

AIDR 스타트업은 AIDR 중심으로 나머지 Endpoint 이슈를 다 포괄하려고 자기가 세상의 중심이라고 외칠 것이다.

그러나 결국 승부를 가르는 것은 새로운 이름표가 아니다.

이미 고객의 PC를 지속적으로 지켜온 기업이

그 신뢰를 바탕으로 AIDR 영역까지 얼마나 빠르고 자연스럽게 넓혀가느냐일 것이다.

네이버 블로그 : https://blog.naver.com/best_somansa/224391181390