최근 생성형 AI와 대규모 언어모델(LLM)은 단순한 질의응답이나 보조 도구 수준을 넘어 스스로 작업 계획을 수립하고 외부 도구와 연계하여 복합적인 작업을 수행할 수 있는 방향으로 발전하고 있다. 또한 여러 AI Agent가 역할을 분담하여 연속적인 작업을 수행하거나, 상황 변화에 따라 전략을 수정하는 형태의 자율성도 점차 증가하고 있다. 이러한 변화는 기존 인간 중심의 사이버공격 구조가 AI Agent 기반 자동화·지속화·자율화 방향으로 변화하고 있음을 보여주며, 향후 공격 과정의 상당 부분이 AI Agent에 의해 연속적·반복적으로 수행될 가능성을 시사한다. 본 발표에서는 최근 공개된 AI Agent 기반 사이버 첩보 활동, AI-assisted vulnerability discovery, multi-step attack chain 실험, AI Agent 기반 사회공학 공격 사례 등을 살펴보고, 기존 공격 구조와 비교하여 AI Agent 기반 공격 환경의 기술적 변화와 특징을 정리하였다. 또한 AI Agent 기반 공격이 자동화, 지속성, 적응성, 정보전 측면에서 기존 사이버위협 환경을 어떻게 변화시키고 있는지를 고찰하고, 이에 대응하기 위한 기술적·정책적 대응 방향을 기술하였다.

AI와 OT(운영 기술)의 융합이 가속화됨에 따라, 본 발표에서는 제조업과 사회의 핵심 기반 시설을 위한 사이버 보안의 새로운 접근 방식을 소개합니다. 시스템 간의 상호 연결성이 긴밀해지면서 사이버 리스크는 더 이상 개별적인 침입에 국한되지 않으며, 그 영향은 공급망 전체와 사회 전반으로 확산될 수 있습니다. 이러한 변화에 대응하기 위해서는 침입 차단 중심의 방어를 넘어, 피해를 최소화하고 필수 운영을 유지하며 신속한 회복을 우선시하는 설계 철학으로 나아가야 합니다. 현대 산업의 상호 연결된 특성을 고려할 때, 이러한 과제는 개별 조직들만으로는 해결될 수 없습니다. 따라서 긴밀한 민관 협력이 필수적입니다. 본 발표에서는 일본 교토에서 시작된 산·학·관 협력 이니셔티브를 소개하고, 산업 사이버 보안을 사회적 신뢰를 위한 기반으로 재정의하고자 합니다. 또한 지속 가능한 AI 기반 사회를 위한 '신뢰 설계(Design for Trust)'를 제안하며, 지역에 뿌리를 두고 국제적으로 확장 가능한 모델을 제시할 것입니다.