브렌트 메이너드는 AI가 “의도와 실현 가능성 사이의 거리를 좁히고 있다”며 공격자들은 그 어느 때보다 빠르게 전문 지식을 습득하고 공격 규모를 키울 수 있다고 말합니다.
AI 사기 및 악용: 리테일과 이커머스에서의 효과적인 방어책
AI는 범죄 의도와 기술적 실현 가능성 사이의 격차를 무너뜨리고 있습니다. 진입장벽이 낮아짐에 따라 미숙한 공격자도 전문가 수준의 규모와 속도에 도달할 수 있게 되었습니다. 기업은 이렇게 자동화되어 더욱 커진 위협을 방어할 수 있도록 적응형 아키텍처와 제로 트러스트 체계를 도입해야 합니다.
에이전틱 AI 봇이 확산되면서 거래 무결성이 위협받고 있습니다. 독립적으로 쇼핑하고 결제할 수 있는 자율 봇으로 인해 악용과 브랜드 이미지 타격이 크게 이루어질 소지가 있습니다. 행동 인텔리전스의 관점에서 인풋을 검증하면 악성 에이전트와 정상적 자동화를 구분하는 데 도움이 됩니다.
크리덴셜 스터핑과 검증된 계정의 재판매로 인해 고객의 신뢰가 저하될 위험에 처하게 됩니다. 해커는 탈취한 데이터를 대규모로 활용하므로 실제 사용자와 악성 공격자를 구분하기 어렵습니다. 제어 계층을 만들고 로그인하기 전에 디바이스 신호를 모니터링하는 것이 고객 경험을 저해하지 않고 보호를 강화하는 데 필수적입니다.
생성형 AI는 딥페이크와 데이터 유출과 같이 리스크가 높은 기법의 바탕이 됩니다. 합성된 미디어는 콜 센터와 재무 부서를 속여 무단 결제를 유도할 수 있고, 공개된 대규모 언어 모델(LLM)은 독점 지적재산을 수집할 수 있습니다. 엄격한 데이터 보호 기준과 벤더 검증을 적용하면 기업의 리스크를 방지할 수 있습니다.
- 보안은 비즈니스 전환 속도와 사기 판별 절차 사이의 균형을 유지해야 합니다. 번거로운 방어 전략은 고객 경험을 저해할 수 있는데, 그렇다고 조치를 하지 않으면 전체 공급망이 취약해질 수 있습니다. 가장 중요한 비즈니스 기능의 식별에 우선순위를 부여하면 표적화되고 확장 가능한 방어 체계를 갖출 수 있습니다.
자주 묻는 질문(FAQ)
세 가지 도전 과제는 구체적으로 자율 에이전틱 AI 봇의 증가, 검증된 인증정보 재판매를 동반한 크리덴셜 스터핑, 공개된 LLM으로의 데이터 유출입니다.
이 부문은 넓은 네트워크 공격 표면, 여러 개의 엣지 거점을 통한 접속, 2차 제품 시장의 압력에 직면해 있습니다.
1차적인 권장 전략은 정상적인 행동만 허용하고 다른 모든 행동을 차단함으로써 트래픽을 식별하고 파악하는 것입니다.
딥페이크는 음성 및 화상 통화를 사용해 CEO로 가장해 상품권을 요청하거나, 고객을 가장해 물류 회사를 기만하는 등의 방법으로 콜 센터와 재무 부서를 속입니다.
기업은 신원(상호 작용 대상), 의도(요청 대상), 행동(통신이 이루어지는 방법)을 평가해야 합니다.
차지백(Chargeback) 사기라고도 하는 우호적 사기는 소비자가 정상적으로 제품을 구매한 뒤, 나중에 해당 거래가 사기에 의하거나 무단으로 이루어진 것이라고 주장하며 환불을 요구할 때 발생합니다.
최종 목표는 소비자와 기업 간 모든 상호 작용의 안전을 보장하는 것입니다.