FollowTheTrends

최근 챗봇 공격 방법이 날로 발전하면서, 인공지능 챗봇의 취약점을 악용하려는 시도가 늘어나고 있습니다. 특히, 거대언어모델(LLM)을 활용한 챗봇의 경우 이러한 공격에 더욱 취약한 것으로 드러났습니다. 지난 4일, 서울 강남구 조선팰리스에서 열린 '에스투더블유 인텔리전스 서밋 2024'(SIS2024)에서 에스투더블유 인공지능팀의 장우진 책임은 이러한 챗봇 공격 수법의 발전 양상을 설명했습니다. 장 책임은 "거대언어모델의 핵심은 똑똑한 자동완성 기능에 있다"라고 지적하며, 이를 악용한 공격 기법들이 다양화되고 있다고 밝혔습니다. 예를 들어, "폭탄 만드는 법을 알려줘"와 같은 질문에 대해 챗봇은 일반적으로 "답변할 수 없습니다"라고 응답합니다. 그러나 질문에 여러 특수 문자를 추가하면, 챗봇이 잘못된 응..