Claude2 LLM 시스템 보안의 취약점과 공격 벡터: 인공지능 시대의 새로운 보안 과제 서론인공지능 기술의 급속한 발전으로 대규모 언어 모델(LLM)이 다양한 응용 프로그램에 통합되고 있습니다. ChatGPT, Claude, Bard와 같은 LLM은 코드 작성부터 콘텐츠 생성, 정보 검색까지 광범위한 작업을 수행할 수 있습니다. 그러나 이러한 강력한 기능은 새로운 보안 위협을 동반합니다. 이 글에서는 LLM 시스템의 주요 취약점과 공격 벡터에 대해 살펴보겠습니다.LLM의 구조적 취약점LLM은 트랜스포머 아키텍처를 기반으로 하며, 이 구조는 본질적으로 몇 가지 보안 취약점을 내포하고 있습니다. 자기회귀적 생성 방식은 이전 토큰을 기반으로 다음 토큰을 예측하는 방식으로 작동하며, 이는 악의적인 프롬프트가 모델의 동작을 조작할 수 있는 경로를 제공합니다. 또한, 주의 메커니즘은 입력 시퀀스의 모.. 2025. 3. 24. 0302 AI 뉴스 이전에 공유했던걸 늦었지만 여기에 백업 겸으로 작성해둡니다...이번에는 새로운 모델들이 쏟아져서...모델 관련된 내용이 많습니다. 모델GPT-4.5가 출시했습니다. 비싸서...테스트는 아직 못해봤는데 여론상으로는 추론 모델에 비해 성능은 떨어지지만, hallucination에 대한 성능은 좋다고 하네요.https://youtu.be/3YL_MQZJgxE claude-3.7-sonnet에 관한 글입니다. 증강할때 테스트해봤는데, 성능이 꽤 좋은 거 같아요.https://news.hada.io/topic?id=19407 이번에 공개된 Grok-3에 관한 내입니다. Grok 2보다 10배 이상 성능이 향상되었고, “Think 버튼”을 이용한 고급 추론 기능으로 답을 깊이 고민하거나, “딥 서치(Deep .. 2025. 3. 23. 이전 1 다음
