전체 글42 생성형 AI의 윤리 및 정보보안: 도전과 대응 🧠 생성형 AI의 윤리 및 정보보안: 도전과 대응✨ 요약생성형 인공지능(Generative AI)은 텍스트, 이미지, 음악 등 다양한 콘텐츠를 자동으로 생성하는 기술로, 산업 전반에 혁신을 가져오고 있습니다.하지만 ⚠️ 이 기술은 동시에 윤리적 논란과 정보보안 위협을 동반하고 있으며, 이를 해결하지 못할 경우 사회적 신뢰 기반이 무너질 수 있습니다.이 글에서는 📌 생성형 AI의 주요 윤리 이슈와 정보보안 리스크를 진단하고, 🎯 실질적인 대응 전략을 제안합니다.📚 목차🧩 생성형 AI란 무엇인가? ⚖️ 윤리적 이슈 🎯 데이터 편향성과 공정성 📄 저작권 및 지적 재산권 ❓ 책임 소재의 불명확성 🔐 정보보안 위협 🚨 악성 코드 및 피싱 공격 🧯 데이터 유출 위험 🧨 허위 정보 .. 2025. 4. 6. AI와 함께하는 맞춤형 학습 도우미 '공부의 신' 개발기 🤖 멀티 에이전트 시스템을 활용한 AI 학습 도우미 구현기안녕하세요! 오늘은 '공부의 신' 프로젝트에서 구현한 멀티 에이전트 시스템에 대해 자세히 소개해드리려고 합니다.깃허브 ⬇️⬇️https://github.com/GoDK36/God-of-Study🌟 멀티 에이전트 시스템이란?멀티 에이전트 시스템은 여러 개의 AI 에이전트가 서로 협력하여 복잡한 작업을 수행하는 시스템입니다.각 에이전트는 특정 역할과 책임을 가지고 있으며, 서로 상호작용하면서 목표를 달성합니다.💡 '공부의 신'의 멀티 에이전트 구조1. 핵심 에이전트 구성def create_agent(topic, difficulty): # LLM 모델 초기화 llm = get_llm(st.session_state.selected_mode.. 2025. 3. 31. AI 이미지 생성기 만들기: DALL-E 3와 Streamlit을 활용한 웹 애플리케이션 개발 AI 이미지 생성기 만들기: DALL-E 3와 Streamlit을 활용한 웹 애플리케이션 개발안녕하세요! 오늘은 OpenAI의 DALL-E 3와 Streamlit을 활용하여 AI 이미지 생성 웹 애플리케이션을 만들어보는 과정을 공유해드리겠습니다. 참고용 깃허브 -> https://github.com/GoDK36/img_creator.git🎯 프로젝트 소개이 프로젝트는 사용자가 프롬프트를 입력하면 DALL-E 3를 통해 고품질 이미지를 생성하고, 생성된 이미지를 다운로드할 수 있는 웹 애플리케이션입니다.주요 기능DALL-E 3를 활용한 고품질 이미지 생성사용자 정의 시스템 프롬프트 지원이미지 다운로드 기능생성된 이미지 히스토리 관리요청 제한 시스템🛠 기술 스택Python: 3.xStreamlit: 웹 .. 2025. 3. 29. LLM 시스템 보안의 취약점과 공격 벡터: 인공지능 시대의 새로운 보안 과제 서론인공지능 기술의 급속한 발전으로 대규모 언어 모델(LLM)이 다양한 응용 프로그램에 통합되고 있습니다. ChatGPT, Claude, Bard와 같은 LLM은 코드 작성부터 콘텐츠 생성, 정보 검색까지 광범위한 작업을 수행할 수 있습니다. 그러나 이러한 강력한 기능은 새로운 보안 위협을 동반합니다. 이 글에서는 LLM 시스템의 주요 취약점과 공격 벡터에 대해 살펴보겠습니다.LLM의 구조적 취약점LLM은 트랜스포머 아키텍처를 기반으로 하며, 이 구조는 본질적으로 몇 가지 보안 취약점을 내포하고 있습니다. 자기회귀적 생성 방식은 이전 토큰을 기반으로 다음 토큰을 예측하는 방식으로 작동하며, 이는 악의적인 프롬프트가 모델의 동작을 조작할 수 있는 경로를 제공합니다. 또한, 주의 메커니즘은 입력 시퀀스의 모.. 2025. 3. 24. 0302 AI 뉴스 이전에 공유했던걸 늦었지만 여기에 백업 겸으로 작성해둡니다...이번에는 새로운 모델들이 쏟아져서...모델 관련된 내용이 많습니다. 모델GPT-4.5가 출시했습니다. 비싸서...테스트는 아직 못해봤는데 여론상으로는 추론 모델에 비해 성능은 떨어지지만, hallucination에 대한 성능은 좋다고 하네요.https://youtu.be/3YL_MQZJgxE claude-3.7-sonnet에 관한 글입니다. 증강할때 테스트해봤는데, 성능이 꽤 좋은 거 같아요.https://news.hada.io/topic?id=19407 이번에 공개된 Grok-3에 관한 내입니다. Grok 2보다 10배 이상 성능이 향상되었고, “Think 버튼”을 이용한 고급 추론 기능으로 답을 깊이 고민하거나, “딥 서치(Deep .. 2025. 3. 23. 0310 AI 뉴스 정리 일주일마다 트랜드로 회사에 공유하는 내용을 정리합니다.짧게 1~3문장 정도로만 요약할 예정입니다.주로 제가 관심갖는 분야가 중점이 될거 같지만 LLM이나 NLP가 주 주제가 될 것 같습니다.AI 트랜드2025년 AI 에이전트 트랜드에 관한 내용입니다.https://news.hada.io/topic?id=19613&utm_source=weekly&utm_medium=email&utm_campaign=202510AI 활용법OpenAI 공동창업자인 Andrej Karpathy가 설명한 LLM에 대한 기본과 추론 모델을 활용하는 방법 등 적절하게 LLM을 사용하는 방법에 대해 적은 글입니다.https://news.hada.io/topic?id=19543&utm_source=weekly&utm_medium=ema.. 2025. 3. 23. 이전 1 2 3 4 ··· 7 다음
