개발/LLM29 [논문 리뷰] Building Guardrails for Large Language Models AI 챗봇의 유해 발언을 막는 '가드레일' 기술은 단순한 필터가 아닌, 복잡한 신경-상징적 시스템으로 진화하고 있지만, 안전성과 창의성 사이의 긴장관계라는 근본적 딜레마에 직면해 있습니다. 목차 대규모 언어 모델(Large Language Models, LLMs)을 위한 가드레일(Guardrails) 구축가드레일은 대규모 언어 모델의 입력이나 출력을 필터링하여 모델의 안전성을 보장하는 핵심 기술입니다. 논문에서는 가드레일을 "일련의 객체(LLM의 입력/출력)를 입력으로 받아 객체에 내재된 위험을 줄이기 위한 강제 조치를 결정하는 알고리즘"으로 정의합니다. 예를 들어, 아동 착취와 관련된 입력이 들어오면 가드레일은 이 입력의 처리를 차단하거나 출력을 무해하게 조정할 수 있습니다. LLM이 일상생활에 .. 2025. 5. 1. [AI][Agent] CrewAI: 협업하는 AI 에이전트의 세계 이 글에서는 João Moura가 개발한 오픈 소스 멀티 에이전트 오케스트레이션 프레임워크인 CrewAI에 대해 알아보겠습니다. 목차 CrewAI: 협업하는 AI 에이전트의 세계 CrewAI는 João Moura가 개발한 오픈 소스 멀티 에이전트 오케스트레이션 프레임워크입니다. 이 프레임워크는 마치 실제 작업팀처럼 여러 AI 에이전트가 협력하여 복잡한 작업을 완수할 수 있게 해주는 도구입니다. 각 에이전트는 특정 역할과 전문성을 가지고 있으며, 이들이 협업하여 하나의 공통 목표를 달성하는 과정을 효율적으로 관리합니다. 흥미로운 점은 CrewAI가 처음에는 LangChain 기반으로 시작되었지만, 현재는 완전히 독립적인 프레임워크로 발전했다는 것입니다. 공식 문서에 따르면 CrewAI는 "LangC.. 2025. 4. 29. [AI][Agent] LangGraph와 BeeAI 멀티 에이전트 프레임워크 비교 분석 이 글에서는 LangGraph와 BeeAI 멀티 에이전트 프레임워크를 비교 분석해보겠습니다. 목차 LangGraph와 BeeAI 멀티 에이전트 프레임워크 비교 분석멀티 에이전트 AI 시스템이 발전함에 따라 다양한 프레임워크가 등장하고 있습니다. 이 글에서는 LangGraph와 BeeAI 멀티 에이전트 프레임워크를 비교 분석하여 각 프레임워크의 특징, 장단점을 살펴보겠습니다. [AI][Agent] LangGraph: 차세대 AI 에이전트 프레임워크의 부상오늘은 오픈소스 AI 에이전트 프레임워크로, 복잡한 생성형 AI 에이전트 워크플로우를 구축, 배포 및 관리하기 위해 설계된 LangChain에서 개발한 LangGraph에 대해 알아보겠습니다. 목차 LangGraph: 차세wide-shallow.tis.. 2025. 4. 22. [AI][Agent] LangGraph: 차세대 AI 에이전트 프레임워크의 부상 오늘은 오픈소스 AI 에이전트 프레임워크로, 복잡한 생성형 AI 에이전트 워크플로우를 구축, 배포 및 관리하기 위해 설계된 LangChain에서 개발한 LangGraph에 대해 알아보겠습니다. 목차 LangGraph: 차세대 AI 에이전트 프레임워크의 부상LangGraph는 LangChain에서 개발한 오픈소스 AI 에이전트 프레임워크로, 복잡한 생성형 AI 에이전트 워크플로우를 구축, 배포 및 관리하기 위해 설계되었습니다. 그래프 기반 아키텍처를 활용하여 AI 에이전트 워크플로우 내 다양한 컴포넌트 간의 복잡한 관계를 모델링하고 관리합니다. LangGraph의 핵심은 상태 관리와 그래프 기반 아키텍처를 통해 AI 에이전트의 동작 흐름을 명확하게 제어하고 가시화하는 데 있습니다. 지능적인 의사결정 과.. 2025. 4. 21. [AI][Agent] BeeAI Framework: 차세대 멀티 에이전트 개발 플랫폼 IBM Research에서 개발한 오픈소스 프레임워크인 BeeAI Framework에 대해 알아보겠습니다. 목차 BeeAI Framework: 차세대 멀티 에이전트 개발 플랫폼BeeAI Framework는 IBM Research에서 개발한 오픈소스 프레임워크로, 프로덕션 수준의 멀티 에이전트 시스템 구축을 위해 설계되었습니다. Python과 TypeScript를 모두 지원하며, 현재는 Linux Foundation AI & Data 프로그램의 일환으로 기여되어 공개적으로 발전하고 있습니다. BeeAI의 핵심 미션은 "개발자가 어떤 프레임워크에서든 AI 에이전트를 발견하고, 실행하고, 구성할 수 있는 오픈소스 생태계 구축"입니다. 이는 현재 분절된 에이전트 에코시스템을 통합하고, 진정한 상호운용성을 실.. 2025. 4. 20. [AI][Agent] 구글의 'Agent2Agent(A2A)' 프로토콜 AI 기술이 빠르게 발전함에 따라 다양한 AI 에이전트들이 서로 소통하고 협업해야 할 필요성이 커지고 있습니다. 이런 배경에서 구글이 새로운 프로토콜 'Agent2Agent(A2A)'를 공개했습니다. 오늘은 이 혁신적인 프로토콜의 개념부터 작동 방식, 그리고 기존 프로토콜과의 차이점까지 상세히 알아보겠습니다. 목차 구글의 'Agent2Agent(A2A)' 프로토콜Agent2Agent(A2A)에 대해 알아보기 전에 Agent가 무엇인지 궁금하신 분들은 아래 블로그를 참고하세요. [백서] Google's AI White Paper "Agents"이번 글에서는 Google에서 발행한 Agents 백서를 바탕으로 Agent(에이전트)의 핵심 구성 요소, 작동 방식 등에 대해 살펴보겠습니다. 목차 Go.. 2025. 4. 13. [논문 리뷰] AutoGen: Enabling Next-Gen LLM Applications via Multi-Agent Conversation 이번 글에서는 다중 에이전트 대화를 통해 LLM(대형 언어 모델) 응용 프로그램을 손쉽게 구축할 수 있는 오픈소스 프레임워크인 AutoGen 논문을 정리해보았습니다. 목차 AutoGen: Enabling Next-Gen LLM Applications via Multi-Agent ConversationAutoGen은 LLM 응용 프로그램을 구축할 수 있도록 다중 에이전트 대화를 활용하는 오픈소스 프레임워크입니다. 이 프레임워크는 대화 가능한 에이전트를 사용하여 다양한 작업을 수행할 수 있도록 설계되었습니다. GitHub: https://github.com/microsoft/autogen GitHub - microsoft/autogen: A programming framework for agentic A.. 2025. 2. 11. [논문 리뷰] Eliza: A Web3 friendly AI Agent OperatingSystem 이번 글에서는 AI 기술과 Web3 기술이 급격히 발전함에 따라, 두 기술을 효과적으로 결합하는 새로운 프레임워크인 Eliza 논문을 리뷰해보겠습니다. 목차 Eliza: A Web3 friendly AI Agent OperatingSystemWeb3 환경에서 블록체인 데이터의 읽기와 쓰기, 스마트 계약과의 상호작용, 실시간 데이터 분석과 같은 작업은 필수적인 요소가 되었지만, 이를 지원하는 기존의 AI 시스템은 Web3와 원활하게 통합되지 못하는 한계를 보였습니다. 또한, Web3 개발자들이 활용할 수 있는 친숙하고 직관적인 플랫폼의 부재 역시 큰 문제였습니다. 이러한 상황에서 Web3 애플리케이션과 AI 에이전트 간의 효율적이고 유기적인 통합을 목표로 설계된 ElizaOS가 등장하게 되었습니다. E.. 2025. 1. 28. 이전 1 2 3 4 다음
