[Personal studies] Agentic AI란?

요즘들어 AI 서비스를 만들고자 한 나는 어떤 AI를 만들고 싶은지 지금 현재 시장에서 AI라는 기술이 어떻게 사용되고 어떤 AI들이 잇는지 searching 하는 도중 AI Agent와 Agentic AI 라는것에 눈에 이끌려 그것에 대해 정리해볼까 한다.

우선 Agent 란?

특정 목표를 달성하기 위해 주어진 환경에서 관찰하고 행동을 자율적 소프트웨어 시스템을 의미한다고 한다. 이 의미는 인간의 복잡하고 비정형적인 패턴 및 문제 해결을 할때 보다 구체적으로 도움을 줄수 있다는점. 또한 전통적인 언어모텔 LLM 의 한계를 넘어서 주어진 질문에 답변하거나 데이터 처리 이외에 실제 외부 환경과 상호작용하며 다양한 도구들을 활용하여 복잡한 작업 및 문제 해결을 수행및 도와주는 것을 목표로 사용자의 디테일한 세부 지침없이도 스스로 계획을 세우며 목표 즉 문제 해결을 달성할수 있도록 도와주는 역할을 한다는것이다. 에이전트는 Cognitive Architecture 즉 인지 아키텍처 라는 개념을 중심으로 설계가 되어 있으며 이를 통해 에이전트의 행동, 의사결정, 작업 실행 과정을 구조화 하여 유저들의 환경과 상호작용하며 문제 인지 및 해결을 도와주는 것을 목표로 한다. 특히난 요즘 대두되고 있는 LLM 기반의 에이전트는 문제 해결 및 계획수립과정에서 Chain of Thought, ToT, ReAct 등의 프레임워크를 활용하여 논리적으로 체계적으로 한다고 한다.

그럼 AI Agent 와 Agentic AI 는 무엇이 다른가?

AI Agents 는 즉 특정한 작업을 수행하도록 설계된 인공지능 시스템으로써, 추천시스템, 쳇봇, 게임 AI등을 예시로 들수 있다.
또한 AI Agent 을 사전 정의된 목적을 달성하기 위해 설계되어 좀더 목적 지향적이며, 미리 정의된 규칙과 데이터에 의존하녀 제한된 환경에서 작동을 한다 ㄷ그리고 사용자가 시스템을 직접제어하거나 원하는 결과를 얻기 위해 prompting 과 같이 지시를 내려야한다. 우리가 요즘 알고 있는 넷플릭스 추천알고리즘이나 자율주행차의 차선 유지 등을 예시로 들수 잇다.
반면, Agentic AI 는 스스로 목표를 설정하고, 환경에 적응하며, 독립적으로 의사결정을 내릴수 있는 고도화된 AI라고 정의 된다. 즉 그말은 인간 혹은 유저의 개입 없이 자신만의 목표가 설정가능하며 외부 통제를 벗어나 자율적으로 작동이 되며 지속적인 학습 데이터를 통해 행동을 조정하지만 목표와 행동이 인간의 가치와 충돌할 가능성이 있어 좀더 발전해나가는 AI 이다. 예를 들어 자율적으로 연구 주제를 선택하고 실험을 설계하는 AI 과학자나 경제적 의사 결정을 스스로 내리는 AI 투자 시스템등을 들수 있다. 앞으로 이렇게 발전하면 Iron Man에 나오는 자비스와 같이 개인 AI 비서와 같은 프로그램이 나올듯하다.
이 둘이 대두되는데에는 AI Agent 의 경우 제한된 작업에서 효율적이고 안전하게 사용 가능하며, 현재 AI 기술의 대부분을 차지하기 떄문이며, Agentic AI의 기술은 궁극적 목표로 여겨지지만, 윤리적, 신뢰성, 안정성 등의 문제들을 대면하기 때문인듯 하다. 그래서 요즘 AI의 개발 방향성과 사회적 논의에서 중요한 기준이 되고 잇다고 판단이된다.

AI Agent 와 Agentic AI 작동 프로세스 비교

1. AI Agent의 작동 프로세스

• AI Agents는 사전에 정의된 규칙과 사용자 지시에 따라 동작하며, 특정 작업을 수행하는 데 최적화된 구조를 가지고 있습니다.
  • 작동 과정:
    1. 입력 수집 (Observation):
       • 환경 또는 사용자의 명령(Prompt)을 통해 데이터를 입력받음.
       • 입력 데이터는 정해진 포맷(예: 텍스트, 이미지, 센서 데이터 등)으로 제한됨.
    2. 의사결정 및 계획 (Decision Making):
       • 미리 설정된 알고리즘과 규칙에 따라 입력 데이터를 분석.
       • 주어진 규칙 내에서 가장 적합한 행동(결과)을 선택.
         • 예시: 유튜브의 추천 시스템이 사용자 시청 기록을 분석하고 관련 콘텐츠를 추천.
    3. 행동 실행 (Action Execution):
       • 결정된 행동을 수행하거나 출력 결과를 제공.
         • 예시: 챗봇이 질문에 대한 답변 제공, 자율주행차가 차선 유지.
    4. 피드백 및 반복 (Feedback Loop):
       • 환경에서의 반응(피드백)을 수집하여, 필요 시 다음 행동을 조정.
    하지만 AI Agent는 사전에 정의된 범위 내에서만 피드백을 활용.

• 특징:*
• 규칙 기반으로 작동하며 예측 가능성이 높음.
• 제한된 환경에서 효율적.
• 사용자 또는 환경의 명령이 필요.

2. Agentic AI의 작동 프로세스

• Agentic AI는 스스로 학습하고 목표를 설정하며, 환경과 상호작용하는 고도화된 작동 구조를 가집니다.
  • 작동 과정:
    1. 환경 관찰 및 입력 수집 (Observation & Perception):
       • 다양한 환경에서 데이터를 실시간으로 관찰하고 수집.
       • 비정형 데이터(텍스트, 이미지, 센서 데이터 등)도 처리 가능.
       • 예시: 투자 AI가 시장 데이터를 분석하고 변화를 감지.
    2. 목표 설정 및 의사결정 (Goal Setting & Decision Making):
       • 외부 명령 없이도 스스로 목표를 설정.
       • 환경 데이터를 분석하여 가장 적합한 목표와 계획을 수립.
       • 의사결정 과정에서 다양한 프레임워크 활용:
       • Chain of Thought: 논리적 연쇄 사고를 통해 문제 해결.
       • Tree of Thought: 여러 대안을 탐색하며 최적의 경로 선택.
       • ReAct: 행동과 반응을 통합하여 상호작용을 강화.
    3. 계획 수립 및 실행 (Planning & Execution):
       • 복잡한 문제 해결을 위한 다단계 계획을 수립.
       • 계획에 따라 행동하며, 행동 과정에서 환경과 지속적으로 상호작용.
       • 예시: 연구 주제를 선택한 후 실험 설계 및 수행.
    4. 피드백 및 적응 (Feedback & Adaptation):
       • 행동 결과에 대한 환경의 피드백을 지속적으로 분석.
       • 학습 데이터를 업데이트하며, 향후 행동을 개선.
       • 자율적 학습을 통해 환경 변화에 적응.

Process of Agentic AI

• 특징:*
• 완전한 자율성: 사용자의 지속적인 지시 없이도 독립적으로 작동.
• 환경 변화에 따라 실시간 학습과 적응.
• 복잡한 문제를 체계적으로 해결.

https://youtu.be/afWBnxWQDKk

 

 

Reference:

https://blogs.nvidia.com/blog/what-is-agentic-ai/

What Is Agentic AI? 

https://medium.com/@elisowski/ai-agents-vs-agentic-ai-whats-the-difference-and-why-does-it-matter-03159ee8c2b4

AI Agents vs Agentic AI: What’s the Difference and Why Does It Matter?

 

https://discuss.pytorch.kr/t/google-ai-agents-pdf-42p/5788

Google이 공개한 생성형 AI 기반 Agents 개요 및 구현 가이드 [PDF/영문/42p]

 

 

 

https://medium.com/@henryhengluo/intro-of-ai-agent-ai-agent-projects-summary-52f4a364ab86

Intro of AI agent, & AI agent projects summary