From Auto-Complete To Autonomous Agent
•
GPT-2: Auto-Complete
•
GPT-3: Single-turn Problem Solving
•
ChatGPT: Multi-turn Problem Solving, Ask-and-adjust
•
사용자 입력에 대해 자체적 판단과 적절한 도구 사용을 통해 해결하는 Autonomous Agent
◦
AutoGPT
•
Adept AI: Browsing-assisted Agent
◦
OpenAI에서 WebGPT만든 직원들이 나와서 설립
•
Harvey: Legal Agent
The Anatomy of Autonomous Agent
•
모델이 복잡한 문제를 풀기 위해 필요한건 토큰이다..
Agent System: Planning
Decomposition
•
사람이 사고하는 방식
•
모델이 생성하는 방
•
모델이 충분히 생각할 수 있도록 “토큰”을 제공해
Self-Reflection
Agent System: Memory
Short-term Memory
Long-term Memory
•
엔티티 기반 장기 기억
•
요약 기반 기억
Agent System: Tools
•
OpenAI Function Calling
The pros and cons of Task Decomposition
The pros and cons of Self-Reflection
Task Decomposition + Tools = Contextual answer
LINER Agent 전체 추론 과정
Tips(LLM)
•
Default recommendations
◦
Use GPT-4
•
Agent는 높은 Reasoning이 필요해서 GPT-4로 구현해야한다.
Tips(Evalution)
Tips(Cache)
•
일반적으로 지연 시간이 길기 때문에 캐시 레이어 적극 적용.
◦
Semantic Cache를 사용해라.
◦
GPTCache
