Orchard: An open framework for building scalable agentic AI

Artificial intelligence (AI) is taking another step forward, from single-person AI assistants to Agentic AI , a system composed of multiple AI agents working together to solve complex tasks, instead of relying on a single AI model to handle everything. Modern AI applications are beginning to use agents with specialized expertise in areas such as planning, reasoning, information retrieval, tool usage, and collaborative workflow execution.

To support the development of the next generation of AI, Microsoft Research has launched Orchard , an open-source framework that makes it easier for developers to build, manage, and scale multi-agent AI systems. Instead of relying on a single AI model, Orchard provides a flexible architecture for coordinating multiple AI agents while supporting experimentation and innovation from the open-source developer community.

What is an Orchard?

Orchard is an open framework developed by Microsoft Research for building highly scalable agentic AI systems. It provides a foundation for developing applications where multiple AI agents work together to solve problems more effectively than a single agent.

This framework allows developers to clearly define the roles of each AI Agent, with each agent responsible for specific tasks. This results in a flexible, maintainable, and scalable system that can handle increasing application complexity.

As an open-source and scalable platform, Orchard also provides researchers and developers with the opportunity to customize its functionality to support various AI models, workflows, and organizational needs.

Why does Agentic AI need a framework?

As organizations begin deploying multiple AI agents in their business processes, managing agent collaboration becomes more complex.

Without a suitable framework, developers would have to manually build systems for managing communication, task assignment, memory management, and workflow control, which becomes increasingly difficult to maintain as the project grows.

A good framework helps define standards for coordinating the operation of AI agents, enabling developers to

• Coordinating the work of multiple AI agents.
• Assign a specific role to each Agent.
• Scaling AI systems efficiently.
• System maintenance is easier.
• Testing and developing new features is easier than before.

This allows the development team to focus on solving business problems instead of wasting time managing the system infrastructure.

The key concept of Orchard

At the heart of Orchard is the concept that complex tasks should be divided among multiple AI agents, each with specialized expertise, working together.

Instead of having a single AI model handle everything, the system can delegate tasks to different agents, assigning responsibilities for planning, reasoning, programming, data retrieval, and connecting to external systems.

This approach has several advantages, including:

• Responsibilities are clearly divided.
• Easy to check and fix problems.
• Better scalability
• Highly flexible.
• The AI ​​component can be reused.

As technology advances, organizations can add or change specific AI agents without needing to redesign the entire system.

Orchard-SWE: Advancing AI for Open Source Software Engineering

One of the first projects built on this framework was Orchard-SWE which focused on software engineering.

Software development involves several steps, such as requirements analysis, coding, code validation, bug finding, system testing, and documentation. Instead of having a single AI do everything, Orchard-SWE uses multiple AI agents with specific roles throughout the development process.

This approach improves the efficiency of code analysis, debugging, problem identification, and software maintenance, while also providing an example of applying Agentitic AI to real-world software engineering tasks.

Orchard-GUI: Browser Agent สำหรับงานบนเว็บไซต์

Another project in the ecosystem is Orchard-GUI This is a small browser agent designed to work with websites and web applications.

หลายกระบวนการทางธุรกิจยังต้องอาศัยการใช้งานผ่านเว็บ เช่น การกรอกแบบฟอร์ม การค้นหาข้อมูล หรือการใช้งานระบบออนไลน์ Browser Agent ตัวนี้แสดงให้เห็นว่า AI สามารถเข้าใจโครงสร้างของหน้าเว็บและดำเนินการต่าง ๆ ได้อย่างชาญฉลาด

ตัวอย่างการใช้งาน ได้แก่ การรวบรวมข้อมูลสาธารณะ การช่วยทำงานที่ต้องทำซ้ำบนเว็บไซต์ และการสนับสนุนงาน Browser Automation ภายใต้การควบคุมของมนุษย์

Orchard-Claw: AI Assistant สำหรับเพิ่มประสิทธิภาพการทำงาน

Orchard-Claw เป็นอีกหนึ่งโครงการที่มุ่งเน้นการนำ Agentic AI มาใช้เป็นผู้ช่วยส่วนตัวอัจฉริยะ

แทนที่จะเป็น Chatbot ที่คอยตอบคำถามเพียงอย่างเดียว AI Agent สามารถช่วยจัดการงาน วางแผน จัดระเบียบข้อมูล สรุปเอกสาร และสนับสนุนการทำงานในชีวิตประจำวันได้

This project reflects Microsoft's vision for AI to evolve into intelligent assistants that can collaborate with users and manage complex workflows, rather than simply answering questions.

เมื่อเทคโนโลยี AI มีความสามารถมากขึ้น AI Assistant ลักษณะนี้จะกลายเป็นเครื่องมือสำคัญทั้งสำหรับผู้ใช้งานทั่วไปและองค์กร

แนวทางปฏิบัติที่ดีในการพัฒนา Agentic AI

องค์กรที่ต้องการนำสถาปัตยกรรม Multi-Agent AI มาใช้งานควรพิจารณาแนวทางดังต่อไปนี้

เริ่มจากกำหนดหน้าที่ของ AI Agent แต่ละตัวให้ชัดเจน เพราะ Agent ที่มีความเชี่ยวชาญเฉพาะด้านมักดูแลรักษาได้ง่ายและให้ผลลัพธ์ที่คาดการณ์ได้มากกว่า Agent ที่พยายามทำทุกอย่าง

ออกแบบ Workflow ให้ Agent ทำงานร่วมกันอย่างมีประสิทธิภาพ โดยหลีกเลี่ยงการทำงานที่ซ้ำซ้อน

กำหนดมาตรการด้าน Security, Governance และ Monitoring เพื่อให้ระบบ AI ทำงานได้อย่างปลอดภัย โปร่งใส และสอดคล้องกับนโยบายขององค์กร

และที่สำคัญ ควรให้มนุษย์ยังคงมีบทบาทในการตัดสินใจที่สำคัญ โดยใช้ AI เป็นเครื่องมือสนับสนุน ไม่ใช่ทดแทนผู้เชี่ยวชาญ

ผลกระทบและทิศทางในอนาคต

การเกิดขึ้นของเฟรมเวิร์กอย่าง Orchard แสดงให้เห็นถึงการเปลี่ยนแปลงครั้งสำคัญของการพัฒนา AI

แทนที่จะสร้าง Prompt ที่ยาวขึ้นหรือพัฒนา AI Agent เพียงตัวเดียวให้มีความสามารถรอบด้าน นักพัฒนากำลังเปลี่ยนไปสู่สถาปัตยกรรมแบบ Modular ที่ AI Agent หลายตัวทำงานร่วมกันเพื่อแก้ไขปัญหาที่ซับซ้อน

แนวทางนี้ช่วยเพิ่มความสามารถในการขยายระบบ ลดความซับซ้อนในการดูแลรักษา และทำให้องค์กรสามารถพัฒนา AI ที่ปรับตัวตามเทคโนโลยีใหม่ ๆ ได้ง่ายขึ้น

เมื่อองค์กรต่าง ๆ เริ่มนำ Agentic AI มาใช้งานมากขึ้น เฟรมเวิร์กแบบเปิดจะมีบทบาทสำคัญในการผลักดันนวัตกรรม เร่งการพัฒนา และสร้างแนวทางปฏิบัติที่ดีที่สุดสำหรับระบบ AI ที่ทำงานร่วมกัน

Summary

อนาคตของ AI กำลังก้าวจากผู้ช่วยอัจฉริยะแบบเดี่ยวไปสู่ระบบที่ AI Agent หลายตัวทำงานร่วมกันเพื่อบรรลุเป้าหมายที่ซับซ้อน

Orchard เป็นเฟรมเวิร์กแบบเปิดที่ช่วยให้นักพัฒนาสามารถสร้างระบบ Agentic AI ที่ขยายได้ง่าย ด้วยสถาปัตยกรรมแบบ Modular และการประสานการทำงานของ AI Agent หลายตัว ผ่านโครงการอย่าง Orchard-SWE, Orchard-GUI และ Orchard-Claw Microsoft Research ได้แสดงให้เห็นว่า AI Agent ที่มีความเชี่ยวชาญเฉพาะด้านสามารถนำไปประยุกต์ใช้กับงานวิศวกรรมซอฟต์แวร์ การทำงานผ่านเว็บ และการเพิ่มประสิทธิภาพการทำงานส่วนบุคคลได้อย่างมีประสิทธิภาพ

เมื่อองค์กรเริ่มสำรวจศักยภาพของ Agentic AI มากขึ้น เฟรมเวิร์กประเภทนี้จะเป็นรากฐานสำคัญสำหรับการพัฒนาแอปพลิเคชัน AI รุ่นใหม่ที่มีความยืดหยุ่น ดูแลรักษาง่าย และรองรับการขยายระบบในอนาคต