स्क्रैच से एआई एजेंटों का निर्माण: आर्किटेक्चर, फ्रेमवर्क और सर्वोत्तम अभ्यास

एजेंट डिज़ाइन पैटर्न

कोड की एक पंक्ति लिखने से पहले, AI एजेंटों के लिए मौलिक डिज़ाइन पैटर्न को समझना आवश्यक है। ये पैटर्न परिभाषित करते हैं कि एक एजेंट कैसे कार्य करता है, योजना बनाता है और कार्यान्वित करता है, और सही पैटर्न चुनना आपके एजेंट सिस्टम की क्षमताओं और सीमाओं को निर्धारित करता है।

रिएक्ट पैटर्न (तर्क + अभिनय)

रिएक्ट LLM-आधारित एजेंटों के लिए सबसे व्यापक रूप से अपनाया जाने वाला पैटर्न है। यह तर्क (सोच) को अभिनय (उपकरण उपयोग) के साथ एक सतत चक्र में जोड़ता है। प्रत्येक चरण में, एजेंट:

1. वर्तमान स्थिति (उपयोगकर्ता इनपुट, पिछले टूल परिणाम) का निरीक्षण करता है
2. इस बारे में सोचता है कि आगे क्या करना है (श्रृंखला-विचार तर्क)
3. एक टूल को कॉल करके या प्रतिक्रिया प्रदान करके कार्य करता है
4. परिणाम का निरीक्षण करता है और
को दोहराता है

रिएक्ट पैटर्न सुंदर है क्योंकि यह वास्तविक दुनिया के अवलोकनों में उस तर्क को आधार बनाते हुए पाठ में तर्क करने की LLM की प्राकृतिक क्षमता का लाभ उठाता है। यह उन कार्यों में उत्कृष्टता प्राप्त करता है जहां अगला चरण पिछले चरण के परिणाम पर निर्भर करता है, जैसे अनुसंधान, डिबगिंग या डेटा विश्लेषण।

योजना-और-निष्पादन

योजना-और-निष्पादन पैटर्न योजना को निष्पादन से अलग-अलग चरणों में अलग करता है। सबसे पहले, एक नियोजन एजेंट कार्य का विश्लेषण करता है और क्रमबद्ध चरणों के साथ एक संरचित योजना तैयार करता है। फिर, एक निष्पादन एजेंट प्रत्येक चरण को पूरा करता है, परिणामों की रिपोर्ट योजनाकार को वापस करता है। योजनाकार परिणामों के आधार पर योजना को संशोधित कर सकता है।

यह पैटर्न जटिल, बहु-चरणीय कार्यों के लिए बेहतर है जहां अग्रिम योजना त्रुटियों और व्यर्थ प्रयास को कम करती है। यह बेहतर पारदर्शिता भी प्रदान करता है, क्योंकि कार्यान्वयन शुरू होने से पहले योजना की समीक्षा मनुष्यों द्वारा की जा सकती है।

विचारों का वृक्ष

विचारों का वृक्ष एक साथ कई तर्क पथों की खोज करके विचार-श्रृंखला का विस्तार करता है। एजेंट कई उम्मीदवार दृष्टिकोण उत्पन्न करता है, प्रत्येक का मूल्यांकन करता है, और गतिरोधों को दूर करते हुए सबसे आशाजनक रास्ते अपनाता है। यह पैटर्न रचनात्मक समस्या-समाधान और कई मान्य दृष्टिकोण वाले कार्यों के लिए मूल्यवान है।

रिफ्लेक्सियन

रिफ्लेक्सियन पैटर्न एजेंट लूप में एक स्व-मूल्यांकन चरण जोड़ता है। किसी कार्य या उप-कार्य को पूरा करने के बाद, एजेंट अपने स्वयं के आउटपुट की आलोचना करता है, कमजोरियों या त्रुटियों की पहचान करता है, और परिणाम में सुधार करने के लिए पुनरावृत्ति करता है। यह लेखन, कोड निर्माण और विश्लेषण कार्यों के लिए विशेष रूप से प्रभावी है जहां गुणवत्ता गति से अधिक मायने रखती है।

AI एजेंट

के बिल्डिंग ब्लॉक प्रत्येक AI एजेंट सिस्टम को चार मूलभूत घटकों की आवश्यकता होती है जो स्वायत्त व्यवहार को सक्षम करने के लिए एक साथ काम करते हैं।

LLM बैकबोन

बड़ा भाषा मॉडल तर्क इंजन के रूप में कार्य करता है। LLM का चुनाव एजेंट की क्षमताओं पर महत्वपूर्ण प्रभाव डालता है:

• क्लाउड (Anthropic):जटिल तर्क, टूल उपयोग और विस्तृत निर्देशों का पालन करने में उत्कृष्टता प्राप्त करता है। मजबूत सुरक्षा गुण इसे संवेदनशील संचालन को संभालने वाले उत्पादन एजेंटों के लिए उपयुक्त बनाते हैं
• GPT-4 (OpenAI):मजबूत टूल कॉलिंग, व्यापक तृतीय-पक्ष पारिस्थितिकी तंत्र, और विविध कार्यों में मजबूत प्रदर्शन
• ओपन-सोर्स मॉडल (Llama, मिस्ट्रल):तैनाती और लागत पर पूर्ण नियंत्रण प्रदान करें, उन एजेंटों के लिए उपयुक्त जिन्हें चलाने की आवश्यकता है ऑन-प्रिमाइसेस या उच्च वॉल्यूम पर

टूल इंटीग्रेशन

टूल्स एजेंट को टेक्स्ट जेनरेशन से परे वास्तविक दुनिया के इंटरैक्शन तक विस्तारित करते हैं। एक अच्छी तरह से डिज़ाइन किए गए टूल इंटरफ़ेस में शामिल हैं:

• स्पष्ट, वर्णनात्मक टूल नाम और दस्तावेज़ जो LLM को यह समझने में मदद करते हैं कि प्रत्येक टूल का उपयोग कब करना है
• विकृत कॉल को रोकने के लिए सत्यापन के साथ संरचित इनपुट स्कीमा
• त्रुटि प्रबंधन जो जानकारीपूर्ण संदेश देता है जिस पर LLM कार्य कर सकता है
• रनवे ऑपरेशंस को रोकने के लिए टाइमआउट और दर सीमाएं

मेमोरी सिस्टम

उन एजेंटों के लिए जो पूरे सत्र में काम करते हैं या लंबे कार्यों को संभालते हैं, एक मेमोरी सिस्टम आवश्यक है। मेमोरी का उपयोग करके कार्यान्वित करें:

• वार्तालाप बफर:संपूर्ण वार्तालाप इतिहास को LLM संदर्भ में रखें (सरल लेकिन संदर्भ विंडो द्वारा सीमित)
• सारांश मेमोरी:संदर्भ को संपीड़ित करने के लिए समय-समय पर पुरानी बातचीत का सारांश बनाएं
• वेक्टर स्टोर:प्रासंगिक होने पर सिमेंटिक पुनर्प्राप्ति के लिए महत्वपूर्ण जानकारी एम्बेड और संग्रहीत करें
• लगातार फ़ाइलें:सत्रों में बनी रहने वाली फ़ाइलों में महत्वपूर्ण निर्णय और तथ्य लिखें

ऑर्केस्ट्रेशन परत

ऑर्केस्ट्रेशन परत एजेंट लूप, टूल निष्पादन, त्रुटि पुनर्प्राप्ति और बाहरी सिस्टम के साथ इंटरैक्शन का प्रबंधन करती है। यह संभालता है:

• संवेदनशील कार्यों के लिए
• ह्यूमन-इन-द-लूप अनुमोदन

चरण-दर-चरण: Python

में एक बेसिक एजेंट का निर्माण आइए Python और Anthropic API का उपयोग करके स्क्रैच से एक सरल रिएक्ट एजेंट बनाएं। यह उदाहरण फ्रेमवर्क निर्भरता के बिना मूल अवधारणाओं को प्रदर्शित करता है।

चरण 1: अपने टूल को परिभाषित करें

import anthropic
import json

# Define tools the agent can use
tools = [
    {
        "name": "search_web",
        "description": "Search the web for current information on a topic",
        "input_schema": {
            "type": "object",
            "properties": {
                "query": {
                    "type": "string",
                    "description": "The search query"
                }
            },
            "required": ["query"]
        }
    },
    {
        "name": "calculate",
        "description": "Perform a mathematical calculation",
        "input_schema": {
            "type": "object",
            "properties": {
                "expression": {
                    "type": "string",
                    "description": "Mathematical expression to evaluate"
                }
            },
            "required": ["expression"]
        }
    }
]

चरण 2: टूल निष्पादन लागू करें

def execute_tool(tool_name, tool_input):
    """Execute a tool and return the result."""
    if tool_name == "search_web":
        # Replace with actual search API integration
        return search_api(tool_input["query"])
    elif tool_name == "calculate":
        try:
            result = eval(tool_input["expression"])  # Use safe eval in production
            return str(result)
        except Exception as e:
            return f"Error: {str(e)}"
    return "Unknown tool"

चरण 3: एजेंट लूप बनाएं

def run_agent(user_message, max_iterations=10):
    client = anthropic.Anthropic()
    messages = [{"role": "user", "content": user_message}]
    
    system_prompt = """You are a helpful AI agent. Use the available tools 
    to research and answer questions accurately. Think step by step."""
    
    for i in range(max_iterations):
        response = client.messages.create(
            model="claude-sonnet-4-20250514",
            max_tokens=4096,
            system=system_prompt,
            tools=tools,
            messages=messages
        )
        
        # Check if the agent wants to use a tool
        if response.stop_reason == "tool_use":
            # Extract tool calls from response
            tool_results = []
            for block in response.content:
                if block.type == "tool_use":
                    result = execute_tool(block.name, block.input)
                    tool_results.append({
                        "type": "tool_result",
                        "tool_use_id": block.id,
                        "content": result
                    })
            
            # Add assistant response and tool results to messages
            messages.append({"role": "assistant", "content": response.content})
            messages.append({"role": "user", "content": tool_results})
        else:
            # Agent is done, return final response
            return response.content[0].text
    
    return "Agent reached maximum iterations"

मल्टी-एजेंट ऑर्केस्ट्रेशन पैटर्न

जटिल वर्कफ़्लो के लिए, एकल एजेंट अक्सर कम पड़ जाते हैं। मल्टी-एजेंट सिस्टम विशिष्ट एजेंटों के बीच काम वितरित करते हैं जो समस्याओं को हल करने के लिए सहयोग करते हैं।

अनुक्रमिक पाइपलाइन

एजेंट कार्यों को एक रैखिक अनुक्रम में संसाधित करते हैं, प्रत्येक अपना आउटपुट अगले को भेजता है। उदाहरण के लिए: अनुसंधान एजेंट जानकारी एकत्र करता है, विश्लेषण एजेंट उसे संसाधित करता है, लेखन एजेंट अंतिम रिपोर्ट तैयार करता है। यह पैटर्न सरल और पूर्वानुमानित है लेकिन इसमें समानता का अभाव है।

पर्यवेक्षक पैटर्न

एक पर्यवेक्षक एजेंट कार्यकर्ता एजेंटों की एक टीम का प्रबंधन करता है, कार्यों को सौंपता है और परिणाम एकत्र करता है। पर्यवेक्षक वर्तमान कार्य आवश्यकताओं के आधार पर निर्णय लेता है कि किस कार्यकर्ता को नियुक्त किया जाए। यह पैटर्न मजबूत नियंत्रण प्रदान करता है और स्पष्ट भूमिका सीमाओं वाले वर्कफ़्लो के लिए उपयुक्त है।

सहयोगात्मक चर्चा

कई एजेंट एक संरचित चर्चा में संलग्न हैं, प्रत्येक अपने विशेष दृष्टिकोण का योगदान दे रहा है। एक मॉडरेटर एजेंट वार्तालाप प्रवाह का प्रबंधन करता है और अंतिम आउटपुट को संश्लेषित करता है। यह पैटर्न विविध विशेषज्ञता की आवश्यकता वाले कार्यों में उत्कृष्टता प्राप्त करता है, जैसे कोड समीक्षा या रणनीतिक योजना।

पदानुक्रमित प्रतिनिधिमंडल

एजेंटों को एक पदानुक्रम में व्यवस्थित किया जाता है जहां उच्च-स्तरीय एजेंट कार्यों को तोड़ते हैं और निचले स्तर के विशेषज्ञों को सौंपते हैं। प्रत्येक स्तर आगे विघटित और प्रत्यायोजित हो सकता है, जिससे समन्वित कार्य का एक वृक्ष तैयार हो सकता है। यह पैटर्न बड़ी, जटिल परियोजनाओं के लिए अच्छा है।

AI एजेंटों का मूल्यांकन और परीक्षण

AI एजेंटों का परीक्षण LLM आउटपुट की गैर-नियतात्मक प्रकृति के कारण पारंपरिक सॉफ्टवेयर के परीक्षण से मौलिक रूप से अलग है।

यूनिट परीक्षण उपकरण

प्रत्येक उपकरण का ज्ञात इनपुट और अपेक्षित आउटपुट के साथ अलगाव में परीक्षण करें। टूल परीक्षण नियतिवादी होने चाहिए और त्रुटि स्थितियों, विकृत इनपुट और टाइमआउट परिदृश्यों सहित किनारे के मामलों को कवर करना चाहिए।

प्रक्षेपवक्र परीक्षण

किसी एजेंट द्वारा किसी कार्य को पूरा करने के लिए की जाने वाली कार्रवाइयों के अनुक्रम को रिकॉर्ड और मूल्यांकन करें। अच्छे प्रक्षेप पथ परीक्षण यह सत्यापित करते हैं कि एजेंट उचित पथ का अनुसरण करता है, न कि केवल यह कि वह सही उत्तर तक पहुंचता है। विशेषज्ञ-परिभाषित सुनहरे पथों के विरुद्ध प्रक्षेप पथों की तुलना करें।

एंड-टू-एंड मूल्यांकन

ज्ञात सही परिणामों के साथ कार्यों के बेंचमार्क सूट के खिलाफ पूर्ण एजेंट चलाएं। सफलता दर, चरणों की औसत संख्या, टूल कॉल दक्षता और प्रति कार्य लागत को मापें। प्रतिगमन का पता लगाने के लिए समय के साथ इन मैट्रिक्स को ट्रैक करें।

प्रतिकूल परीक्षण

परीक्षण एजेंट प्रतिकूल इनपुट के साथ जिसमें त्वरित इंजेक्शन प्रयास, अस्पष्ट निर्देश, असंभव कार्य और परस्पर विरोधी आवश्यकताएं शामिल हैं। सत्यापित करें कि एजेंट हानिकारक आउटपुट उत्पन्न किए बिना या अनंत लूप में प्रवेश किए बिना इन्हें खूबसूरती से संभालता है।

उत्पादन परिनियोजन विचार

AI एजेंटों को प्रोटोटाइप से उत्पादन की ओर ले जाने के लिए कई महत्वपूर्ण चिंताओं को संबोधित करने की आवश्यकता है।

लागत प्रबंधन

LLM API कॉल AI एजेंटों के लिए प्राथमिक लागत चालक हैं। नियंत्रण लागत:

• प्रति कार्य अधिकतम पुनरावृत्ति सीमा निर्धारित करना
• जटिल निर्णयों के लिए नियमित तर्क और बड़े मॉडल के लिए छोटे मॉडल का उपयोग करना
• बार-बार टूल कॉल और LLM प्रश्नों के लिए कैशिंग लागू करना
• प्रति-कार्य लागत की निगरानी करना और बजट अलर्ट सेट करना

विश्वसनीयता और त्रुटि सुधार अनुपलब्ध

कैस्केडिंग विफलताओं को रोकने के लिए सर्किट ब्रेकर जोड़ें

डिबगिंग और ऑडिट ट्रेल्स के लिए सभी एजेंट कार्यों को लॉग करें

सुरक्षा और रेलिंग

एजेंटों को हानिकारक कार्रवाई करने से रोकने के लिए सुरक्षा तंत्र तैनात करें:

• को उच्च-प्रभाव संचालन (वित्तीय लेनदेन, डेटा विलोपन, बाहरी संचार) के लिए मानव अनुमोदन की आवश्यकता है। असामान्य एजेंट व्यवहार

अवलोकन क्षमता

एजेंट के प्रदर्शन को समझने और सुधारने के लिए व्यापक अवलोकन आवश्यक है:

• सभी तर्क चरणों, टूल कॉल और निर्णयों सहित प्रत्येक एजेंट निष्पादन का पता लगाएं
• विलंबता, टोकन उपयोग और ट्रैक करें प्रति इंटरैक्शन लागत
• विभिन्न कार्य प्रकारों में सफलता दर और विफलता मोड की निगरानी करें
• ऐसे डैशबोर्ड बनाएं जो ऑपरेशन टीमों को एजेंट स्वास्थ्य में वास्तविक समय की दृश्यता देते हैं

Workstation कस्टम AI एजेंट समाधान कैसे बनाता है

Workstation में, हमारे पास गहरी विशेषज्ञता है विभिन्न उद्योगों के व्यवसायों के लिए उत्पादन एआई एजेंट सिस्टम को डिजाइन और तैनात करना। हमारे दृष्टिकोण में शामिल हैं:

• डिस्कवरी और डिज़ाइन:हम उच्च-मूल्य स्वचालन अवसरों और डिज़ाइन एजेंट आर्किटेक्चर की पहचान करने के लिए आपकी टीम के साथ काम करते हैं जो आपके मौजूदा बुनियादी ढांचे के साथ एकीकृत होते हैं
• रैपिड प्रोटोटाइप:हम कार्यशील एजेंट प्रोटोटाइप का निर्माण शीघ्रता से करते हैं, जिससे आप क्षमताओं का मूल्यांकन कर सकते हैं और प्रतिक्रिया दे सकते हैं। पूर्ण विकास के लिए प्रतिबद्ध होने से पहले
• उत्पादन इंजीनियरिंग:हमारी टीम विश्वसनीयता, सुरक्षा, लागत अनुकूलन और निगरानी सहित उत्पादन परिनियोजन की जटिलताओं को संभालती है
• कस्टम टूल विकास:हम विशेष उपकरण बनाते हैं जो आपके AI एजेंटों को आंतरिक सिस्टम, डेटाबेस, APIs और तृतीय-पक्ष से जोड़ते हैं। सेवाएँ
• चालू अनुकूलन:हम आपके एजेंट सिस्टम की लगातार निगरानी और सुधार करते हैं, लागत कम करते हैं, सटीकता बढ़ाते हैं और समय के साथ क्षमताओं का विस्तार करते हैं

ऐसे AI एजेंट बनाने के लिए तैयार हैं जो आपके व्यवसाय संचालन को बदल देते हैं? अपनी आवश्यकताओं पर चर्चा करने के लिएinfo@workstation.co.ukपर हमसे संपर्क करें और देखें कि हमारी टीम आपके AI एजेंट दृष्टिकोण को कैसे जीवंत कर सकती है।