๐ Real-Time Generative AI Project: E-commerce Customer Support AI Agent Using Python, RAG, LangGraph, MCP and LLMs
๐ 1. Introduction
Generative AI is transforming how organizations handle customer support, business operations, and application integration. Traditional customer support systems depend heavily on employees to answer repetitive questions, retrieve customer information, check order statuses, and process return requests.
An E-commerce Customer Support AI Agent is an intelligent application that uses Large Language Models (LLMs), Retrieval-Augmented Generation (RAG), AI Agents, and external application integrations to automate these activities.
Consider an E-commerce company similar to Amazon or Flipkart. Customers may ask questions about order tracking, product returns, refund status, delivery addresses, and company policies. Instead of handling every request manually, the company can implement an AI-powered system that understands customer questions, retrieves the required information, interacts with business applications, and provides appropriate responses.
This practical project demonstrates how Python, LLMs, RAG, Vector Databases, LangGraph, REST APIs, MCP, FastAPI, and Cloud Technologies work together to solve a real-world business problem.
For learners exploring VLR Training Generative AI, this project provides an end-to-end understanding of how a GenAI Forward Deployed Engineer (FDE) converts business requirements into a practical, production-oriented AI solution.
๐ 2. Project Overview
The main objective is to develop an AI-powered customer support application that can understand customer requests and perform authorized business operations.
๐ข Business Scenario
Imagine an E-commerce company selling different categories of products:
- ๐ฑ Mobile Phones
- ๐ป Laptops
- ๐ง Headphones
- ๐ Clothing
- ๐ Home Appliances
- ๐บ Electronic Products
Assume that this company receives approximately 10,000 customer support requests every day. This number is an illustrative assumption for the project, not a published statistic about any particular company.
Customers may ask the following questions:
| Customer Question | Business Requirement |
|---|---|
| Where is my order? | Order Tracking |
| How can I return my product? | Product Returns |
| What is your refund policy? | Policy Information |
| When will I receive my refund? | Refund Tracking |
| Can I change my delivery address? | Address Modification |
| Is this product eligible for a return? | Return Eligibility Verification |
โ Problems with Traditional Customer Support
In a traditional support process, a customer contacts an employee, provides an Order ID, and waits while the employee checks the Order Management System.
This process creates several challenges:
- โฐ Customers may wait for a long time to receive responses.
- ๐จโ๐ผ Companies need employees to handle repetitive requests.
- ๐ฐ Operational expenses increase as customer volumes grow.
- ๐ Employees spend significant time answering similar questions.
- โ ๏ธ Manual processing can introduce mistakes.
- ๐ Support availability may be limited by staffing and operating hours.
โ Proposed AI-Powered Solution
The company can develop an AI-powered Customer Support System that performs the following activities:
- ๐ง Understand customer questions.
- ๐ฏ Identify customer intent.
- ๐ Retrieve relevant information from company documents.
- ๐ Access authorized customer and order information.
- ๐ฆ Check return and refund eligibility.
- ๐ Initiate approved return requests.
- ๐ณ Retrieve refund status.
- ๐จโ๐ป Escalate complex or uncertain requests to human support.
๐ก Example Customer Interaction
Customer:
“Where is my order?”
AI Assistant:
“Please provide your Order ID so that I can check your order status.”
Customer:
“ORD10025”
AI Assistant:
“Your order has been shipped and is currently in transit. You can check the latest shipment information using your tracking details.”
The AI application does more than generate a conversational response. It retrieves actual information from the company’s systems before answering.
๐ 3. Step 1 โ Business Requirement Analysis
Before selecting AI technologies or writing Python code, a GenAI Forward Deployed Engineer must understand the actual business problem.
This activity is called Business Requirement Gathering or Requirement Analysis.
The engineer should understand the company’s business objectives, existing IT infrastructure, customer support processes, security requirements, and expected application behavior.
๐ฅ 3.1 Teams Involved in Requirement Gathering
Three important teams generally participate in this process.
๐ข 1. Management Team
The Management Team explains the company’s business objectives.
Example Requirements:
- Reduce the customer support workload.
- Improve customer satisfaction.
- Reduce operational costs.
- Automate repetitive support activities.
- Improve customer response time.
๐ 2. Customer Support Team
The Customer Support Team explains the problems employees face during daily operations.
Examples:
- Customers frequently ask about order status.
- Employees spend too much time explaining refund policies.
- Product return requests are processed manually.
- Customers repeatedly ask similar questions.
- Complex requests require escalation to specialized teams.
๐ป 3. Technical Team
The Technical Team explains the company’s existing IT infrastructure.
Examples:
- The company has an Order Management System.
- Customer details are maintained in a relational database.
- Payment information is managed through a Payment Gateway.
- Return and refund policies are maintained in PDF documents.
- Existing business applications expose REST APIs.
- Customer authentication is managed through an existing identity system.
๐ 3.2 Example Business Requirement Document
After discussions with these teams, the engineer prepares a Business Requirement Document.
| Requirement ID | Business Requirement | Expected AI Functionality |
|---|---|---|
| BR001 | Answer customer questions | LLM-powered chatbot |
| BR002 | Retrieve company policies | RAG implementation |
| BR003 | Check order status | Order Management API |
| BR004 | Initiate product returns | Return Management API |
| BR005 | Check refund status | Payment API integration |
| BR006 | Handle complex requests | Human support escalation |
๐ก๏ธ 3.3 Non-Functional Requirements
Apart from business functionality, the engineer must identify non-functional requirements.
๐ Security: One customer must never access another customer’s private information.
Example: Customer A must not be able to retrieve Customer B’s order details by providing Customer B’s Order ID.
๐ฏ Accuracy: AI responses must be based on verified company information. The system must not invent return periods, refund guarantees, or product conditions.
โก Performance: The application must respond within an acceptable time, including during periods of high customer traffic.
๐ Scalability: The infrastructure must support increasing numbers of customers and requests.
๐ฐ Cost: The company must understand the costs associated with LLM API usage, embedding generation, vector storage, cloud infrastructure, and external APIs.
๐ Availability: The application should handle service interruptions and recover from temporary failures.
โ 3.4 Questions to Ask Before Development
A GenAI FDE should ask questions such as:
- Where is customer information stored?
- Where are order details maintained?
- Where are company policies stored?
- Which LLM providers are approved?
- Which REST APIs are available?
- How is customer authentication implemented?
- Which actions require human approval?
- What security and compliance requirements apply?
- How many requests should the application support?
- What is the expected response time and operating budget?
๐ก Important: Successful AI engineering begins with business analysis. Selecting a model and writing code are not the first steps in an enterprise project.
๐๏ธ 4. Step 2 โ Generative AI Architecture Design
After understanding the business requirements, the engineer designs the complete solution architecture.
๐งฉ 4.1 What Is AI Architecture?
AI Architecture is the structural design that explains how different components of an AI application communicate and work together.
For the E-commerce Customer Support AI Agent, the architecture includes the following components:
| Component | Technology | Purpose |
|---|---|---|
| Programming Language | Python | Application logic and integration |
| Backend API | FastAPI | Receive customer requests |
| Language Model | LLM | Understand requests and generate responses |
| Knowledge Retrieval | RAG | Retrieve company information |
| Embedding Storage | Vector Database | Store and search vector representations |
| Agent Workflow | LangGraph | Coordinate multi-step processes |
| Application Integration | REST APIs | Connect business applications |
| AI Integration Protocol | MCP | Standardize tool and data-source connections |
| Infrastructure | AWS, Azure or GCP | Host the application |
| Observability | Logging and Monitoring | Track application health and performance |
๐ 4.2 High-Level Project Architecture
The complete request-processing flow can be represented as follows:
CUSTOMER
|
v
Website / Mobile Application
|
v
FastAPI Backend
|
v
Authentication and Authorization
|
v
LangGraph Agent Workflow
|
+---------+----------+
| |
v v
RAG SYSTEM BUSINESS TOOLS
| |
v v
Embedding Model Order Management API
| Return Management API
v Payment / Refund API
Vector Database |
| |
+----------+----------+
|
v
LLM Model
|
v
Business Rule Validation
|
v
Human Approval (If Required)
|
v
Final Response
|
v
CUSTOMER
The architecture combines language understanding, information retrieval, workflow orchestration, and business application integration.
๐ 4.3 Python โ Programming Language
Python is used to implement backend logic and connect different AI components.
It can perform the following activities:
- Receive customer input.
- Process customer requests.
- Call LLM APIs.
- Connect to Vector Databases.
- Retrieve information from external applications.
- Execute business rules.
- Integrate REST APIs and MCP clients.
- Handle errors and application responses.
๐ป Basic Python Example
customer_question = "Where is my order?"
print("Customer Question:", customer_question)
Expected Output:
Customer Question: Where is my order?
This is only a basic example of receiving customer input. A complete application requires additional processing, authentication, and business integrations.
๐ง 4.4 Large Language Model (LLM)
LLM stands for Large Language Model.
An LLM is an AI model designed to process and generate language. It can identify patterns in text, interpret instructions, generate responses, and support tasks such as classification and information extraction.
Examples of LLM Families:
- OpenAI GPT models
- Google Gemini models
- Anthropic Claude models
In the E-commerce project, an LLM can help identify what the customer wants and generate a natural-language response.
๐ก Example
Customer Question:
“I purchased headphones last week, but I received a damaged product. What should I do?”
The LLM-powered application may identify:
| Information | Identified Value |
|---|---|
| Product | Headphones |
| Problem | Damaged product |
| Customer Intent | Product return or replacement |
| Required Information | Order ID |
The application can use this information to select the next workflow.
โ ๏ธ Important: An LLM does not automatically know the company’s latest order details, private refund policies, or customer records. These details must be obtained from authorized company knowledge sources and systems.
๐ 5. Step 3 โ Implementing RAG (Retrieval-Augmented Generation)
RAG stands for Retrieval-Augmented Generation.
It is a technique that combines information retrieval with LLM-based response generation.
In simple terms, RAG retrieves relevant information from external knowledge sources and provides that information to an LLM so that it can generate a more relevant, context-based answer.
๐ค 5.1 Why Is RAG Required?
An E-commerce company may maintain hundreds of documents containing business information.
Examples:
- Product Return Policy
- Refund Policy
- Shipping Policy
- Cancellation Policy
- Warranty Policy
- Product Documentation
- Customer Support Guidelines
A general-purpose LLM does not automatically have access to the company’s latest private documents.
For example, the company’s return policy may specify that:
- Only eligible products can be returned.
- Certain product categories have special return conditions.
- Some products cannot be returned after use.
- Refunds are processed according to eligibility conditions.
RAG makes these company-specific documents searchable by the AI application.
๐๏ธ 5.2 RAG Architecture
The RAG implementation has two major workflows:
๐ฅ A. Document Ingestion: Prepare company documents and store their searchable representations.
๐ค B. Question Answering: Retrieve relevant information when a customer asks a question and provide it to the LLM.
โ๏ธ 5.3 RAG Implementation โ Step by Step
Assume that the company has a PDF file named Product_Return_Policy.pdf.
๐ Step 1: Collect Company Documents
Collect the documents that contain the company’s approved business information.
Examples:
- Return Policy PDF
- Refund Policy PDF
- Shipping Policy PDF
- Cancellation Policy PDF
- Product Warranty PDF
These documents form the company’s knowledge base.
๐ Step 2: Extract Text from Documents
The application must extract readable text from the documents.
For example, a PDF may contain:
“Customers can return eligible products within the return period specified for the product category.”
The extracted text is converted into a format that can be processed by the application.
Python libraries such as PyMuPDF and pypdf can be used for PDF text extraction.
Scanned documents may require an additional OCR process.
โ๏ธ Step 3: Divide Text into Chunks
Chunking means dividing large documents into smaller text sections.
Imagine a PDF containing 100 pages. Sending the entire document to the LLM for every customer question may be inefficient and can exceed the model’s context limits.
Instead, divide the document into manageable chunks.
Original Text:
“Customers can return eligible products according to the applicable return policy. Products must satisfy the conditions specified for their category. Refunds are processed according to the company’s refund policy.”
After Chunking:
๐ Chunk 1 โ Return Eligibility
“Customers can return eligible products according to the applicable return policy.”
๐ Chunk 2 โ Product Conditions
“Products must satisfy the conditions specified for their category.”
๐ Chunk 3 โ Refund Policy
“Refunds are processed according to the company’s refund policy.”
The application can retrieve only the relevant sections instead of processing the entire document for every question.
Some chunking methods use overlapping text between adjacent chunks to preserve context across boundaries. Chunk size and overlap should be tested against the actual document structure and retrieval quality.
๐ข Step 4: Generate Embeddings
Embeddings are numerical representations of information produced by an embedding model.
They help represent semantic relationships between text passages in a mathematical vector space.
Consider these two sentences:
- “How can I return my product?”
- “What is the product return procedure?”
Although the words are different, their meanings are related.
An embedding model converts each sentence into a numerical vector.
Illustrative Example:
Sentence 1:
[0.21, 0.45, 0.67, 0.82]
Sentence 2:
[0.23, 0.43, 0.69, 0.80]
These are simplified example values, not actual embedding outputs or a representation of any specific model’s dimensions.
Because the sentences have related meanings, their vectors may be close to each other in the embedding space.
๐๏ธ Step 5: Store Embeddings in a Vector Database
After generating embeddings, the application stores them in a vector index or Vector Database.
Examples:
- Pinecone
- Chroma
- FAISS
A stored record may contain the following information:
| Field | Example |
|---|---|
| Document ID | DOC101 |
| Chunk ID | CHUNK001 |
| Text | Customers can return eligible products… |
| Embedding | Numerical vector |
| Metadata | Return Policy |
| Document Version | Version 2 |
| Category | Electronics |
Metadata helps filter information based on document type, product category, region, and other business conditions.
Technical Note: FAISS is a vector similarity-search library rather than a managed database service in the same sense as a hosted vector database. It can be used to build vector search functionality within an application.
๐ Step 6: Retrieve Relevant Information
Now imagine that a customer asks:
“How can I return my headphones?”
The application performs the following activities:
- Receives the customer question.
- Generates an embedding for the question.
- Searches the vector index.
- Identifies semantically related document chunks.
- Retrieves the most relevant information.
Example Retrieved Information:
“Customers can return eligible products according to the applicable return policy.”
This information provides useful context for answering the customer.
๐ฉ Step 7: Send Retrieved Information to the LLM
The application combines the customer question with the retrieved company information.
Illustrative Prompt:
You are an E-commerce customer support assistant.
Answer the customer using the company information
provided below.
Company Information:
Customers can return eligible products according
to the applicable return policy.
Customer Question:
How can I return my headphones?
Instructions:
- Provide a clear and helpful answer.
- Do not invent policy details.
- If information is insufficient, ask for clarification.
- Do not claim that a return has been created.
โ Step 8: Generate the Final Response
The LLM uses the retrieved information to formulate a response.
Customer:
“How can I return my headphones?”
AI Assistant:
“You can request a return if your headphones satisfy the company’s return eligibility conditions. Please provide your Order ID so that I can check your order details.”
๐ 5.4 Complete RAG Workflow
DOCUMENT INGESTION
Company PDF Documents
|
v
Text Extraction
|
v
Text Chunking
|
v
Embedding Generation
|
v
Vector Database / Index
QUESTION ANSWERING
Customer Question
|
v
Question Embedding
|
v
Similarity Search
|
v
Retrieve Relevant Chunks
|
v
Construct LLM Context
|
v
LLM Response Generation
|
v
Final Customer Answer
๐ 5.5 Important RAG Concepts
๐ Similarity Search: Identifies vectors that are close to the query vector according to a selected similarity or distance measure.
๐ฅ Retrieval: Selects useful documents or chunks from the knowledge base.
๐งฉ Context Augmentation: Adds retrieved information to the LLM input.
โ๏ธ Generation: Uses the LLM to prepare a readable response.
๐ RAG Evaluation: Measures whether retrieval and generated answers are relevant, accurate, and supported by the source documents.
In a production system, the application may also use hybrid search, metadata filtering, reranking, and source citations to improve retrieval quality.
โ ๏ธ Important: RAG does not automatically guarantee correct answers. The quality of the documents, embeddings, retrieval configuration, prompts, and evaluation process all influence the result.
For VLR Training Generative AI students, understanding this document-ingestion and question-answering process is essential for building enterprise knowledge assistants.
๐ค 6. Step 4 โ Developing an AI Agent
Retrieving information and answering customer questions are important, but an enterprise customer support application must also perform authorized business operations.
This is where AI Agents become useful.
๐ง 6.1 What Is an AI Agent?
An AI Agent is an AI-powered system that works toward a specified task by using available tools, application integrations, and controlled workflows.
An AI Agent may:
- Understand a user request.
- Identify the required action.
- Collect missing information.
- Select an available tool.
- Request tool execution.
- Examine the returned result.
- Continue the workflow.
- Provide the final response.
A normal chatbot primarily focuses on conversation. An AI Agent can coordinate multiple operations to complete a business task.
๐ก 6.2 Real-Time Example โ Product Return
Consider a customer who wants to return headphones purchased last week.
Customer:
“I want to return the headphones I purchased last week.”
A basic chatbot might respond:
“You can return eligible products according to our return policy.”
This explains the policy but does not create a return request.
An AI Agent can coordinate the complete return workflow.
โ๏ธ 6.3 AI Agent Workflow โ Step by Step
๐ฏ Step 1: Understand Customer Intent
The customer says:
“I want to return my headphones.”
The LLM-powered application identifies the likely intent as a product return request.
This is called Intent Understanding.
๐ Step 2: Collect Required Information
The application checks whether it has the necessary information.
If the Order ID is missing, it asks:
“Please provide your Order ID to continue.”
Customer:
“ORD10025”
๐ Step 3: Retrieve Order Details
The application calls the Order Management API.
Illustrative API Request:
GET /api/orders/ORD10025
Example API Response:
{
"order_id": "ORD10025",
"product": "Headphones",
"purchase_status": "Delivered",
"return_status": "Not Requested"
}
๐ Step 4: Verify Order Information
The application examines the returned details.
| Field | Retrieved Value |
|---|---|
| Order ID | ORD10025 |
| Product | Headphones |
| Purchase Status | Delivered |
| Return Status | Not Requested |
The backend must also confirm that the authenticated customer owns this order.
๐ Step 5: Retrieve the Return Policy
The application uses RAG to retrieve the relevant headphone return policy.
Example Query:
“What are the return eligibility conditions for headphones?”
RAG retrieves the applicable company policy.
๐ Step 6: Check Return Eligibility
The application verifies:
- Has the order been delivered?
- Is the return period still valid?
- Is this product category eligible for return?
- Are the required product conditions satisfied?
- Has a return request already been created?
These checks must use the company’s actual business rules and verified data.
The LLM can help interpret the request, but the final eligibility decision should be enforced by trusted backend logic.
๐ Step 7: Create the Return Request
If the product satisfies the return conditions, the application calls the Return Management API.
Illustrative API Request:
POST /api/returns
Content-Type: application/json
Example Request Body:
{
"order_id": "ORD10025",
"product": "Headphones",
"reason": "Customer requested return"
}
Example API Response:
{
"return_id": "RET5001",
"status": "Return Request Created"
}
โ Step 8: Confirm the Result
The application uses the API result to prepare the final customer response.
AI Assistant:
“Your return request has been successfully created.
Return ID: RET5001
You can use this ID to track your return request.”
The application should provide this confirmation only after receiving a successful result from the Return Management System.
๐ก๏ธ 6.4 Human Approval and Human-in-the-Loop
Not every operation should be performed automatically.
Some actions may involve financial, legal, or operational risk.
Examples:
- Issuing a refund.
- Cancelling a high-value order.
- Approving an exceptional return.
- Changing a sensitive customer record.
- Making an exception to company policy.
A business may require:
- Customer identity verification.
- Refund eligibility validation.
- Manager approval.
- Payment system authorization.
- Audit recording.
An AI Agent should pause and request approval when the configured workflow requires it.
โ๏ธ 6.5 Where LangGraph Fits
LangGraph is useful for implementing stateful, multi-step AI workflows.
A LangGraph workflow can be represented using:
- State: Information maintained during workflow execution.
- Nodes: Individual processing steps.
- Edges: Connections between nodes.
- Conditional Edges: Rules that determine which step runs next.
- Checkpoints: Saved workflow state that can support recovery and continuation.
- Human-in-the-Loop: Pausing execution for review or approval.
For this project, possible nodes include:
| Node | Responsibility |
|---|---|
| Intent Detection | Identify the customer’s request |
| Information Collection | Request missing information |
| Authentication Check | Verify customer identity |
| Order Lookup | Retrieve order details |
| Policy Retrieval | Retrieve relevant policy using RAG |
| Eligibility Check | Apply company return rules |
| Approval | Request authorization when required |
| Return Creation | Call the Return Management API |
| Response Generation | Prepare the customer response |
LangGraph supports workflows that combine deterministic application logic with LLM-driven steps. Refer to the official LangGraph overview documentation for its architecture and capabilities.
๐ 7. Step 5 โ MCP and External Application Integration
E-commerce organizations generally use multiple applications to manage business operations.
Examples:
| Application | Purpose |
|---|---|
| Order Management System | Store and manage order details |
| Payment Gateway | Process payments |
| Customer Database | Maintain customer information |
| Inventory Management System | Manage product stock |
| CRM Application | Manage customer relationships |
| Return Management System | Process product returns |
An AI application must communicate with these systems to retrieve information and execute approved actions.
This process is called Enterprise Application Integration.
๐ 7.1 REST API Integration
REST APIs allow software applications to exchange information over HTTP.
For example, the AI application may call an Order Management API to retrieve order details.
GET /api/orders/ORD10025
The Order Management System may return:
{
"order_id": "ORD10025",
"product": "Headphones",
"status": "Shipped"
}
The AI application can then use this information to prepare a customer response.
REST APIs can also support operations such as creating return requests or retrieving refund status.
๐ ๏ธ 7.2 Function Calling
Function Calling is a capability provided by some LLM APIs and agent frameworks.
It allows an LLM-powered application to request execution of a predefined function or tool.
Consider the following Python function:
def check_order_status(order_id):
# Connect to the company's Order Management API
return "Your order is shipped"
The application makes this function available through an appropriate tool definition.
When a customer asks about an order, the model may request the check_order_status tool.
The application then:
- Validates the tool request.
- Checks the arguments.
- Executes the approved function.
- Receives the result.
- Returns the result to the LLM.
- Generates a natural-language response.
โ ๏ธ Important: The LLM does not independently execute arbitrary Python code or directly access the company’s database. The application controls and performs the actual tool execution.
๐ 7.3 What Is MCP?
MCP stands for Model Context Protocol.
It is an open protocol that standardizes how AI applications connect with external tools and data sources.
MCP makes it easier to expose business capabilities through a common integration approach rather than creating a completely different custom connection for every AI application.
๐ง Example MCP Tools
An E-commerce MCP Server may expose the following tools:
check_order_statuscheck_refund_statuscreate_return_requestget_product_information
An AI application can discover and use these tools through its MCP integration, subject to configured permissions and business controls.
๐๏ธ 7.4 MCP Architecture
MCP uses a hostโclientโserver architecture.
๐ฅ๏ธ MCP Host: The AI application that coordinates the interaction and manages MCP connections.
๐ MCP Client: The component that communicates with a specific MCP Server.
โ๏ธ MCP Server: The component that exposes available tools, resources, and prompts.
MCP Architecture Flow
AI APPLICATION
(HOST)
|
+-------+-------+
| |
v v
MCP CLIENT 1 MCP CLIENT 2
| |
v v
MCP SERVER 1 MCP SERVER 2
| |
v v
ORDER SYSTEM PAYMENT SYSTEM
The host can manage multiple MCP clients, and each client communicates with a particular MCP Server.
๐งฐ Important MCP Capabilities
1. ๐ง Tools
Tools represent executable operations.
Examples:
- Check order status.
- Create a return request.
- Retrieve refund information.
2. ๐ Resources
Resources expose information that an AI application can retrieve as context.
Examples:
- Product documentation.
- Return policy documents.
- Database schema information.
3. ๐ Prompts
Prompts are reusable templates that can help structure interactions with models.
Examples:
- Customer support response template.
- Refund verification instructions.
- Product troubleshooting template.
MCP is not a replacement for a company’s Order Management System, database, or REST APIs. An MCP Server can expose functionality backed by those existing systems.
Refer to the official MCP Architecture documentation for the protocol’s host, client, server, and integration concepts.
๐ 7.5 REST API vs Function Calling vs MCP
| Technology | Main Purpose | Example |
|---|---|---|
| REST API | Application-to-application communication | Retrieve an order |
| Function Calling | Let an LLM-powered application request a predefined function | Call check_order_status |
| MCP | Standardize access to external tools and context | Discover and call an order-checking MCP tool |
These technologies solve different problems and can be used together.
๐ก Example Combined Workflow
- Customer asks, “Please check my order status.”
- The LLM-powered application identifies the required operation.
- The application selects the appropriate tool.
- An MCP Client communicates with the relevant MCP Server, if MCP is used.
- The MCP Server invokes the configured backend functionality.
- The Order Management System returns the order information.
- The application validates the result.
- The LLM generates a response for the customer.
โ ๏ธ Important: MCP does not automatically grant access to company applications. The required MCP Servers, tools, permissions, authentication, and backend integrations must be implemented and configured.
For VLR Training Generative AI learners, understanding how REST APIs, Function Calling, and MCP work together is especially important when developing enterprise AI Agents.
๐ป 8. Step 6 โ FastAPI Backend Development
FastAPI is a Python framework used to develop backend APIs.
In this project, the backend receives customer requests and coordinates the required processing.
For example, a frontend application can send a customer question to a /chat endpoint.
๐ 8.1 Prerequisites
- Python installed.
- Basic Python programming knowledge.
- Understanding of REST APIs.
- A code editor such as VS Code.
๐ฆ 8.2 Step 1: Install Required Packages
python -m pip install fastapi uvicorn
๐ 8.3 Step 2: Create a Python File
Create a file named main.py.
๐งโ๐ป 8.4 Step 3: Write the FastAPI Application
from fastapi import FastAPI
from pydantic import BaseModel
app = FastAPI(
title="E-commerce Customer Support API"
)
class ChatRequest(BaseModel):
question: str
@app.post("/chat")
async def customer_chat(payload: ChatRequest):
return {
"question": payload.question,
"message": "Your request has been received."
}
๐ Code Explanation
FastAPI: Creates the backend application.
BaseModel: Defines the expected request structure using Pydantic.
ChatRequest: Specifies that the incoming JSON request must contain a question field.
@app.post(“/chat”): Defines the POST endpoint.
customer_chat(): Receives the request and returns a JSON response.
This is a basic request-receiving endpoint. It does not yet connect to an LLM, RAG system, or Order Management API.
โถ๏ธ 8.5 Step 4: Run the Application
uvicorn main:app --reload
The local development server will start, and the API documentation will be available through FastAPI’s generated documentation interface.
๐ค 8.6 Step 5: Send a Test Request
Endpoint:
POST /chat
Sample JSON Input:
{
"question": "Where is my order?"
}
Expected JSON Output:
{
"question": "Where is my order?",
"message": "Your request has been received."
}
๐ 8.7 Step 6: Connect the AI Components
After validating the basic endpoint, the development team can integrate:
- Authentication and authorization.
- LLM APIs.
- RAG retrieval.
- LangGraph workflows.
- REST API tools.
- MCP Clients.
- Logging and monitoring.
For request-body handling and Pydantic models, refer to the official FastAPI Request Body documentation.
๐งช 9. Step 7 โ Testing and Evaluation
Developing an AI application is not enough. The application must be tested to verify that it works correctly under different business conditions.
This process is called Testing and Evaluation.
A system may answer one customer question correctly but produce an incorrect result for another question. Therefore, testing must cover multiple scenarios.
๐ 9.1 Example Test Cases
| Test Case | Input | Expected Result |
|---|---|---|
| TC001 | Valid Order ID | Retrieve correct order details |
| TC002 | Invalid Order ID | Return an appropriate error |
| TC003 | Return policy question | Answer using company policy |
| TC004 | Unauthorized customer | Prevent access to another customer’s data |
| TC005 | API failure | Handle the error safely |
| TC006 | Uncertain AI response | Escalate to human support |
| TC007 | Ineligible product return | Reject the request according to business rules |
| TC008 | Duplicate return request | Prevent unintended duplicate creation |
๐ฏ 9.2 Important Evaluation Metrics
โ 1. Response Accuracy
Measures whether the AI application provides the correct information.
Customer:
“What is my order status?”
Expected Answer:
“Your order has been shipped.”
Incorrect AI Answer:
“Your order has been delivered.”
The incorrect response demonstrates an order-information accuracy problem.
โ ๏ธ 2. AI Hallucinations
An AI hallucination occurs when a model generates information that is unsupported by the available evidence.
Company Document:
“Refunds are processed according to applicable eligibility conditions.”
Incorrect AI Answer:
“All refunds are guaranteed within 24 hours.”
The company document does not contain a 24-hour refund guarantee. The AI has generated an unsupported statement.
Possible Improvements:
- Improving document retrieval.
- Providing better instructions in prompts.
- Validating generated responses.
- Using reliable data sources.
- Escalating uncertain cases.
โฑ๏ธ 3. Response Latency
Latency is the time taken to process a request and return a response.
Example:
- Customer sends a question at 10:00:00.
- AI sends a response at 10:00:04.
- Approximate response latency: 4 seconds.
The application should monitor response time and identify slow processing steps.
๐ช 4. Token Usage
LLMs process text using tokens.
A token may represent a complete word, part of a word, punctuation, or another text unit.
Examples of token consumption:
- Customer question: Input tokens.
- Retrieved RAG documents: Additional input tokens.
- System instructions: Additional input tokens.
- AI response: Output tokens.
Token usage directly influences the cost of many model API services.
๐ฐ 5. Application Cost
The organization must monitor costs associated with:
- LLM API requests.
- Embedding generation.
- Vector Database storage and search.
- Cloud infrastructure.
- External API services.
- Logging and monitoring.
๐ 6. Security
The application must protect private customer information.
Example: Customer A must not be able to retrieve Customer B’s order details.
The engineering team should test authentication, authorization, data access restrictions, and audit logging.
๐ 7. Retrieval Quality
For RAG-based applications, testing should also measure whether the correct document chunks are retrieved.
Useful concepts include:
- Retrieval Precision.
- Retrieval Recall.
- Relevance of Retrieved Context.
- Source Attribution Accuracy.
A response can be well-written but still incorrect when the wrong policy document is retrieved.
๐ 8. Task Success Rate
For an AI Agent, measure whether the complete business task was actually completed.
For example, a successful return workflow should retrieve the correct order, verify eligibility, create the request through the authorized API, and return the actual Return ID.
Simply generating a message that says “Your return has been created” is not sufficient.
๐จโ๐ซ 9.3 Classroom Testing Exercise
Consider the following three customer questions.
- “Where is my order? My Order ID is ORD10025.”
- “Can I return a product that is not eligible for return?”
- “Please show me another customer’s order details.”
The expected application behavior should be:
| Customer Request | Correct System Behavior |
|---|---|
| Valid order query | Authenticate the customer and retrieve the correct order status |
| Ineligible return | Reject the request according to company rules |
| Another customer’s order | Deny access and protect private information |
โ๏ธ 10. Step 8 โ Production Deployment
After development and testing, the application must be made available to actual users.
This process is called Production Deployment.
During development, an application may run only on a developer’s local machine. Production deployment makes the approved application available through the company’s infrastructure.
๐งฐ 10.1 Deployment Technologies
The project may use:
- ๐ Python
- โก FastAPI
- ๐ง LLM API
- ๐ค LangGraph
- ๐๏ธ Vector Database
- ๐ณ Docker
- โ๏ธ AWS, Microsoft Azure, or Google Cloud Platform
The actual technology choices depend on the organization’s existing infrastructure, security policies, and operational requirements.
๐ 10.2 Important Deployment Activities
๐ 1. Security Configuration
Protect customer and business information.
Only authorized users should be able to access their account information.
๐ 2. Authentication
Authentication verifies the identity of the user.
Example:
A customer logs in using an approved authentication method before accessing private order information.
๐ก๏ธ 3. Authorization
Authorization determines which operations an authenticated user is allowed to perform.
Example:
A customer may view their own order details but should not be permitted to access another customer’s orders or approve an administrative refund.
๐ 4. Logging
Logging records important events that occur within the application.
Example:
10:00:01 - Customer Request Received
10:00:02 - Authentication Completed
10:00:03 - LLM Request Initiated
10:00:04 - Order API Called
10:00:05 - Order Details Retrieved
10:00:06 - Response Generated
Logs help developers investigate problems and understand application behavior.
Sensitive information such as passwords, payment credentials, and unnecessary personal data should not be written into application logs.
๐ 5. Monitoring
Monitoring observes application health and performance.
Important monitoring questions include:
- Is the application running correctly?
- Are external APIs responding?
- Are LLM requests failing?
- Is response latency increasing?
- Is token consumption increasing?
- Are cloud infrastructure costs increasing?
- Are unauthorized access attempts occurring?
๐ 6. Application Scaling
Scaling means adjusting infrastructure resources according to workload.
Example:
During a major online sale, the number of customers may increase significantly.
The infrastructure must be capable of handling the increased workload without unacceptable delays or failures.
๐ 7. Production API Integration
The deployed application must connect to approved production services rather than development or testing endpoints.
Production credentials and access permissions must be configured securely.
โก 8. Performance Optimization
The engineering team can improve application performance by:
- Optimizing prompts.
- Reducing unnecessary LLM calls.
- Improving information retrieval.
- Optimizing API requests.
- Selecting appropriate models.
- Caching suitable non-sensitive results.
- Using asynchronous processing where appropriate.
- Monitoring expensive or slow workflow steps.
๐ 10.3 Documentation After Deployment
The engineering team should provide the operational teams with:
- Application Documentation.
- Architecture Details.
- API Integration Details.
- Troubleshooting Instructions.
- Monitoring Guidelines.
- Security and Access Procedures.
- Operational Guidance.
This documentation helps the company maintain the application after deployment.
๐ 11. Complete Project Workflow โ From Business Problem to AI Solution
The complete E-commerce Customer Support AI Agent project can be divided into the following major stages.
| Step | Activity | Technologies and Skills |
|---|---|---|
| 1 | Business Requirement Analysis | Business Analysis |
| 2 | AI Architecture Design | Python, LLMs, RAG, FastAPI |
| 3 | RAG Implementation | Embeddings, Vector Database |
| 4 | AI Agent Development | LangGraph, Tool Calling |
| 5 | External Application Integration | REST APIs, MCP |
| 6 | Testing and Evaluation | AI Evaluation, Security Testing |
| 7 | Production Deployment | AWS / Azure / GCP, Docker, Monitoring |
๐ 11.1 Complete Customer Interaction
Consider the following customer request:
“I want to return my recently purchased headphones.”
The system processes the request through multiple components.
1. ๐ค Customer Interface
The customer submits the request through the website or mobile application.
2. โก FastAPI Backend
The backend receives the request and verifies the authenticated session.
3. ๐ง LLM
The LLM-powered application identifies the customer’s intent as a product return request.
4. ๐ RAG
The RAG system retrieves the applicable headphone return policy.
5. ๐ค LangGraph Agent
The workflow coordinates the required steps and decides which authorized tools must be invoked.
6. ๐ REST API / MCP Integration
The application retrieves order information and checks the required business conditions.
7. โ Business Rule Validation
The backend checks whether the order and product satisfy the return conditions.
8. ๐จโ๐ผ Human Approval
If company policy requires approval, the workflow pauses until an authorized person approves the operation.
9. ๐ฆ Return Management API
The application creates the return request after the required checks and approvals.
10. ๐ Final Response
The customer receives the actual result.
Example:
“Your return request has been created successfully. Your Return ID is RET5001.”
This interaction demonstrates how multiple Generative AI components work together to solve one business problem.
๐ญ 12. Real-Time Industry Use Cases
The concepts used in this E-commerce project can also be applied in other industries.
| Industry | AI Application | Example |
|---|---|---|
| ๐ E-commerce | Customer Support AI Agent | Track orders and initiate eligible returns |
| ๐ฆ Banking | Banking Support Assistant | Retrieve account information and check transaction status through authorized systems |
| ๐ฅ Healthcare | Hospital Assistance Agent | Help users navigate appointments and hospital information |
| ๐ก๏ธ Insurance | Insurance Support Assistant | Retrieve policy information and explain claim procedures |
| โ๏ธ Travel | Travel Support Agent | Retrieve booking and cancellation information |
| ๐ฑ Telecommunications | Customer Support Agent | Check service requests and troubleshooting instructions |
| ๐ Education | Student Assistance Agent | Retrieve course information and answer administrative questions |
In every industry, the application must use the organization’s approved knowledge sources, business rules, security controls, and integration mechanisms.
โ 13. Advantages and Business Benefits
An E-commerce Customer Support AI Agent can provide several benefits.
โก 13.1 Faster Customer Responses
Customers can receive responses without waiting for an employee to manually retrieve routine information.
๐ 13.2 Reduced Repetitive Work
Order status queries, policy questions, and other repetitive tasks can be automated.
๐ 13.3 Improved Operational Efficiency
Employees can focus on complex customer problems that require human judgment.
๐ 13.4 Consistent Policy Information
RAG helps the application retrieve approved company policy information rather than relying only on the model’s internal knowledge.
๐ 13.5 Business Application Integration
REST APIs and MCP integrations enable the application to work with existing enterprise systems.
๐ 13.6 Scalable Customer Support
Cloud infrastructure and appropriate application scaling can support growing customer workloads.
๐ 13.7 Better Operational Visibility
Logging, monitoring, and evaluation help organizations identify failures, slow responses, and application costs.
โ ๏ธ 14. Limitations and Implementation Challenges
Although AI Agents provide useful capabilities, enterprise implementations involve several challenges.
| Challenge | Description | Possible Solution |
|---|---|---|
| โ ๏ธ Hallucinations | AI generates unsupported information | Improve retrieval and validation |
| ๐ Poor Retrieval | RAG retrieves irrelevant documents | Improve chunking, embeddings, and search |
| ๐ Security Risks | Unauthorized access to customer data | Strong authentication and authorization |
| ๐ API Failures | External systems become unavailable | Error handling, retries, and fallbacks |
| ๐ฐ High Costs | Excessive model and infrastructure usage | Optimize prompts, model selection, and retrieval |
| โฑ๏ธ High Latency | Multiple components increase response time | Optimize workflow and API calls |
| ๐ ๏ธ Incorrect Tool Selection | AI requests an inappropriate action | Use tool validation and controlled workflows |
| ๐ Duplicate Actions | Repeated requests may create duplicate operations | Use idempotency and backend checks |
| ๐ Policy Changes | Old documents may remain in the knowledge base | Version and refresh the document index |
| ๐งฉ Complex Requests | AI cannot reliably resolve every issue | Escalate to human support |
๐ก๏ธ 14.1 Security Best Practices
Customer support applications handle sensitive information and business operations. Security must be enforced at the application and infrastructure levels.
Important practices include:
- Authenticate customers before retrieving private records.
- Enforce ownership checks on every order-related request.
- Apply least-privilege permissions to API and MCP tools.
- Validate tool arguments before execution.
- Protect API credentials using secure secret management.
- Encrypt network communication.
- Maintain audit logs for sensitive operations.
- Restrict access to payment and refund functionality.
- Review retrieved documents and customer messages for prompt-injection risks.
- Require human approval for high-impact operations when necessary.
โ ๏ธ Important: A prompt instruction such as “Never reveal another customer’s information” is not a substitute for backend access controls. Authorization must be enforced independently of the LLM.
๐ 15. Technical Clarifications
The following points help distinguish conceptual project demonstrations from production engineering implementations.
๐ง 15.1 LLM Does Not Automatically Have Access to Business Data
An LLM may understand a question such as “Where is my order?”, but it cannot retrieve a company’s private order information without an authorized integration.
The application must connect to the relevant business system.
๐ 15.2 RAG Does Not Perform Transactional Operations
RAG retrieves information from a knowledge source.
It does not independently create a return request, issue a refund, or change an order.
Transactional operations require authorized application tools or APIs.
๐๏ธ 15.3 Vector Database Is Not the Same as a Traditional Database
A traditional relational database is generally designed to store structured records and support operations such as filtering, joins, and transactions.
A Vector Database or vector search index is designed to store and retrieve numerical vectors based on similarity.
An enterprise application may use both types of databases.
๐ 15.4 LangGraph Is an Orchestration Framework
LangGraph provides mechanisms to organize stateful, multi-step workflows using nodes, edges, and shared state.
It does not independently provide the company’s business data or replace its external applications.
๐ 15.5 MCP Does Not Automatically Connect Every Application
An MCP integration requires a configured host, client, server, and supported backend functionality.
Permissions and security rules still need to be implemented.
๐ ๏ธ 15.6 Function Calling Does Not Mean the Model Executes Code Directly
The model can request execution of a predefined tool. The application validates the request and controls the actual function execution.
๐ป 15.7 FastAPI Request Body Must Be Defined Correctly
For a POST endpoint that receives JSON data, a Pydantic model is an appropriate way to define the request body.
A simple unstructured function parameter such as question: str is normally interpreted as a query parameter rather than the intended JSON request body. That is why the FastAPI example in this article uses ChatRequest with BaseModel.
๐จโ๐ผ 15.8 AI Should Not Independently Approve Sensitive Business Transactions
The LLM may interpret a request and coordinate a workflow, but trusted backend logic must verify eligibility, permissions, financial conditions, and approval requirements before a transaction takes place.
๐ 16. Skills Required for a GenAI Forward Deployed Engineer
This project covers several skills needed to build enterprise Generative AI applications.
| Skill | Why It Is Required |
|---|---|
| ๐ Python Programming | Develop application logic and integrations |
| ๐ REST APIs | Connect enterprise applications |
| ๐ง LLM Fundamentals | Understand model inputs, outputs, and capabilities |
| โ๏ธ Prompt Engineering | Design clear model instructions |
| ๐ RAG | Connect AI applications with company knowledge |
| ๐ข Embeddings | Represent text for semantic search |
| ๐๏ธ Vector Databases | Store and retrieve vector representations |
| ๐ค AI Agents | Build systems that use tools and perform tasks |
| ๐ LangGraph | Orchestrate multi-step stateful workflows |
| ๐ MCP | Standardize external tool and data-source integration |
| โก FastAPI | Develop backend APIs |
| โ๏ธ Cloud Technologies | Deploy and operate AI applications |
| ๐งช Testing and Evaluation | Verify application quality |
| ๐ Security | Protect business and customer information |
๐ผ 16.1 Relevant Job Roles
Skills from this project are relevant to roles such as:
- Generative AI Engineer.
- GenAI Forward Deployed Engineer.
- LLM Application Developer.
- AI Agent Developer.
- RAG Engineer.
- AI Application Engineer.
- Python Backend Developer with GenAI skills.
- AI Solutions Engineer.
๐ 16.2 Practical Projects for Further Learning
After completing the E-commerce Customer Support AI Agent, learners can develop similar applications:
- ๐ PDF-based Question Answering System.
- ๐ข Enterprise Knowledge Assistant.
- ๐ฆ AI-powered Banking Customer Support.
- ๐ฅ Hospital Appointment Assistance Agent.
- ๐ก๏ธ Insurance Policy Question Answering Application.
- ๐ AI Agent integrated with CRM APIs.
- โ๏ธ MCP-based Enterprise Tool Integration.
- ๐ค Multi-step Business Workflow Automation using LangGraph.
โญ 17. Important Points to Remember
- ๐ Python: Used to develop backend logic and connect different application components.
- ๐ง LLM: Helps understand customer requests and generate natural-language responses.
- ๐ RAG: Retrieves relevant company information and provides it as context to an LLM.
- ๐ข Embeddings: Represent text as numerical vectors.
- ๐๏ธ Vector Databases: Store and search vector representations.
- ๐ Similarity Search: Identifies semantically related information.
- ๐ค AI Agents: Coordinate tools and workflows to complete tasks.
- ๐ LangGraph: Helps organize stateful, multi-step agent workflows.
- ๐ REST APIs: Enable communication between enterprise applications.
- ๐ ๏ธ Function Calling: Allows an application to execute predefined tools requested by an LLM.
- ๐ MCP: Standardizes connections between AI applications and external tools and data sources.
- โก FastAPI: Provides backend API functionality.
- ๐งช Testing and Evaluation: Help verify application accuracy, security, and performance.
- โ๏ธ Cloud Technologies: Make applications available in production environments.
- ๐จโ๐ผ Human Approval: Is important for sensitive business operations.
โ 18. Frequently Asked Questions (FAQs)
1. ๐ What is an E-commerce Customer Support AI Agent?
An E-commerce Customer Support AI Agent is an AI-powered application that understands customer requests, retrieves information, connects to business systems, and performs authorized support tasks.
2. ๐ Why is Python used in this project?
Python is used for backend development, LLM integration, RAG implementation, API communication, business logic, and agent workflow development.
3. ๐ง What is the role of an LLM?
An LLM processes customer questions, identifies likely intent, interprets context, and generates natural-language responses.
4. ๐ Why is RAG required?
RAG provides relevant information from company-specific knowledge sources so that an LLM can answer questions using current and approved business information.
5. ๐ข What is an Embedding?
An Embedding is a numerical representation of information generated by an embedding model. It allows applications to identify semantic relationships between text passages.
6. ๐๏ธ Why do we need a Vector Database?
A Vector Database or vector index stores embeddings and supports similarity-based retrieval of relevant information.
7. ๐ค What is the difference between a Chatbot and an AI Agent?
A traditional chatbot primarily answers questions. An AI Agent can also coordinate tools and authorized operations to complete multi-step tasks.
8. ๐ What is LangGraph?
LangGraph is an orchestration framework used to build stateful, multi-step workflows for AI Agents.
9. ๐ What is MCP?
MCP stands for Model Context Protocol. It standardizes how AI applications connect with external tools and data sources.
10. ๐ What is the difference between REST API and MCP?
REST APIs provide application-to-application communication over HTTP. MCP provides a standardized protocol through which AI applications can interact with external tools and context providers.
11. ๐ฆ Can RAG create a return request?
No. RAG retrieves relevant information. Creating a return request requires a separate authorized tool or backend API.
12. โก Why is FastAPI used?
FastAPI is used to develop Python backend APIs that receive customer requests and connect different application components.
13. โ ๏ธ What is AI Hallucination?
AI Hallucination occurs when an AI model generates information that is unsupported by the available evidence or actual facts.
14. ๐จโ๐ผ Why is Human-in-the-Loop required?
Human-in-the-Loop allows a person to review, approve, or intervene in sensitive, uncertain, or high-impact operations.
15. โ๏ธ What is the purpose of Cloud Deployment?
Cloud deployment makes the application available to actual users and provides infrastructure for hosting, scaling, monitoring, and operating the solution.
16. ๐ Does an AI Agent need access to a database?
Not every AI Agent needs direct database access. An application can expose approved operations through REST APIs or MCP tools without allowing the agent to access the database directly.
17. ๐ก๏ธ How can the application prevent access to another customer’s order?
The backend must authenticate the user and verify order ownership before returning any private information. Customer-provided Order IDs alone must not authorize access.
18. ๐ What happens if the Order Management API fails?
The application should handle the error safely, avoid generating an unverified order status, and provide an appropriate message or escalate the request.
๐ 19. Knowledge Check โ Multiple Choice Questions
Test your understanding of the E-commerce Customer Support AI Agent project.
โ Question 1. Why does an E-commerce company need an AI Customer Support System?
A. To increase manual work.
B. To automate repetitive customer support tasks.
C. To remove all databases.
D. To replace the entire website.
โ Correct Answer: B
Explanation: The main objective is to automate repetitive customer support tasks and improve operational efficiency.
โ Question 2. Which technology retrieves relevant information from company PDF documents?
A. Docker
B. FastAPI
C. RAG
D. Git
โ Correct Answer: C
Explanation: RAG retrieves relevant information from external knowledge sources and provides it to the LLM.
โ Question 3. What is the main purpose of a Vector Database?
A. Store and search vector embeddings.
B. Deploy Python applications.
C. Create web pages.
D. Manage customer passwords.
โ Correct Answer: A
Explanation: Vector Databases support similarity-based retrieval using numerical vector representations.
โ Question 4. Which technology is useful for building stateful AI Agent workflows?
A. LangGraph
B. HTML
C. Excel
D. CSS
โ Correct Answer: A
Explanation: LangGraph helps organize multi-step workflows using state, nodes, and edges.
โ Question 5. What is the purpose of a REST API in this project?
A. Generate embeddings.
B. Connect applications and exchange information.
C. Train an LLM.
D. Create PDF documents.
โ Correct Answer: B
Explanation: REST APIs allow different software applications to communicate and exchange information.
โ Question 6. What is the full form of MCP?
A. Machine Control Program.
B. Model Context Protocol.
C. Multiple Chat Process.
D. Model Coding Platform.
โ Correct Answer: B
Explanation: MCP stands for Model Context Protocol.
โ Question 7. What should the application do when it cannot provide a reliable answer?
A. Generate a guessed answer.
B. Reveal private information.
C. Escalate to human support.
D. Delete the customer request.
โ Correct Answer: C
Explanation: Uncertain or complex requests should be escalated according to the company’s support workflow.
โ Question 8. What is an AI Hallucination?
A. An application deployment method.
B. An unsupported or fabricated AI response.
C. A Vector Database.
D. An API protocol.
โ Correct Answer: B
Explanation: An AI Hallucination occurs when the model generates information that is not supported by available facts or evidence.
๐ฏ 20. Final Takeaway
The E-commerce Customer Support AI Agent project demonstrates how multiple Generative AI technologies can be combined to solve a practical business problem.
The solution begins with business requirement gathering and architecture design. Python and FastAPI provide the application foundation. LLMs understand customer requests and generate responses. RAG retrieves relevant information from company documents. Embeddings and Vector Databases support semantic retrieval. LangGraph coordinates multi-step AI Agent workflows. REST APIs and MCP integrations connect the AI application to enterprise systems.
Testing, evaluation, authentication, authorization, monitoring, and production deployment make the solution suitable for real business environments.
For learners exploring VLR Training Generative AI, this project provides a practical foundation for understanding how a GenAI Forward Deployed Engineer approaches enterprise AI development.
๐ Final Message
A GenAI Forward Deployed Engineer is not simply someone who develops a chatbot.
The role involves understanding real business problems, collecting requirements, designing AI architecture, implementing RAG systems, building AI Agents, integrating APIs and external tools, testing application behavior, and deploying reliable solutions into production.
The ultimate goal is to transform real business problems into practical, secure, scalable, and production-ready AI applications.
๐ Reference URLs
- LangGraph Official Documentation: https://docs.langchain.com/oss/python/langgraph/overview
- MCP Architecture Documentation: https://modelcontextprotocol.io/specification/2025-06-18/architecture
- FastAPI Request Body Documentation: https://fastapi.tiangolo.com/tutorial/body/
๐ Real-Time Generative AI Project: Python, RAG, LangGraph, MCP เฐฎเฐฐเฐฟเฐฏเฑ LLMs เฐเฐชเฐฏเฑเฐเฐฟเฐเฐเฐฟ E-commerce Customer Support AI Agent เฐ เฐญเฐฟเฐตเฑเฐฆเฑเฐงเฐฟ เฐเฑเฐฏเฐกเฐ
๐ 1. Introduction โ เฐชเฐฐเฐฟเฐเฐฏเฐ
Generative AI เฐชเฑเฐฐเฐธเฑเฐคเฑเฐคเฐ เฐธเฐเฐธเฑเฐฅเฐฒเฑ Customer Support, Business Operations เฐฎเฐฐเฐฟเฐฏเฑ Application Integration เฐจเฐฟเฐฐเฑเฐตเฐนเฐฟเฐเฐเฑ เฐตเฐฟเฐงเฐพเฐจเฐพเฐฒเฐจเฑ เฐฎเฐพเฐฐเฑเฐธเฑเฐคเฑเฐเฐฆเฐฟ.
เฐธเฐพเฐงเฐพเฐฐเฐฃ Customer Support Systems เฐฒเฑ Customers เฐ เฐกเฐฟเฐเฑ เฐชเฑเฐฐเฐถเฑเฐจเฐฒเฐเฑ เฐธเฐฎเฐพเฐงเฐพเฐจเฐพเฐฒเฑ เฐเฐตเฑเฐตเฐกเฐ, Customer Information Retrieve เฐเฑเฐฏเฐกเฐ, Order Status Check เฐเฑเฐฏเฐกเฐ เฐฎเฐฐเฐฟเฐฏเฑ Return Requests Process เฐเฑเฐฏเฐกเฐ เฐตเฐเฐเฐฟ เฐชเฐจเฑเฐฒ เฐเฑเฐธเฐ Employees เฐชเฑ เฐเฐเฑเฐเฑเฐตเฐเฐพ เฐเฐงเฐพเฐฐเฐชเฐกเฐพเฐฒเฑเฐธเฐฟ เฐเฐเฐเฑเฐเฐฆเฐฟ.
E-commerce Customer Support AI Agent เฐ เฐจเฑเฐฆเฐฟ Large Language Models (LLMs), Retrieval-Augmented Generation (RAG), AI Agents เฐฎเฐฐเฐฟเฐฏเฑ External Application Integrations เฐเฐชเฐฏเฑเฐเฐฟเฐเฐเฐฟ เฐ เฐเฐพเฐฐเฑเฐฏเฐเฐฒเฐพเฐชเฐพเฐฒเฐจเฑ Automate เฐเฑเฐธเฑ เฐเฐ Intelligent Application.
Amazon เฐฒเฑเฐฆเฐพ Flipkart เฐฒเฐพเฐเฐเฐฟ เฐเฐ E-commerce Company เฐเฐเฐฆเฐจเฐฟ เฐ เฐจเฑเฐเฑเฐเฐฆเฐพเฐ. Customers Order Tracking, Product Returns, Refund Status, Delivery Address เฐฎเฐฐเฐฟเฐฏเฑ Company Policies เฐเฑเฐฐเฐฟเฐเฐเฐฟ เฐตเฐฟเฐตเฐฟเฐง เฐชเฑเฐฐเฐถเฑเฐจเฐฒเฑ เฐ เฐกเฑเฐเฑเฐคเฑเฐเฐเฐพเฐฐเฑ.
เฐชเฑเฐฐเฐคเฐฟ Customer Request เฐจเฑ Employees Manual เฐเฐพ Handle เฐเฑเฐฏเฐกเฐพเฐจเฐฟเฐเฐฟ เฐฌเฐฆเฑเฐฒเฑเฐเฐพ, Company เฐเฐ AI-Powered System เฐจเฑ Develop เฐเฑเฐฏเฐตเฐเฑเฐเฑ.
เฐ System:
- Customer Questions เฐจเฑ เฐ เฐฐเฑเฐฅเฐ เฐเฑเฐธเฑเฐเฑเฐเฐเฑเฐเฐฆเฐฟ.
- เฐ เฐตเฐธเฐฐเฐฎเฑเฐจ Information เฐจเฑ Retrieve เฐเฑเฐธเฑเฐคเฑเฐเฐฆเฐฟ.
- Business Applications เฐคเฑ Interact เฐ เฐตเฑเฐคเฑเฐเฐฆเฐฟ.
- เฐ เฐจเฑเฐฎเฐคเฐฟเฐเฐเฐฌเฐกเฐฟเฐจ Business Operations เฐจเฑ เฐจเฐฟเฐฐเฑเฐตเฐนเฐฟเฐธเฑเฐคเฑเฐเฐฆเฐฟ.
- Customers เฐเฑ เฐธเฐฐเฑเฐจ Responses เฐ เฐเฐฆเฐฟเฐธเฑเฐคเฑเฐเฐฆเฐฟ.
เฐ Practical Project เฐฒเฑ Python, LLMs, RAG, Vector Databases, LangGraph, REST APIs, MCP, FastAPI เฐฎเฐฐเฐฟเฐฏเฑ Cloud Technologies เฐ เฐจเฑเฐจเฑ เฐเฐฒเฐฟเฐธเฐฟ เฐเฐ Real-Time Business Problem เฐจเฑ เฐเฐฒเฐพ เฐชเฐฐเฐฟเฐทเฑเฐเฐฐเฐฟเฐธเฑเฐคเฐพเฐฏเฑ เฐคเฑเฐฒเฑเฐธเฑเฐเฑเฐเฐฆเฐพเฐ.
VLR Training Generative AI เฐฒเฑ เฐจเฑเฐฐเฑเฐเฑเฐเฑเฐจเฑ เฐตเฐฟเฐฆเฑเฐฏเฐพเฐฐเฑเฐฅเฑเฐฒเฐเฑ, GenAI Forward Deployed Engineer (FDE) เฐเฐ Business Requirement เฐจเฑ Practical AI Solution เฐเฐพ เฐเฐฒเฐพ เฐฎเฐพเฐฐเฑเฐธเฑเฐคเฐพเฐฐเฑ เฐ เฐฐเฑเฐฅเฐ เฐเฑเฐธเฑเฐเฑเฐตเฐกเฐพเฐจเฐฟเฐเฐฟ เฐ Project เฐเฐชเฐฏเฑเฐเฐชเฐกเฑเฐคเฑเฐเฐฆเฐฟ.
๐ 2. Project Overview โ เฐชเฑเฐฐเฐพเฐเฑเฐเฑเฐเฑ เฐ เฐตเฐฒเฑเฐเฐจเฐ
เฐ Project เฐฏเฑเฐเฑเฐ เฐชเฑเฐฐเฐงเฐพเฐจ เฐฒเฐเฑเฐทเฑเฐฏเฐ Customer Requests เฐจเฑ เฐ เฐฐเฑเฐฅเฐ เฐเฑเฐธเฑเฐเฑเฐจเฐฟ, เฐ เฐจเฑเฐฎเฐคเฐฟเฐเฐเฐฌเฐกเฐฟเฐจ Business Operations เฐจเฑ เฐจเฐฟเฐฐเฑเฐตเฐนเฐฟเฐเฐเฐเฐฒ AI-Powered Customer Support Application เฐจเฑ Develop เฐเฑเฐฏเฐกเฐ.
๐ข Business Scenario โ เฐตเฑเฐฏเฐพเฐชเฐพเฐฐ เฐชเฐฐเฐฟเฐธเฑเฐฅเฐฟเฐคเฐฟ
เฐเฐ E-commerce Company เฐตเฐฟเฐตเฐฟเฐง เฐฐเฐเฐพเฐฒ Products เฐจเฑ เฐ เฐฎเฑเฐฎเฑเฐคเฑเฐเฐฆเฐจเฐฟ เฐเฐนเฐฟเฐเฐเฑเฐเฑเฐเฐฆเฐพเฐ.
เฐเฐฆเฐพเฐนเฐฐเฐฃเฐเฑ:
- ๐ฑ Mobile Phones
- ๐ป Laptops
- ๐ง Headphones
- ๐ Clothing
- ๐ Home Appliances
- ๐บ Electronic Products
เฐ Company เฐเฐฟ เฐชเฑเฐฐเฐคเฐฟเฐฐเฑเฐเฑ เฐธเฑเฐฎเฐพเฐฐเฑ 10,000 Customer Support Requests เฐตเฐธเฑเฐคเฑเฐจเฑเฐจเฐพเฐฏเฐจเฐฟ เฐ เฐจเฑเฐเฑเฐเฐฆเฐพเฐ. เฐเฐฆเฐฟ Project เฐจเฑ เฐ เฐฐเฑเฐฅเฐ เฐเฑเฐธเฑเฐเฑเฐตเฐกเฐพเฐจเฐฟเฐเฐฟ เฐเฐชเฐฏเฑเฐเฐฟเฐเฐเฑ เฐเฐ เฐเฐนเฐพเฐคเฑเฐฎเฐ เฐธเฐเฐเฑเฐฏ เฐฎเฐพเฐคเฑเฐฐเฐฎเฑ. เฐเฐฆเฑเฐจเฐพ เฐจเฐฟเฐฐเฑเฐฆเฐฟเฐทเฑเฐ เฐเฐเฐชเฑเฐจเฑเฐเฐฟ เฐธเฐเฐฌเฐเฐงเฐฟเฐเฐเฐฟเฐจ เฐชเฑเฐฐเฐเฑเฐฐเฐฟเฐค เฐเฐฃเฐพเฐเฐเฐ เฐเฐพเฐฆเฑ.
Customers เฐ เฐกเฐฟเฐเฑ เฐชเฑเฐฐเฐถเฑเฐจเฐฒเฐจเฑ เฐชเฐฐเฐฟเฐถเฑเฐฒเฐฟเฐฆเฑเฐฆเฐพเฐ.
| Customer Question | Business Requirement |
|---|---|
| เฐจเฐพ Order เฐเฐเฑเฐเฐก เฐเฐเฐฆเฐฟ? | Order Tracking |
| เฐจเฐพ Product เฐจเฑ เฐเฐฒเฐพ Return เฐเฑเฐฏเฐพเฐฒเฐฟ? | Product Returns |
| เฐฎเฑ Refund Policy เฐเฐฎเฐฟเฐเฐฟ? | Policy Information |
| เฐจเฐพ เฐกเฐฌเฑเฐฌเฑ เฐเฐชเฑเฐชเฑเฐกเฑ Refund เฐ เฐตเฑเฐคเฑเฐเฐฆเฐฟ? | Refund Tracking |
| เฐจเฐพ Delivery Address เฐฎเฐพเฐฐเฑเฐเฑเฐเฑเฐตเฐเฑเฐเฐพ? | Address Modification |
| เฐ Product Return เฐเฑเฐฏเฐกเฐพเฐจเฐฟเฐเฐฟ Eligible เฐเฐพ เฐเฐเฐฆเฐพ? | Return Eligibility Verification |
โ 2.1 Traditional Customer Support เฐฒเฑ เฐเฐฆเฑเฐฐเฐฏเฑเฐฏเฑ เฐธเฐฎเฐธเฑเฐฏเฐฒเฑ
เฐธเฐพเฐงเฐพเฐฐเฐฃ Customer Support Process เฐฒเฑ เฐเฐ Customer Support Employee เฐจเฑ เฐธเฐเฐชเฑเฐฐเฐฆเฐฟเฐธเฑเฐคเฐพเฐกเฑ.
Employee Customer เฐจเฑ Order ID เฐ เฐกเฑเฐเฑเฐคเฐพเฐกเฑ. เฐคเฐฐเฑเฐตเฐพเฐค Order Management System เฐจเฑ Open เฐเฑเฐธเฐฟ Order Details Check เฐเฑเฐธเฐฟ Customer เฐเฑ เฐคเฑเฐฒเฐฟเฐฏเฐเฑเฐธเฑเฐคเฐพเฐกเฑ.
เฐ Process เฐตเฐฒเฑเฐฒ เฐ เฐจเฑเฐ เฐธเฐฎเฐธเฑเฐฏเฐฒเฑ เฐเฐฆเฑเฐฐเฐตเฑเฐคเฐพเฐฏเฐฟ.
- โฐ Customers เฐธเฐฎเฐพเฐงเฐพเฐจเฐพเฐฒ เฐเฑเฐธเฐ เฐเฐเฑเฐเฑเฐต เฐธเฐฎเฐฏเฐ เฐตเฑเฐเฐฟ เฐเฐเฐกเฐพเฐฒเฑเฐธเฐฟ เฐตเฐธเฑเฐคเฑเฐเฐฆเฐฟ.
- ๐จโ๐ผ Customer Requests Handle เฐเฑเฐฏเฐกเฐพเฐจเฐฟเฐเฐฟ เฐเฐเฑเฐเฑเฐต เฐฎเฐเฐฆเฐฟ Employees เฐ เฐตเฐธเฐฐเฐฎเฐตเฑเฐคเฐพเฐฐเฑ.
- ๐ฐ Company เฐฏเฑเฐเฑเฐ Operational Expenses เฐชเฑเฐฐเฑเฐเฑเฐคเฐพเฐฏเฐฟ.
- ๐ Employees เฐเฐเฑ เฐฐเฐเฐฎเฑเฐจ เฐชเฑเฐฐเฐถเฑเฐจเฐฒเฐเฑ เฐฎเฐณเฑเฐฒเฑ เฐฎเฐณเฑเฐฒเฑ เฐธเฐฎเฐพเฐงเฐพเฐจเฐพเฐฒเฑ เฐเฐตเฑเฐตเฐพเฐฒเฑเฐธเฐฟ เฐตเฐธเฑเฐคเฑเฐเฐฆเฐฟ.
- โ ๏ธ Manual Processing เฐตเฐฒเฑเฐฒ Errors เฐตเฐเฑเฐเฑ เฐ เฐตเฐเฐพเฐถเฐ เฐเฐเฐเฑเฐเฐฆเฐฟ.
- ๐ Employees เฐ เฐเฐฆเฑเฐฌเฐพเฐเฑเฐฒเฑ เฐเฐจเฑเฐจ เฐธเฐฎเฐฏเฐพเฐจเฐฟเฐเฑ Support เฐชเฐฐเฐฟเฐฎเฐฟเฐคเฐ เฐเฐพเฐตเฐเฑเฐเฑ.
โ 2.2 Proposed AI-Powered Solution
เฐ เฐธเฐฎเฐธเฑเฐฏเฐฒเฐจเฑ เฐชเฐฐเฐฟเฐทเฑเฐเฐฐเฐฟเฐเฐเฐกเฐพเฐจเฐฟเฐเฐฟ Company เฐเฐ AI-Powered Customer Support System เฐจเฑ Develop เฐเฑเฐฏเฐตเฐเฑเฐเฑ.
เฐ System เฐเฑเฐฏเฐเฐฒเฐฟเฐเฑ เฐชเฐจเฑเฐฒเฑ:
- ๐ง Customer Questions เฐจเฑ เฐ เฐฐเฑเฐฅเฐ เฐเฑเฐธเฑเฐเฑเฐตเฐกเฐ.
- ๐ฏ Customer Intent เฐจเฑ เฐเฑเฐฐเฑเฐคเฐฟเฐเฐเฐกเฐ.
- ๐ Company Documents เฐจเฑเฐเฐกเฐฟ Relevant Information Retrieve เฐเฑเฐฏเฐกเฐ.
- ๐ Authorized Customer เฐฎเฐฐเฐฟเฐฏเฑ Order Information เฐจเฑ Access เฐเฑเฐฏเฐกเฐ.
- ๐ฆ Return เฐฎเฐฐเฐฟเฐฏเฑ Refund Eligibility Check เฐเฑเฐฏเฐกเฐ.
- ๐ Approved Return Requests Initiate เฐเฑเฐฏเฐกเฐ.
- ๐ณ Refund Status Retrieve เฐเฑเฐฏเฐกเฐ.
- ๐จโ๐ป Complex เฐฒเฑเฐฆเฐพ Uncertain Requests เฐจเฑ Human Support เฐเฑ Escalate เฐเฑเฐฏเฐกเฐ.
๐ก 2.3 Simple Customer Interaction Example
Customer:
“Where is my order?”
AI Assistant:
“Please provide your Order ID so that I can check your order status.”
Customer:
“ORD10025”
AI Assistant:
“Your order has been shipped and is currently in transit. You can check the latest shipment information using your tracking details.”
เฐ Example เฐฒเฑ AI เฐเฑเฐตเฐฒเฐ Response Generate เฐเฑเฐฏเฐกเฐ เฐฎเฐพเฐคเฑเฐฐเฐฎเฑ เฐเฐพเฐฆเฑ. Company Systems เฐจเฑเฐเฐกเฐฟ เฐจเฐฟเฐเฐฎเฑเฐจ Order Information เฐจเฑ Retrieve เฐเฑเฐธเฐฟ เฐธเฐฎเฐพเฐงเฐพเฐจเฐ เฐเฐธเฑเฐคเฑเฐเฐฆเฐฟ.
๐ 3. Step 1 โ Business Requirement Analysis
Python Code เฐฐเฐพเฐฏเฐกเฐพเฐจเฐฟเฐเฐฟ เฐฒเฑเฐฆเฐพ AI Technologies Select เฐเฑเฐฏเฐกเฐพเฐจเฐฟเฐเฐฟ เฐฎเฑเฐเฐฆเฑ GenAI Forward Deployed Engineer เฐ เฐธเฐฒเฑ Business Problem เฐเฐฎเฐฟเฐเฑ เฐ เฐฐเฑเฐฅเฐ เฐเฑเฐธเฑเฐเฑเฐตเฐพเฐฒเฐฟ.
เฐ เฐชเฑเฐฐเฐเฑเฐฐเฐฟเฐฏเฐจเฑ Business Requirement Gathering เฐฒเฑเฐฆเฐพ Requirement Analysis เฐ เฐเฐเฐพเฐฐเฑ.
เฐ เฐฆเฐถเฐฒเฑ Company เฐฏเฑเฐเฑเฐ Business Objectives, Existing IT Infrastructure, Customer Support Processes, Security Requirements เฐฎเฐฐเฐฟเฐฏเฑ Expected Application Behavior เฐเฑเฐฐเฐฟเฐเฐเฐฟ เฐคเฑเฐฒเฑเฐธเฑเฐเฑเฐตเฐพเฐฒเฐฟ.
๐ฅ 3.1 Requirement Gathering เฐฒเฑ เฐชเฐพเฐฒเฑเฐเฑเฐจเฑ Teams
เฐธเฐพเฐงเฐพเฐฐเฐฃเฐเฐเฐพ เฐฎเฑเฐกเฑ เฐฎเฑเฐเฑเฐฏเฐฎเฑเฐจ Teams เฐ Process เฐฒเฑ เฐชเฐพเฐฒเฑเฐเฑเฐเฐเฐพเฐฏเฐฟ.
๐ข 1. Management Team
Management Team Company เฐฏเฑเฐเฑเฐ Business Objectives เฐเฑเฐฐเฐฟเฐเฐเฐฟ เฐตเฐฟเฐตเฐฐเฐฟเฐธเฑเฐคเฑเฐเฐฆเฐฟ.
Example Requirements:
- Customer Support Workload เฐคเฐเฑเฐเฐฟเฐเฐเฐพเฐฒเฐฟ.
- Customer Satisfaction เฐฎเฑเฐฐเฑเฐเฑเฐชเฐฐเฐเฐพเฐฒเฐฟ.
- Operational Costs เฐคเฐเฑเฐเฐฟเฐเฐเฐพเฐฒเฐฟ.
- Repetitive Support Activities เฐจเฑ Automate เฐเฑเฐฏเฐพเฐฒเฐฟ.
- Customer Response Time เฐจเฑ เฐฎเฑเฐฐเฑเฐเฑเฐชเฐฐเฐเฐพเฐฒเฐฟ.
๐ 2. Customer Support Team
Customer Support Team เฐชเฑเฐฐเฐคเฐฟเฐฐเฑเฐเฑ Employees เฐเฐฆเฑเฐฐเฑเฐเฑเฐจเฑ เฐธเฐฎเฐธเฑเฐฏเฐฒเฐจเฑ เฐตเฐฟเฐตเฐฐเฐฟเฐธเฑเฐคเฑเฐเฐฆเฐฟ.
Examples:
- Customers เฐคเฐฐเฐเฑเฐเฐพ Order Status เฐเฑเฐฐเฐฟเฐเฐเฐฟ เฐ เฐกเฑเฐเฑเฐคเฐพเฐฐเฑ.
- Refund Policies เฐตเฐฟเฐตเฐฐเฐฟเฐเฐเฐกเฐพเฐจเฐฟเฐเฐฟ Employees เฐเฐเฑเฐเฑเฐต เฐธเฐฎเฐฏเฐ เฐเฑเฐเฐพเฐฏเฐฟเฐธเฑเฐคเฑเฐจเฑเฐจเฐพเฐฐเฑ.
- Product Return Requests เฐจเฑ Manual เฐเฐพ Process เฐเฑเฐธเฑเฐคเฑเฐจเฑเฐจเฐพเฐฐเฑ.
- Customers เฐเฐเฑ เฐฐเฐเฐฎเฑเฐจ เฐชเฑเฐฐเฐถเฑเฐจเฐฒเฐจเฑ เฐฎเฐณเฑเฐฒเฑ เฐฎเฐณเฑเฐฒเฑ เฐ เฐกเฑเฐเฑเฐคเฑเฐจเฑเฐจเฐพเฐฐเฑ.
- Complex Requests เฐจเฑ เฐชเฑเฐฐเฐคเฑเฐฏเฑเฐ Teams เฐเฑ Escalate เฐเฑเฐฏเฐพเฐฒเฑเฐธเฐฟ เฐตเฐธเฑเฐคเฑเฐเฐฆเฐฟ.
๐ป 3. Technical Team
Technical Team Company เฐฏเฑเฐเฑเฐ Existing IT Infrastructure เฐเฑเฐฐเฐฟเฐเฐเฐฟ เฐตเฐฟเฐตเฐฐเฐฟเฐธเฑเฐคเฑเฐเฐฆเฐฟ.
Examples:
- Company เฐตเฐฆเฑเฐฆ Order Management System เฐเฐเฐฆเฐฟ.
- Customer Details เฐเฐ Relational Database เฐฒเฑ Maintain เฐเฑเฐธเฑเฐคเฑเฐจเฑเฐจเฐพเฐฐเฑ.
- Payment Information เฐจเฑ Payment Gateway เฐฆเฑเฐตเฐพเฐฐเฐพ Manage เฐเฑเฐธเฑเฐคเฑเฐจเฑเฐจเฐพเฐฐเฑ.
- Return เฐฎเฐฐเฐฟเฐฏเฑ Refund Policies PDF Documents เฐฒเฑ เฐเฐจเฑเฐจเฐพเฐฏเฐฟ.
- Existing Business Applications เฐฒเฑ REST APIs เฐ เฐเฐฆเฑเฐฌเฐพเฐเฑเฐฒเฑ เฐเฐจเฑเฐจเฐพเฐฏเฐฟ.
- Customer Authentication เฐจเฑ Existing Identity System เฐฆเฑเฐตเฐพเฐฐเฐพ เฐจเฐฟเฐฐเฑเฐตเฐนเฐฟเฐธเฑเฐคเฑเฐจเฑเฐจเฐพเฐฐเฑ.
๐ 3.2 Example Business Requirement Document
เฐ เฐฎเฑเฐกเฑ Teams เฐคเฑ เฐเฐฐเฑเฐเฐฟเฐเฐเฐฟเฐจ เฐคเฐฐเฑเฐตเฐพเฐค Engineer เฐเฐ Business Requirement Document เฐคเฐฏเฐพเฐฐเฑเฐเฑเฐธเฑเฐคเฐพเฐฐเฑ.
| Requirement ID | Business Requirement | Expected AI Functionality |
|---|---|---|
| BR001 | Customer Questions เฐเฑ เฐธเฐฎเฐพเฐงเฐพเฐจเฐพเฐฒเฑ เฐเฐตเฑเฐตเฐพเฐฒเฐฟ | LLM-powered Chatbot |
| BR002 | Company Policies Retrieve เฐเฑเฐฏเฐพเฐฒเฐฟ | RAG Implementation |
| BR003 | Order Status Check เฐเฑเฐฏเฐพเฐฒเฐฟ | Order Management API |
| BR004 | Product Returns Initiate เฐเฑเฐฏเฐพเฐฒเฐฟ | Return Management API |
| BR005 | Refund Status Check เฐเฑเฐฏเฐพเฐฒเฐฟ | Payment API Integration |
| BR006 | Complex Problems Handle เฐเฑเฐฏเฐพเฐฒเฐฟ | Human Support Escalation |
๐ก๏ธ 3.3 Non-Functional Requirements
Business Functionality เฐคเฑ เฐชเฐพเฐเฑ Engineer Non-Functional Requirements เฐจเฑ เฐเฑเฐกเฐพ เฐเฑเฐฐเฑเฐคเฐฟเฐเฐเฐพเฐฒเฐฟ.
๐ Security:
เฐเฐ Customer เฐฏเฑเฐเฑเฐ Private Information เฐฎเฐฐเฑเฐ Customer เฐเฑ เฐ เฐเฐฆเฑเฐฌเฐพเฐเฑเฐฒเฑ เฐเฐเฐกเฐเฑเฐกเฐฆเฑ.
เฐเฐฆเฐพเฐนเฐฐเฐฃเฐเฑ, Customer A, Customer B เฐฏเฑเฐเฑเฐ Order ID เฐเฐชเฐฏเฑเฐเฐฟเฐเฐเฐฟ เฐตเฐพเฐฐเฐฟ Order Details Retrieve เฐเฑเฐฏเฐกเฐพเฐจเฐฟเฐเฐฟ เฐชเฑเฐฐเฐฏเฐคเฑเฐจเฐฟเฐธเฑเฐคเฑ, Application เฐ Access เฐจเฑ เฐจเฐฟเฐฐเฑเฐงเฐฟเฐเฐเฐพเฐฒเฐฟ.
๐ฏ Accuracy:
AI เฐเฐเฑเฐเฑ Responses Company เฐฏเฑเฐเฑเฐ Verified Information เฐเฐงเฐพเฐฐเฐเฐเฐพ เฐเฐเฐกเฐพเฐฒเฐฟ.
เฐเฐฆเฐพเฐนเฐฐเฐฃเฐเฑ, Company Return Policy เฐฒเฑ เฐเฐ เฐจเฐฟเฐฐเฑเฐฆเฐฟเฐทเฑเฐ Return Period เฐฎเฐพเฐคเฑเฐฐเฐฎเฑ เฐ เฐจเฑเฐฎเฐคเฐฟเฐเฐเฐฌเฐกเฐฟเฐคเฑ, AI เฐคเฐจเฐเฐคเฐ เฐคเฐพเฐจเฑ เฐตเฑเฐฐเฑ Return Period เฐจเฑ เฐเฑเฐชเฑเฐชเฐเฑเฐกเฐฆเฑ.
โก Performance:
เฐเฐเฑเฐธเฐพเฐฐเฐฟ เฐเฐเฑเฐเฑเฐต เฐฎเฐเฐฆเฐฟ Customers Application เฐเฐชเฐฏเฑเฐเฐฟเฐเฐเฐฟเฐจเฐชเฑเฐชเฐเฐฟเฐเฑ, System เฐ เฐเฐเฑเฐเฐฐเฐฟเฐเฐเฐฆเฐเฐฟเฐจ เฐธเฐฎเฐฏเฐเฐฒเฑ Responses เฐเฐตเฑเฐตเฐพเฐฒเฐฟ.
๐ Scalability:
Customers เฐฎเฐฐเฐฟเฐฏเฑ Requests เฐธเฐเฐเฑเฐฏ เฐชเฑเฐฐเฐฟเฐเฐฟเฐจเฐชเฑเฐชเฑเฐกเฑ Application เฐฆเฐพเฐจเฐฟเฐเฐฟ เฐ เฐจเฑเฐเฑเฐฃเฐเฐเฐพ Handle เฐเฑเฐฏเฐเฐฒเฐเฐพเฐฒเฐฟ.
๐ฐ Cost:
LLM API Usage, Embedding Generation, Vector Database, Cloud Infrastructure เฐฎเฐฐเฐฟเฐฏเฑ External APIs เฐตเฐฒเฑเฐฒ เฐตเฐเฑเฐเฑ เฐเฐฐเฑเฐเฑเฐฒเฐจเฑ Company เฐ เฐฐเฑเฐฅเฐ เฐเฑเฐธเฑเฐเฑเฐตเฐพเฐฒเฐฟ.
๐ Availability:
Application เฐฒเฑ Service Interruptions เฐตเฐเฑเฐเฐฟเฐจเฐชเฑเฐชเฑเฐกเฑ เฐตเฐพเฐเฐฟเฐจเฐฟ Handle เฐเฑเฐฏเฐกเฐพเฐจเฐฟเฐเฐฟ เฐฎเฐฐเฐฟเฐฏเฑ เฐคเฐฟเฐฐเฐฟเฐเฐฟ Recover เฐเฐพเฐตเฐกเฐพเฐจเฐฟเฐเฐฟ เฐธเฐฐเฑเฐจ Mechanisms เฐเฐเฐกเฐพเฐฒเฐฟ.
โ 3.4 Development เฐชเฑเฐฐเฐพเฐฐเฐเฐญเฐฟเฐเฐเฑ เฐฎเฑเฐเฐฆเฑ เฐ เฐกเฐเฐพเฐฒเฑเฐธเฐฟเฐจ เฐชเฑเฐฐเฐถเฑเฐจเฐฒเฑ
เฐเฐ GenAI FDE เฐ เฐเฑเฐฐเฐฟเฐเฐฆเฐฟ เฐชเฑเฐฐเฐถเฑเฐจเฐฒเฑ เฐ เฐกเฐเฐพเฐฒเฐฟ.
- Customer Information เฐเฐเฑเฐเฐก Store เฐเฑเฐธเฑเฐคเฑเฐจเฑเฐจเฐพเฐฐเฑ?
- Order Details เฐเฐเฑเฐเฐก Maintain เฐเฑเฐธเฑเฐคเฑเฐจเฑเฐจเฐพเฐฐเฑ?
- Company Policies เฐเฐเฑเฐเฐก Store เฐเฑเฐธเฑเฐคเฑเฐจเฑเฐจเฐพเฐฐเฑ?
- เฐ LLM Providers เฐจเฑ เฐเฐชเฐฏเฑเฐเฐฟเฐเฐเฐกเฐพเฐจเฐฟเฐเฐฟ เฐ เฐจเฑเฐฎเฐคเฐฟ เฐเฐเฐฆเฐฟ?
- เฐ REST APIs เฐ เฐเฐฆเฑเฐฌเฐพเฐเฑเฐฒเฑ เฐเฐจเฑเฐจเฐพเฐฏเฐฟ?
- Customer Authentication เฐเฐฒเฐพ Implement เฐเฑเฐถเฐพเฐฐเฑ?
- เฐ Actions เฐเฑ Human Approval เฐ เฐตเฐธเฐฐเฐ?
- เฐเฐฒเฐพเฐเฐเฐฟ Security เฐฎเฐฐเฐฟเฐฏเฑ Compliance Requirements เฐเฐจเฑเฐจเฐพเฐฏเฐฟ?
- Application เฐเฐเฑเฐธเฐพเฐฐเฐฟ เฐเฐจเฑเฐจเฐฟ Requests Handle เฐเฑเฐฏเฐพเฐฒเฐฟ?
- Expected Response Time เฐฎเฐฐเฐฟเฐฏเฑ Application Budget เฐเฐเฐค?
๐ก เฐฎเฑเฐเฑเฐฏเฐฎเฑเฐจ เฐตเฐฟเฐทเฐฏเฐ: Successful AI Engineering เฐ เฐจเฑเฐฆเฐฟ Business Analysis เฐคเฑ เฐชเฑเฐฐเฐพเฐฐเฐเฐญเฐฎเฐตเฑเฐคเฑเฐเฐฆเฐฟ. Model Select เฐเฑเฐฏเฐกเฐ เฐฒเฑเฐฆเฐพ Code เฐฐเฐพเฐฏเฐกเฐ เฐฎเฑเฐฆเฐเฐฟ เฐชเฐจเฐฟ เฐเฐพเฐฆเฑ.
๐๏ธ 4. Step 2 โ Generative AI Architecture Design
Business Requirements เฐ เฐฐเฑเฐฅเฐ เฐเฑเฐธเฑเฐเฑเฐจเฑเฐจ เฐคเฐฐเฑเฐตเฐพเฐค Engineer Complete Solution Architecture เฐจเฑ Design เฐเฑเฐธเฑเฐคเฐพเฐฐเฑ.
๐งฉ 4.1 AI Architecture เฐ เฐเฐเฑ เฐเฐฎเฐฟเฐเฐฟ?
AI Architecture เฐ เฐเฐเฑ เฐเฐ AI Application เฐฒเฑเฐจเฐฟ เฐตเฐฟเฐตเฐฟเฐง Components เฐ เฐตเฐฟเฐงเฐเฐเฐพ เฐเฐเฐฆเฐพเฐจเฐฟเฐคเฑ เฐฎเฐฐเฑเฐเฐเฐฟ Communicate เฐ เฐตเฑเฐคเฑ เฐเฐฒเฐฟเฐธเฐฟ เฐชเฐจเฐฟเฐเฑเฐธเฑเฐคเฐพเฐฏเฑ เฐตเฐฟเฐตเฐฐเฐฟเฐเฐเฑ Structural Design.
เฐฎเฐจ E-commerce Customer Support AI Agent เฐฒเฑ เฐ เฐเฑเฐฐเฐฟเฐเฐฆเฐฟ Components เฐเฐเฐเฐพเฐฏเฐฟ.
| Component | Technology | Purpose |
|---|---|---|
| Programming Language | Python | Application Logic เฐฎเฐฐเฐฟเฐฏเฑ Integration |
| Backend API | FastAPI | Customer Requests Receive เฐเฑเฐฏเฐกเฐ |
| Language Model | LLM | Requests เฐ เฐฐเฑเฐฅเฐ เฐเฑเฐธเฑเฐเฑเฐจเฐฟ Responses Generate เฐเฑเฐฏเฐกเฐ |
| Knowledge Retrieval | RAG | Company Information Retrieve เฐเฑเฐฏเฐกเฐ |
| Embedding Storage | Vector Database | Vector Representations Store เฐฎเฐฐเฐฟเฐฏเฑ Search เฐเฑเฐฏเฐกเฐ |
| Agent Workflow | LangGraph | Multi-Step Processes Coordinate เฐเฑเฐฏเฐกเฐ |
| Application Integration | REST APIs | Business Applications Connect เฐเฑเฐฏเฐกเฐ |
| AI Integration Protocol | MCP | Tools เฐฎเฐฐเฐฟเฐฏเฑ Data Sources Connections เฐจเฑ Standardize เฐเฑเฐฏเฐกเฐ |
| Infrastructure | AWS, Azure เฐฒเฑเฐฆเฐพ GCP | Application Host เฐเฑเฐฏเฐกเฐ |
| Observability | Logging เฐฎเฐฐเฐฟเฐฏเฑ Monitoring | Application Health เฐฎเฐฐเฐฟเฐฏเฑ Performance Track เฐเฑเฐฏเฐกเฐ |
๐ 4.2 High-Level Project Architecture
เฐ Project เฐฒเฑ Customer Request เฐเฐฒเฐพ Process เฐ เฐตเฑเฐคเฑเฐเฐฆเฑ เฐเฑเฐฐเฐฟเฐเฐฆเฐฟ Architecture เฐฆเฑเฐตเฐพเฐฐเฐพ เฐ เฐฐเฑเฐฅเฐ เฐเฑเฐธเฑเฐเฑเฐตเฐเฑเฐเฑ.
CUSTOMER
|
v
Website / Mobile Application
|
v
FastAPI Backend
|
v
Authentication and Authorization
|
v
LangGraph Agent Workflow
|
+---------+----------+
| |
v v
RAG SYSTEM BUSINESS TOOLS
| |
v v
Embedding Model Order Management API
| Return Management API
v Payment / Refund API
Vector Database |
| |
+----------+----------+
|
v
LLM Model
|
v
Business Rule Validation
|
v
Human Approval (If Required)
|
v
Final Response
|
v
CUSTOMER
เฐ Architecture เฐฒเฑ Language Understanding, Information Retrieval, Workflow Orchestration เฐฎเฐฐเฐฟเฐฏเฑ Business Application Integration เฐ เฐจเฑเฐจเฑ เฐเฐฒเฐฟเฐธเฐฟ เฐชเฐจเฐฟเฐเฑเฐธเฑเฐคเฐพเฐฏเฐฟ.
๐ 4.3 Python โ Programming Language
Python เฐจเฑ Backend Logic Develop เฐเฑเฐฏเฐกเฐพเฐจเฐฟเฐเฐฟ เฐฎเฐฐเฐฟเฐฏเฑ เฐตเฐฟเฐตเฐฟเฐง AI Components เฐจเฑ Connect เฐเฑเฐฏเฐกเฐพเฐจเฐฟเฐเฐฟ เฐเฐชเฐฏเฑเฐเฐฟเฐธเฑเฐคเฐพเฐฐเฑ.
Python เฐฆเฑเฐตเฐพเฐฐเฐพ เฐ เฐเฑเฐฐเฐฟเฐเฐฆเฐฟ เฐชเฐจเฑเฐฒเฑ เฐเฑเฐฏเฐตเฐเฑเฐเฑ.
- Customer Input Receive เฐเฑเฐฏเฐกเฐ.
- Customer Requests Process เฐเฑเฐฏเฐกเฐ.
- LLM APIs Call เฐเฑเฐฏเฐกเฐ.
- Vector Databases เฐคเฑ Connect เฐ เฐตเฑเฐตเฐกเฐ.
- External Applications เฐจเฑเฐเฐกเฐฟ Information Retrieve เฐเฑเฐฏเฐกเฐ.
- Business Rules Execute เฐเฑเฐฏเฐกเฐ.
- REST APIs เฐฎเฐฐเฐฟเฐฏเฑ MCP Clients Integrate เฐเฑเฐฏเฐกเฐ.
- Errors เฐฎเฐฐเฐฟเฐฏเฑ Application Responses Handle เฐเฑเฐฏเฐกเฐ.
๐ป Basic Python Example
customer_question = "Where is my order?"
print("Customer Question:", customer_question)
Expected Output:
Customer Question: Where is my order?
เฐเฐฆเฐฟ Customer Input เฐจเฑ Receive เฐเฑเฐฏเฐกเฐพเฐจเฐฟเฐเฐฟ เฐเฐชเฐฏเฑเฐเฐฟเฐเฐเฑ Basic Example เฐฎเฐพเฐคเฑเฐฐเฐฎเฑ. Complete Application เฐฒเฑ Additional Processing, Authentication เฐฎเฐฐเฐฟเฐฏเฑ Business Integrations เฐ เฐตเฐธเฐฐเฐ.
๐ง 4.4 Large Language Model (LLM)
LLM เฐ เฐเฐเฑ Large Language Model.
เฐเฐฆเฐฟ Language เฐจเฑ Process เฐเฑเฐฏเฐกเฐพเฐจเฐฟเฐเฐฟ เฐฎเฐฐเฐฟเฐฏเฑ Generate เฐเฑเฐฏเฐกเฐพเฐจเฐฟเฐเฐฟ เฐฐเฑเฐชเฑเฐเฐฆเฐฟเฐเฐเฐฟเฐจ AI Model.
LLM Text เฐฒเฑเฐจเฐฟ Patterns เฐจเฑ เฐเฑเฐฐเฑเฐคเฐฟเฐเฐเฐเฐฒเฐฆเฑ, Instructions เฐจเฑ เฐ เฐฐเฑเฐฅเฐ เฐเฑเฐธเฑเฐเฑเฐเฐฒเฐฆเฑ, Responses Generate เฐเฑเฐฏเฐเฐฒเฐฆเฑ เฐฎเฐฐเฐฟเฐฏเฑ Classification, Information Extraction เฐตเฐเฐเฐฟ Tasks เฐเฑเฐฏเฐกเฐพเฐจเฐฟเฐเฐฟ เฐเฐชเฐฏเฑเฐเฐชเฐกเฑเฐคเฑเฐเฐฆเฐฟ.
LLM Model Families Examples:
- OpenAI GPT Models
- Google Gemini Models
- Anthropic Claude Models
เฐฎเฐจ E-commerce Project เฐฒเฑ LLM เฐชเฑเฐฐเฐงเฐพเฐจเฐเฐเฐพ Customer Questions เฐจเฑ เฐ เฐฐเฑเฐฅเฐ เฐเฑเฐธเฑเฐเฑเฐตเฐกเฐพเฐจเฐฟเฐเฐฟ เฐฎเฐฐเฐฟเฐฏเฑ Natural Language เฐฒเฑ Responses Generate เฐเฑเฐฏเฐกเฐพเฐจเฐฟเฐเฐฟ เฐเฐชเฐฏเฑเฐเฐชเฐกเฑเฐคเฑเฐเฐฆเฐฟ.
๐ก Example
Customer Question:
“I purchased headphones last week, but I received a damaged product. What should I do?”
LLM-Powered Application เฐ เฐเฑเฐฐเฐฟเฐเฐฆเฐฟ Information เฐจเฑ เฐเฑเฐฐเฑเฐคเฐฟเฐเฐเฐตเฐเฑเฐเฑ.
| Information | Identified Value |
|---|---|
| Product | Headphones |
| Problem | Damaged Product |
| Customer Intent | Product Return or Replacement |
| Required Information | Order ID |
เฐ Information เฐเฐงเฐพเฐฐเฐเฐเฐพ Application เฐคเฐฆเฑเฐชเฐฐเฐฟ Workflow เฐจเฑ Select เฐเฑเฐฏเฐเฐฒเฐฆเฑ.
โ ๏ธ เฐฎเฑเฐเฑเฐฏเฐฎเฑเฐจ เฐตเฐฟเฐทเฐฏเฐ: LLM เฐเฑ Company เฐฏเฑเฐเฑเฐ Latest Order Details, Private Refund Policies เฐฒเฑเฐฆเฐพ Customer Records เฐเฐเฑเฐฎเฑเฐเฐฟเฐเฑโเฐเฐพ เฐคเฑเฐฒเฐฟเฐฏเฐตเฑ. เฐ Information เฐชเฑเฐเฐฆเฐกเฐพเฐจเฐฟเฐเฐฟ Authorized Company Knowledge Sources เฐฎเฐฐเฐฟเฐฏเฑ Business Systems เฐคเฑ Integration เฐ เฐตเฐธเฐฐเฐ.
๐ 5. Step 3 โ RAG (Retrieval-Augmented Generation) Implement เฐเฑเฐฏเฐกเฐ
RAG เฐ เฐเฐเฑ Retrieval-Augmented Generation.
เฐเฐฆเฐฟ Information Retrieval เฐฎเฐฐเฐฟเฐฏเฑ LLM-Based Response Generation เฐ เฐจเฑ เฐฐเฑเฐเฐกเฑ เฐตเฐฟเฐงเฐพเฐจเฐพเฐฒเฐจเฑ เฐเฐฒเฐฟเฐชเฐฟ เฐเฐชเฐฏเฑเฐเฐฟเฐเฐเฑ เฐเฐ Technique.
เฐธเฑเฐฒเฐญเฐเฐเฐพ เฐเฑเฐชเฑเฐชเฐพเฐฒเฐเฐเฑ, External Knowledge Sources เฐจเฑเฐเฐกเฐฟ Relevant Information Retrieve เฐเฑเฐธเฐฟ เฐ Information เฐจเฑ LLM เฐเฑ เฐ เฐเฐฆเฐฟเฐเฐเฐกเฐ เฐฆเฑเฐตเฐพเฐฐเฐพ เฐฎเฐฐเฐฟเฐเฐค Relevant เฐฎเฐฐเฐฟเฐฏเฑ Context-Based Answer Generate เฐเฑเฐฏเฐฟเฐเฐเฐกเฐพเฐจเฑเฐจเฐฟ RAG เฐ เฐเฐเฐพเฐฐเฑ.
๐ค 5.1 เฐฎเฐจเฐเฑ RAG เฐเฐเฐฆเฑเฐเฑ เฐ เฐตเฐธเฐฐเฐ?
เฐเฐ E-commerce Company เฐตเฐฆเฑเฐฆ เฐตเฐเฐฆเฐฒ เฐธเฐเฐเฑเฐฏเฐฒเฑ Business Documents เฐเฐจเฑเฐจเฐพเฐฏเฐจเฐฟ เฐ เฐจเฑเฐเฑเฐเฐฆเฐพเฐ.
Examples:
- Product Return Policy
- Refund Policy
- Shipping Policy
- Cancellation Policy
- Warranty Policy
- Product Documentation
- Customer Support Guidelines
General-Purpose LLM เฐเฑ Company เฐฏเฑเฐเฑเฐ Latest Private Documents เฐเฐเฑเฐฎเฑเฐเฐฟเฐเฑโเฐเฐพ เฐ เฐเฐฆเฑเฐฌเฐพเฐเฑเฐฒเฑ เฐเฐเฐกเฐตเฑ.
เฐเฐฆเฐพเฐนเฐฐเฐฃเฐเฑ, Company Return Policy เฐฒเฑ เฐ เฐเฑเฐฐเฐฟเฐเฐฆเฐฟ Conditions เฐเฐเฐกเฐตเฐเฑเฐเฑ.
- Eligible Products เฐจเฑ เฐฎเฐพเฐคเฑเฐฐเฐฎเฑ Return เฐเฑเฐฏเฐตเฐเฑเฐเฑ.
- เฐเฑเฐจเฑเฐจเฐฟ Product Categories เฐเฑ Special Return Conditions เฐเฐเฐเฐพเฐฏเฐฟ.
- เฐเฑเฐจเฑเฐจเฐฟ Products เฐจเฑ เฐเฐชเฐฏเฑเฐเฐฟเฐเฐเฐฟเฐจ เฐคเฐฐเฑเฐตเฐพเฐค Return เฐเฑเฐฏเฐฒเฑเฐฐเฑ.
- Refunds เฐ เฐจเฑเฐตเฐฟ Eligibility Conditions เฐเฐงเฐพเฐฐเฐเฐเฐพ Process เฐเฑเฐฏเฐฌเฐกเฐคเฐพเฐฏเฐฟ.
RAG เฐฆเฑเฐตเฐพเฐฐเฐพ เฐ Company-Specific Documents เฐจเฑ AI Application Search เฐเฑเฐฏเฐเฐฒเฐฆเฑ.
๐๏ธ 5.2 RAG Architecture
RAG Implementation เฐฒเฑ เฐฐเฑเฐเฐกเฑ เฐฎเฑเฐเฑเฐฏเฐฎเฑเฐจ Workflows เฐเฐเฐเฐพเฐฏเฐฟ.
๐ฅ A. Document Ingestion: Company Documents เฐจเฑ Prepare เฐเฑเฐธเฐฟ, เฐตเฐพเฐเฐฟ Searchable Representations เฐจเฑ Store เฐเฑเฐฏเฐกเฐ.
๐ค B. Question Answering: Customer Question เฐ เฐกเฐฟเฐเฐฟเฐจเฐชเฑเฐชเฑเฐกเฑ Relevant Information เฐจเฑ Retrieve เฐเฑเฐธเฐฟ LLM เฐเฑ เฐ เฐเฐฆเฐฟเฐเฐเฐกเฐ.
โ๏ธ 5.3 RAG Implementation โ Step by Step
Company เฐตเฐฆเฑเฐฆ Product_Return_Policy.pdf เฐ
เฐจเฑ PDF File เฐเฐเฐฆเฐจเฐฟ เฐ
เฐจเฑเฐเฑเฐเฐฆเฐพเฐ.
๐ Step 1: Company Documents Collect เฐเฑเฐฏเฐกเฐ
Company Approved Business Information เฐเฐจเฑเฐจ Documents เฐจเฑ Collect เฐเฑเฐฏเฐพเฐฒเฐฟ.
Examples:
- Return Policy PDF
- Refund Policy PDF
- Shipping Policy PDF
- Cancellation Policy PDF
- Product Warranty PDF
เฐ Documents เฐ เฐจเฑเฐจเฑ เฐเฐฒเฐฟเฐธเฐฟ Company Knowledge Base เฐจเฑ เฐเฐฐเฑเฐชเฐฐเฑเฐธเฑเฐคเฐพเฐฏเฐฟ.
๐ Step 2: Documents เฐจเฑเฐเฐกเฐฟ Text Extract เฐเฑเฐฏเฐกเฐ
PDF Documents เฐฒเฑ เฐเฐจเฑเฐจ Readable Text เฐจเฑ Extract เฐเฑเฐฏเฐพเฐฒเฐฟ.
เฐเฐฆเฐพเฐนเฐฐเฐฃเฐเฑ, เฐเฐ PDF เฐฒเฑ เฐ เฐตเฐฟเฐงเฐเฐเฐพ เฐเฐเฐกเฐตเฐเฑเฐเฑ.
“Customers can return eligible products within the return period specified for the product category.”
เฐ Text เฐจเฑ Extract เฐเฑเฐธเฐฟ Application Process เฐเฑเฐฏเฐเฐฒเฐฟเฐเฑ Format เฐฒเฑเฐเฐฟ เฐฎเฐพเฐฐเฑเฐเฐพเฐฒเฐฟ.
PDF Text Extraction เฐเฑเฐธเฐ PyMuPDF เฐฎเฐฐเฐฟเฐฏเฑ pypdf เฐตเฐเฐเฐฟ Python Libraries เฐเฐชเฐฏเฑเฐเฐฟเฐเฐเฐตเฐเฑเฐเฑ.
Scanned Documents เฐเฑเฐธเฐ เฐ เฐฆเฐจเฐเฐเฐพ OCR Process เฐ เฐตเฐธเฐฐเฐ เฐเฐพเฐตเฐเฑเฐเฑ.
โ๏ธ Step 3: Text เฐจเฑ เฐเฐฟเฐจเฑเฐจ เฐเฐฟเฐจเฑเฐจ Chunks เฐเฐพ Divide เฐเฑเฐฏเฐกเฐ
Chunking เฐ เฐเฐเฑ เฐชเฑเฐฆเฑเฐฆ Documents เฐจเฑ เฐเฐฟเฐจเฑเฐจ เฐเฐฟเฐจเฑเฐจ Text Sections เฐเฐพ เฐตเฐฟเฐญเฐเฐฟเฐเฐเฐกเฐ.
เฐเฐ PDF Document เฐฒเฑ 100 Pages เฐเฐจเฑเฐจเฐพเฐฏเฐจเฐฟ เฐ เฐจเฑเฐเฑเฐเฐฆเฐพเฐ.
เฐชเฑเฐฐเฐคเฐฟ Customer Question เฐเฑเฐธเฐ เฐฎเฑเฐคเฑเฐคเฐ Document เฐจเฑ LLM เฐเฑ เฐชเฐเฐชเฐฟเฐเฐเฐกเฐ เฐธเฐฎเฐฐเฑเฐฅเฐตเฐเฐคเฐฎเฑเฐจ เฐตเฐฟเฐงเฐพเฐจเฐ เฐเฐพเฐฆเฑ. เฐ เฐเฐคเฑเฐเฐพเฐเฑเฐเฐกเฐพ Model เฐฏเฑเฐเฑเฐ Context Limits เฐจเฑ เฐเฑเฐกเฐพ เฐฆเฐพเฐเฐตเฐเฑเฐเฑ.
เฐฆเฐพเฐจเฐฟเฐเฐฟ เฐฌเฐฆเฑเฐฒเฑเฐเฐพ Document เฐจเฑ เฐเฐฟเฐจเฑเฐจ เฐเฐฟเฐจเฑเฐจ Chunks เฐเฐพ Divide เฐเฑเฐธเฑเฐคเฐพเฐ.
Original Text:
“Customers can return eligible products according to the applicable return policy. Products must satisfy the conditions specified for their category. Refunds are processed according to the company’s refund policy.”
Chunking เฐเฑเฐธเฐฟเฐจ เฐคเฐฐเฑเฐตเฐพเฐค:
๐ Chunk 1 โ Return Eligibility
“Customers can return eligible products according to the applicable return policy.”
๐ Chunk 2 โ Product Conditions
“Products must satisfy the conditions specified for their category.”
๐ Chunk 3 โ Refund Policy
“Refunds are processed according to the company’s refund policy.”
เฐเฐชเฑเฐชเฑเฐกเฑ เฐชเฑเฐฐเฐคเฐฟ Customer Question เฐเฑเฐธเฐ เฐฎเฑเฐคเฑเฐคเฐ Document เฐจเฑ Process เฐเฑเฐฏเฐเฑเฐเฐกเฐพ เฐ เฐตเฐธเฐฐเฐฎเฑเฐจ Chunks เฐจเฑ เฐฎเฐพเฐคเฑเฐฐเฐฎเฑ Retrieve เฐเฑเฐฏเฐตเฐเฑเฐเฑ.
เฐเฑเฐจเฑเฐจเฐฟ Chunking Methods เฐฒเฑ เฐชเฐเฑเฐเฐชเฐเฑเฐเฐจ เฐเฐจเฑเฐจ Chunks เฐฎเฐงเฑเฐฏ Overlapping Text เฐจเฑ เฐเฑเฐกเฐพ เฐเฐชเฐฏเฑเฐเฐฟเฐธเฑเฐคเฐพเฐฐเฑ. เฐฆเฑเฐจเฐฟเฐตเฐฒเฑเฐฒ เฐเฐ Chunk เฐจเฑเฐเฐกเฐฟ เฐฎเฐฐเฑเฐ Chunk เฐเฑ Context เฐเฑเฐจเฐธเฐพเฐเฑเฐคเฑเฐเฐฆเฐฟ.
Chunk Size เฐฎเฐฐเฐฟเฐฏเฑ Overlap Values เฐจเฑ Actual Documents เฐเฐงเฐพเฐฐเฐเฐเฐพ Test เฐเฑเฐธเฐฟ เฐจเฐฟเฐฐเฑเฐฃเฐฏเฐฟเฐเฐเฐพเฐฒเฐฟ.
๐ข Step 4: Embeddings Generate เฐเฑเฐฏเฐกเฐ
Embeddings เฐ เฐจเฑเฐตเฐฟ เฐเฐ Embedding Model เฐฆเฑเฐตเฐพเฐฐเฐพ Generate เฐเฑเฐฏเฐฌเฐกเฑ Numerical Representations.
เฐเฐตเฐฟ Text Passages เฐฎเฐงเฑเฐฏ เฐเฐจเฑเฐจ Semantic Relationships เฐจเฑ Mathematical Vector Space เฐฒเฑ Represent เฐเฑเฐฏเฐกเฐพเฐจเฐฟเฐเฐฟ เฐธเฐนเฐพเฐฏเฐชเฐกเฐคเฐพเฐฏเฐฟ.
เฐ เฐฐเฑเฐเฐกเฑ Sentences เฐจเฑ เฐชเฐฐเฐฟเฐถเฑเฐฒเฐฟเฐเฐเฐเฐกเฐฟ.
- “How can I return my product?”
- “What is the product return procedure?”
เฐ เฐฐเฑเฐเฐกเฑ Sentences เฐฒเฑ Words เฐตเฑเฐฐเฑเฐเฐพ เฐเฐจเฑเฐจเฐชเฑเฐชเฐเฐฟเฐเฑ, เฐตเฐพเฐเฐฟ Meaning เฐฆเฐเฑเฐเฐฐเฐเฐพ เฐเฐเฐเฑเฐเฐฆเฐฟ.
Embedding Model เฐ Text เฐจเฑ Numerical Vectors เฐเฐพ Convert เฐเฑเฐธเฑเฐคเฑเฐเฐฆเฐฟ.
Illustrative Example:
Sentence 1:
[0.21, 0.45, 0.67, 0.82]
Sentence 2:
[0.23, 0.43, 0.69, 0.80]
เฐเฐตเฐฟ เฐตเฐฟเฐตเฐฐเฐฃ เฐเฑเฐธเฐ เฐฎเฐพเฐคเฑเฐฐเฐฎเฑ เฐเฐเฑเฐเฐฟเฐจ Simplified Values. เฐเฐตเฐฟ เฐเฐฆเฑเฐจเฐพ เฐจเฐฟเฐฐเฑเฐฆเฐฟเฐทเฑเฐ Model เฐฏเฑเฐเฑเฐ Actual Embedding Outputs เฐฒเฑเฐฆเฐพ Dimensions เฐเฐพเฐตเฑ.
เฐ เฐฐเฑเฐเฐกเฑ Sentences เฐเฑ เฐธเฐเฐฌเฐเฐงเฐฟเฐค Meaning เฐเฐจเฑเฐจเฐเฐฆเฑเฐจ เฐตเฐพเฐเฐฟ Vectors Embedding Space เฐฒเฑ เฐฆเฐเฑเฐเฐฐเฐเฐพ เฐเฐเฐกเฐตเฐเฑเฐเฑ.
๐๏ธ Step 5: Vector Database เฐฒเฑ Embeddings Store เฐเฑเฐฏเฐกเฐ
Embeddings Generate เฐเฑเฐธเฐฟเฐจ เฐคเฐฐเฑเฐตเฐพเฐค เฐตเฐพเฐเฐฟเฐจเฐฟ Vector Index เฐฒเฑเฐฆเฐพ Vector Database เฐฒเฑ Store เฐเฑเฐฏเฐพเฐฒเฐฟ.
Examples:
- Pinecone
- Chroma
- FAISS
เฐเฐ Stored Record เฐ เฐตเฐฟเฐงเฐเฐเฐพ เฐเฐเฐกเฐตเฐเฑเฐเฑ.
| Field | Example |
|---|---|
| Document ID | DOC101 |
| Chunk ID | CHUNK001 |
| Text | Customers can return eligible products… |
| Embedding | Numerical Vector |
| Metadata | Return Policy |
| Document Version | Version 2 |
| Category | Electronics |
Metadata เฐธเฐนเฐพเฐฏเฐเฐคเฑ Document Type, Product Category, Region เฐฎเฐฐเฐฟเฐฏเฑ เฐเฐคเฐฐ Business Conditions เฐเฐงเฐพเฐฐเฐเฐเฐพ Information เฐจเฑ Filter เฐเฑเฐฏเฐตเฐเฑเฐเฑ.
Technical Note: FAISS เฐ เฐจเฑเฐฆเฐฟ เฐเฐ Vector Similarity-Search Library. Hosted Vector Database Service เฐเฑ เฐเฐฆเฐฟ เฐชเฑเฐฐเฑเฐคเฐฟเฐเฐพ เฐธเฐฎเฐพเฐจเฐฎเฑเฐจเฐฆเฐฟ เฐเฐพเฐฆเฑ. Application เฐฒเฑ Vector Search Functionality เฐจเฐฟเฐฐเฑเฐฎเฐฟเฐเฐเฐกเฐพเฐจเฐฟเฐเฐฟ เฐฆเฑเฐจเฐฟเฐจเฐฟ เฐเฐชเฐฏเฑเฐเฐฟเฐเฐเฐตเฐเฑเฐเฑ.
๐ Step 6: Relevant Information Retrieve เฐเฑเฐฏเฐกเฐ
เฐเฐชเฑเฐชเฑเฐกเฑ เฐเฐ Customer เฐ เฐตเฐฟเฐงเฐเฐเฐพ เฐ เฐกเฐฟเฐเฐพเฐกเฐจเฐฟ เฐ เฐจเฑเฐเฑเฐเฐฆเฐพเฐ.
“How can I return my headphones?”
Application เฐ เฐเฑเฐฐเฐฟเฐเฐฆเฐฟ Activities เฐจเฐฟเฐฐเฑเฐตเฐนเฐฟเฐธเฑเฐคเฑเฐเฐฆเฐฟ.
- Customer Question เฐจเฑ Receive เฐเฑเฐธเฑเฐคเฑเฐเฐฆเฐฟ.
- เฐ Question เฐเฑ Embedding Generate เฐเฑเฐธเฑเฐคเฑเฐเฐฆเฐฟ.
- Vector Index เฐฒเฑ Search เฐเฑเฐธเฑเฐคเฑเฐเฐฆเฐฟ.
- Semantically Related Document Chunks เฐจเฑ เฐเฑเฐฐเฑเฐคเฐฟเฐธเฑเฐคเฑเฐเฐฆเฐฟ.
- เฐ เฐคเฑเฐฏเฐเฐค Relevant Information เฐจเฑ Retrieve เฐเฑเฐธเฑเฐคเฑเฐเฐฆเฐฟ.
Example Retrieved Information:
“Customers can return eligible products according to the applicable return policy.”
เฐ Information Customer Question เฐเฑ เฐธเฐฎเฐพเฐงเฐพเฐจเฐ เฐเฐตเฑเฐตเฐกเฐพเฐจเฐฟเฐเฐฟ เฐเฐชเฐฏเฑเฐเฐชเฐกเฑเฐคเฑเฐเฐฆเฐฟ.
๐ฉ Step 7: Retrieved Information เฐจเฑ LLM เฐเฑ เฐชเฐเฐชเฐฟเฐเฐเฐกเฐ
Application Customer Question เฐฎเฐฐเฐฟเฐฏเฑ Retrieved Company Information เฐจเฑ เฐเฐฒเฐฟเฐชเฐฟ LLM เฐเฑ เฐชเฐเฐชเฐฟเฐธเฑเฐคเฑเฐเฐฆเฐฟ.
Illustrative Prompt:
You are an E-commerce customer support assistant.
Answer the customer using the company information
provided below.
Company Information:
Customers can return eligible products according
to the applicable return policy.
Customer Question:
How can I return my headphones?
Instructions:
- Provide a clear and helpful answer.
- Do not invent policy details.
- If information is insufficient, ask for clarification.
- Do not claim that a return has been created.
โ Step 8: Final Response Generate เฐเฑเฐฏเฐกเฐ
Retrieved Information เฐเฐงเฐพเฐฐเฐเฐเฐพ LLM Customer เฐเฑ เฐ เฐฐเฑเฐฅเฐฎเฐฏเฑเฐฏเฑเฐฒเฐพ Response Generate เฐเฑเฐธเฑเฐคเฑเฐเฐฆเฐฟ.
Customer:
“How can I return my headphones?”
AI Assistant:
“You can request a return if your headphones satisfy the company’s return eligibility conditions. Please provide your Order ID so that I can check your order details.”
๐ 5.4 Complete RAG Workflow
DOCUMENT INGESTION
Company PDF Documents
|
v
Text Extraction
|
v
Text Chunking
|
v
Embedding Generation
|
v
Vector Database / Index
QUESTION ANSWERING
Customer Question
|
v
Question Embedding
|
v
Similarity Search
|
v
Retrieve Relevant Chunks
|
v
Construct LLM Context
|
v
LLM Response Generation
|
v
Final Customer Answer
๐ 5.5 Important RAG Concepts
๐ Similarity Search: Query Vector เฐเฑ เฐฆเฐเฑเฐเฐฐเฐเฐพ เฐเฐจเฑเฐจ Vectors เฐจเฑ เฐเฑเฐฐเฑเฐคเฐฟเฐเฐเฑ Process. เฐเฐฆเฐฟ เฐเฐเฐเฑเฐเฑเฐจเฑเฐจ Similarity เฐฒเฑเฐฆเฐพ Distance Measure เฐเฐงเฐพเฐฐเฐเฐเฐพ เฐชเฐจเฐฟเฐเฑเฐธเฑเฐคเฑเฐเฐฆเฐฟ.
๐ฅ Retrieval: Knowledge Base เฐจเฑเฐเฐกเฐฟ เฐเฐชเฐฏเฑเฐเฐเฐฐเฐฎเฑเฐจ Documents เฐฒเฑเฐฆเฐพ Chunks เฐจเฑ Select เฐเฑเฐฏเฐกเฐ.
๐งฉ Context Augmentation: Retrieved Information เฐจเฑ LLM Input เฐฒเฑ Context เฐเฐพ เฐเฑเฐกเฐฟเฐเฐเฐกเฐ.
โ๏ธ Generation: LLM เฐฆเฑเฐตเฐพเฐฐเฐพ เฐ เฐฐเฑเฐฅเฐตเฐเฐคเฐฎเฑเฐจ Response เฐจเฑ เฐคเฐฏเฐพเฐฐเฑเฐเฑเฐฏเฐฟเฐเฐเฐกเฐ.
๐ RAG Evaluation: Retrieval เฐฎเฐฐเฐฟเฐฏเฑ Generated Answers Relevant เฐเฐพ เฐเฐจเฑเฐจเฐพเฐฏเฐพ, Accurate เฐเฐพ เฐเฐจเฑเฐจเฐพเฐฏเฐพ, Source Documents เฐเฐงเฐพเฐฐเฐเฐเฐพ Support เฐ เฐตเฑเฐคเฑเฐจเฑเฐจเฐพเฐฏเฐพ เฐ เฐจเฑเฐฆเฐฟ Measure เฐเฑเฐฏเฐกเฐ.
Production System เฐฒเฑ Retrieval Quality เฐฎเฑเฐฐเฑเฐเฑเฐชเฐฐเฐเฐกเฐพเฐจเฐฟเฐเฐฟ Hybrid Search, Metadata Filtering, Reranking เฐฎเฐฐเฐฟเฐฏเฑ Source Citations เฐตเฐเฐเฐฟ Techniques เฐจเฑ เฐเฑเฐกเฐพ เฐเฐชเฐฏเฑเฐเฐฟเฐเฐเฐตเฐเฑเฐเฑ.
โ ๏ธ เฐฎเฑเฐเฑเฐฏเฐฎเฑเฐจ เฐตเฐฟเฐทเฐฏเฐ: RAG เฐเฐชเฐฏเฑเฐเฐฟเฐเฐเฐฟเฐจเฐเฐค เฐฎเฐพเฐคเฑเฐฐเฐพเฐจ Correct Answers เฐตเฐธเฑเฐคเฐพเฐฏเฐจเฐฟ Guarantee เฐฒเฑเฐฆเฑ. Documents Quality, Embeddings, Retrieval Configuration, Prompts เฐฎเฐฐเฐฟเฐฏเฑ Evaluation Process เฐ เฐจเฑเฐจเฑ Result เฐชเฑ เฐชเฑเฐฐเฐญเฐพเฐตเฐ เฐเฑเฐชเฐฟเฐธเฑเฐคเฐพเฐฏเฐฟ.
VLR Training Generative AI เฐฒเฑ เฐจเฑเฐฐเฑเฐเฑเฐเฑเฐจเฑ เฐตเฐฟเฐฆเฑเฐฏเฐพเฐฐเฑเฐฅเฑเฐฒเฑ Enterprise Knowledge Assistants เฐจเฐฟเฐฐเฑเฐฎเฐฟเฐเฐเฐกเฐพเฐจเฐฟเฐเฐฟ เฐ Document Ingestion เฐฎเฐฐเฐฟเฐฏเฑ Question Answering Process เฐจเฑ เฐคเฐชเฑเฐชเฐจเฐฟเฐธเฐฐเฐฟเฐเฐพ เฐ เฐฐเฑเฐฅเฐ เฐเฑเฐธเฑเฐเฑเฐตเฐพเฐฒเฐฟ.
๐ค 6. Step 4 โ AI Agent Develop เฐเฑเฐฏเฐกเฐ
Information Retrieve เฐเฑเฐฏเฐกเฐ เฐฎเฐฐเฐฟเฐฏเฑ Customer Questions เฐเฑ เฐธเฐฎเฐพเฐงเฐพเฐจเฐพเฐฒเฑ เฐเฐตเฑเฐตเฐกเฐ เฐฎเฑเฐเฑเฐฏเฐฎเฑเฐจเฐตเฑ. เฐ เฐฏเฐฟเฐคเฑ Enterprise Customer Support Application เฐฒเฑ เฐจเฐฟเฐเฐฎเฑเฐจ Business Operations เฐเฑเฐกเฐพ เฐจเฐฟเฐฐเฑเฐตเฐนเฐฟเฐเฐเฐพเฐฒเฑเฐธเฐฟ เฐเฐเฐเฑเฐเฐฆเฐฟ.
เฐเฐเฑเฐเฐก AI Agents เฐเฐชเฐฏเฑเฐเฐชเฐกเฐคเฐพเฐฏเฐฟ.
๐ง 6.1 AI Agent เฐ เฐเฐเฑ เฐเฐฎเฐฟเฐเฐฟ?
AI Agent เฐ เฐจเฑเฐฆเฐฟ เฐเฐ เฐจเฐฟเฐฐเฑเฐฆเฐฟเฐทเฑเฐ Task เฐจเฑ Complete เฐเฑเฐฏเฐกเฐพเฐจเฐฟเฐเฐฟ Available Tools, Application Integrations เฐฎเฐฐเฐฟเฐฏเฑ Controlled Workflows เฐเฐชเฐฏเฑเฐเฐฟเฐเฐเฑ AI-Powered System.
AI Agent เฐเฑเฐฏเฐเฐฒเฐฟเฐเฑ เฐชเฐจเฑเฐฒเฑ:
- Customer Request เฐจเฑ เฐ เฐฐเฑเฐฅเฐ เฐเฑเฐธเฑเฐเฑเฐตเฐกเฐ.
- เฐ เฐตเฐธเฐฐเฐฎเฑเฐจ Action เฐจเฑ เฐเฑเฐฐเฑเฐคเฐฟเฐเฐเฐกเฐ.
- Missing Information Collect เฐเฑเฐฏเฐกเฐ.
- Available Tool เฐจเฑ Select เฐเฑเฐฏเฐกเฐ.
- Tool Execution Request เฐเฑเฐฏเฐกเฐ.
- Tool เฐจเฑเฐเฐกเฐฟ เฐตเฐเฑเฐเฐฟเฐจ Result เฐจเฑ เฐชเฐฐเฐฟเฐถเฑเฐฒเฐฟเฐเฐเฐกเฐ.
- Workflow เฐฒเฑ เฐคเฐฆเฑเฐชเฐฐเฐฟ Steps Execute เฐเฑเฐฏเฐกเฐ.
- Final Response เฐเฐตเฑเฐตเฐกเฐ.
เฐธเฐพเฐงเฐพเฐฐเฐฃ Chatbot เฐชเฑเฐฐเฐงเฐพเฐจเฐเฐเฐพ Conversation เฐชเฑ เฐฆเฑเฐทเฑเฐเฐฟ เฐชเฑเฐกเฑเฐคเฑเฐเฐฆเฐฟ. AI Agent เฐฎเฐพเฐคเฑเฐฐเฐ เฐเฐ Business Task เฐจเฑ Complete เฐเฑเฐฏเฐกเฐพเฐจเฐฟเฐเฐฟ เฐ เฐจเฑเฐ Operations เฐจเฑ Coordinate เฐเฑเฐฏเฐเฐฒเฐฆเฑ.
๐ก 6.2 Real-Time Example โ Product Return
เฐเฐค เฐตเฐพเฐฐเฐ เฐเฑเฐจเฑเฐเฑเฐฒเฑ เฐเฑเฐธเฐฟเฐจ Headphones เฐจเฑ Return เฐเฑเฐฏเฐพเฐฒเฐจเฑเฐเฑเฐเฐเฑเฐจเฑเฐจ Customer เฐเฐจเฑเฐจเฐพเฐกเฐจเฐฟ เฐ เฐจเฑเฐเฑเฐเฐฆเฐพเฐ.
Customer:
“I want to return the headphones I purchased last week.”
เฐธเฐพเฐงเฐพเฐฐเฐฃ Chatbot เฐเฐฒเฐพ Response เฐเฐตเฑเฐตเฐตเฐเฑเฐเฑ.
“You can return eligible products according to our return policy.”
เฐ Response Return Policy เฐจเฑ เฐตเฐฟเฐตเฐฐเฐฟเฐธเฑเฐคเฑเฐเฐฆเฐฟ. เฐเฐพเฐจเฑ Return Request เฐจเฑ Create เฐเฑเฐฏเฐฆเฑ.
AI Agent เฐฎเฐพเฐคเฑเฐฐเฐ Complete Return Workflow เฐจเฑ Coordinate เฐเฑเฐฏเฐเฐฒเฐฆเฑ.
โ๏ธ 6.3 AI Agent Workflow โ Step by Step
๐ฏ Step 1: Customer Intent เฐ เฐฐเฑเฐฅเฐ เฐเฑเฐธเฑเฐเฑเฐตเฐกเฐ
Customer เฐเฐฒเฐพ เฐ เฐกเฑเฐเฑเฐคเฐพเฐกเฑ.
“I want to return my headphones.”
LLM-Powered Application Customer เฐเฑ Product Return เฐเฑเฐฏเฐพเฐฒเฐจเฑ Intent เฐเฐเฐฆเฐจเฐฟ เฐเฑเฐฐเฑเฐคเฐฟเฐธเฑเฐคเฑเฐเฐฆเฐฟ.
เฐฆเฑเฐจเฐฟเฐจเฐฟ Intent Understanding เฐ เฐเฐเฐพเฐฐเฑ.
๐ Step 2: Required Information Collect เฐเฑเฐฏเฐกเฐ
Application เฐตเฐฆเฑเฐฆ เฐ เฐตเฐธเฐฐเฐฎเฑเฐจ Information เฐเฐเฐฆเฑ เฐฒเฑเฐฆเฑ Check เฐเฑเฐธเฑเฐคเฑเฐเฐฆเฐฟ.
Order ID เฐฒเฑเฐเฐชเฑเฐคเฑ เฐ เฐตเฐฟเฐงเฐเฐเฐพ เฐ เฐกเฑเฐเฑเฐคเฑเฐเฐฆเฐฟ.
“Please provide your Order ID to continue.”
Customer:
“ORD10025”
๐ Step 3: Order Details Retrieve เฐเฑเฐฏเฐกเฐ
Application Order Management API เฐจเฑ Call เฐเฑเฐธเฑเฐคเฑเฐเฐฆเฐฟ.
Illustrative API Request:
GET /api/orders/ORD10025
Example API Response:
{
"order_id": "ORD10025",
"product": "Headphones",
"purchase_status": "Delivered",
"return_status": "Not Requested"
}
๐ Step 4: Order Information Verify เฐเฑเฐฏเฐกเฐ
Application API เฐจเฑเฐเฐกเฐฟ เฐตเฐเฑเฐเฐฟเฐจ Details เฐจเฑ เฐชเฐฐเฐฟเฐถเฑเฐฒเฐฟเฐธเฑเฐคเฑเฐเฐฆเฐฟ.
| Field | Retrieved Value |
|---|---|
| Order ID | ORD10025 |
| Product | Headphones |
| Purchase Status | Delivered |
| Return Status | Not Requested |
เฐ เฐเฐคเฑเฐเฐพเฐเฑเฐเฐกเฐพ, เฐ Order Authenticated Customer เฐเฑ เฐเฑเฐเฐฆเฐฟเฐจเฐฆเฑเฐจเฐพ เฐ เฐจเฑ เฐตเฐฟเฐทเฐฏเฐพเฐจเฑเฐจเฐฟ Backend Verify เฐเฑเฐฏเฐพเฐฒเฐฟ.
๐ Step 5: Return Policy Retrieve เฐเฑเฐฏเฐกเฐ
Application RAG เฐเฐชเฐฏเฑเฐเฐฟเฐเฐเฐฟ Headphones เฐเฑ เฐธเฐเฐฌเฐเฐงเฐฟเฐเฐเฐฟเฐจ Return Policy เฐจเฑ Retrieve เฐเฑเฐธเฑเฐคเฑเฐเฐฆเฐฟ.
Example Query:
“What are the return eligibility conditions for headphones?”
RAG เฐธเฐเฐฌเฐเฐงเฐฟเฐค Company Policy เฐจเฑ Retrieve เฐเฑเฐธเฑเฐคเฑเฐเฐฆเฐฟ.
๐ Step 6: Return Eligibility Check เฐเฑเฐฏเฐกเฐ
Application เฐ เฐเฑเฐฐเฐฟเฐเฐฆเฐฟ เฐตเฐฟเฐทเฐฏเฐพเฐฒเฐจเฑ Verify เฐเฑเฐธเฑเฐคเฑเฐเฐฆเฐฟ.
- Order Delivered เฐ เฐฏเฐฟเฐเฐฆเฐพ?
- Return Period เฐเฐเฐเฐพ Valid เฐเฐพ เฐเฐเฐฆเฐพ?
- เฐ Product Category Return เฐเฑ Eligible เฐเฐพ เฐเฐเฐฆเฐพ?
- เฐ เฐตเฐธเฐฐเฐฎเฑเฐจ Product Conditions Satisfy เฐ เฐฏเฑเฐฏเฐพเฐฏเฐพ?
- เฐเฐชเฑเฐชเฐเฐฟเฐเฑ Return Request Create เฐ เฐฏเฐฟเฐเฐฆเฐพ?
เฐ Checks เฐ เฐจเฑเฐจเฑ Company เฐฏเฑเฐเฑเฐ เฐจเฐฟเฐเฐฎเฑเฐจ Business Rules เฐฎเฐฐเฐฟเฐฏเฑ Verified Data เฐเฐงเฐพเฐฐเฐเฐเฐพ เฐเฐฐเฐเฐพเฐฒเฐฟ.
LLM Request เฐจเฑ เฐ เฐฐเฑเฐฅเฐ เฐเฑเฐธเฑเฐเฑเฐตเฐกเฐพเฐจเฐฟเฐเฐฟ เฐธเฐนเฐพเฐฏเฐชเฐกเฑเฐคเฑเฐเฐฆเฐฟ. เฐเฐพเฐจเฑ Final Eligibility Decision เฐจเฑ Trusted Backend Logic เฐฆเฑเฐตเฐพเฐฐเฐพ Enforce เฐเฑเฐฏเฐพเฐฒเฐฟ.
๐ Step 7: Return Request Create เฐเฑเฐฏเฐกเฐ
Product เฐ เฐจเฑเฐจเฐฟ Return Conditions เฐจเฑ Satisfy เฐเฑเฐธเฐฟเฐจเฐเฑเฐฒเฐฏเฐฟเฐคเฑ Application Return Management API เฐจเฑ Call เฐเฑเฐธเฑเฐคเฑเฐเฐฆเฐฟ.
Illustrative API Request:
POST /api/returns
Content-Type: application/json
Example Request Body:
{
"order_id": "ORD10025",
"product": "Headphones",
"reason": "Customer requested return"
}
Example API Response:
{
"return_id": "RET5001",
"status": "Return Request Created"
}
โ Step 8: Customer เฐเฑ Confirmation เฐเฐตเฑเฐตเฐกเฐ
API เฐจเฑเฐเฐกเฐฟ เฐตเฐเฑเฐเฐฟเฐจ Result เฐเฐงเฐพเฐฐเฐเฐเฐพ Application Customer เฐเฑ Final Response เฐเฐธเฑเฐคเฑเฐเฐฆเฐฟ.
AI Assistant:
“Your return request has been successfully created.
Return ID: RET5001
You can use this ID to track your return request.”
Return Management System เฐจเฑเฐเฐกเฐฟ Successful Result เฐตเฐเฑเฐเฐฟเฐจ เฐคเฐฐเฑเฐตเฐพเฐค เฐฎเฐพเฐคเฑเฐฐเฐฎเฑ Application เฐ Confirmation เฐเฐตเฑเฐตเฐพเฐฒเฐฟ.
๐ก๏ธ 6.4 Human Approval เฐฎเฐฐเฐฟเฐฏเฑ Human-in-the-Loop
เฐชเฑเฐฐเฐคเฐฟ Business Operation เฐจเฑ AI เฐธเฑเฐตเฐฏเฐเฐเฐพเฐฒเฐเฐเฐเฐพ เฐจเฐฟเฐฐเฑเฐตเฐนเฐฟเฐเฐเฐเฑเฐกเฐฆเฑ.
เฐเฑเฐจเฑเฐจเฐฟ Actions เฐฒเฑ Financial, Legal เฐฒเฑเฐฆเฐพ Operational Risks เฐเฐเฐกเฐตเฐเฑเฐเฑ.
Examples:
- Refund Issue เฐเฑเฐฏเฐกเฐ.
- High-Value Order Cancel เฐเฑเฐฏเฐกเฐ.
- Special Return Request Approve เฐเฑเฐฏเฐกเฐ.
- Sensitive Customer Record เฐฎเฐพเฐฐเฑเฐเฐกเฐ.
- Company Policy เฐเฑ Exception เฐเฐตเฑเฐตเฐกเฐ.
Company เฐ เฐเฑเฐฐเฐฟเฐเฐฆเฐฟ Approvals เฐเฑเฐฐเฐตเฐเฑเฐเฑ.
- Customer Identity Verification.
- Refund Eligibility Validation.
- Manager Approval.
- Payment System Authorization.
- Audit Recording.
Configured Workflow เฐฒเฑ Approval เฐ เฐตเฐธเฐฐเฐฎเฑเฐคเฑ AI Agent เฐ เฐฆเฐถเฐฒเฑ Execution เฐจเฑ Pause เฐเฑเฐธเฐฟ Approval เฐเฑเฐธเฐ เฐตเฑเฐเฐฟ เฐเฐเฐกเฐพเฐฒเฐฟ.
โ๏ธ 6.5 เฐ Project เฐฒเฑ LangGraph เฐชเฐพเฐคเฑเฐฐ เฐเฐฎเฐฟเฐเฐฟ?
LangGraph เฐจเฑ เฐเฐชเฐฏเฑเฐเฐฟเฐเฐเฐฟ Stateful เฐฎเฐฐเฐฟเฐฏเฑ Multi-Step AI Workflows เฐจเฑ Implement เฐเฑเฐฏเฐตเฐเฑเฐเฑ.
LangGraph Workflow เฐฒเฑ เฐ เฐเฑเฐฐเฐฟเฐเฐฆเฐฟ Concepts เฐเฐเฐเฐพเฐฏเฐฟ.
- State: Workflow Execution เฐธเฐฎเฐฏเฐเฐฒเฑ Maintain เฐเฑเฐธเฑ Information.
- Nodes: Individual Processing Steps.
- Edges: เฐเฐ Node เฐจเฑเฐเฐกเฐฟ เฐฎเฐฐเฑเฐ Node เฐเฑ เฐเฐเฐกเฑ Connections.
- Conditional Edges: เฐคเฐฆเฑเฐชเฐฐเฐฟ เฐ Step Execute เฐเฐพเฐตเฐพเฐฒเฑ เฐจเฐฟเฐฐเฑเฐฃเฐฏเฐฟเฐเฐเฑ Rules.
- Checkpoints: Workflow State เฐจเฑ Save เฐเฑเฐธเฐฟ Recovery เฐฎเฐฐเฐฟเฐฏเฑ Continuation เฐเฑ เฐธเฐนเฐพเฐฏเฐชเฐกเฑเฐตเฐฟ.
- Human-in-the-Loop: Review เฐฒเฑเฐฆเฐพ Approval เฐเฑเฐธเฐ Workflow เฐจเฑ Pause เฐเฑเฐฏเฐกเฐ.
เฐฎเฐจ Project เฐฒเฑ เฐ เฐเฑเฐฐเฐฟเฐเฐฆเฐฟ Nodes เฐเฐเฐกเฐตเฐเฑเฐเฑ.
| Node | Responsibility |
|---|---|
| Intent Detection | Customer Request เฐจเฑ เฐเฑเฐฐเฑเฐคเฐฟเฐเฐเฐกเฐ |
| Information Collection | Missing Information เฐ เฐกเฐเฐกเฐ |
| Authentication Check | Customer Identity Verify เฐเฑเฐฏเฐกเฐ |
| Order Lookup | Order Details Retrieve เฐเฑเฐฏเฐกเฐ |
| Policy Retrieval | RAG เฐฆเฑเฐตเฐพเฐฐเฐพ Relevant Policy Retrieve เฐเฑเฐฏเฐกเฐ |
| Eligibility Check | Company Return Rules Apply เฐเฑเฐฏเฐกเฐ |
| Approval | เฐ เฐตเฐธเฐฐเฐฎเฑเฐจเฐชเฑเฐชเฑเฐกเฑ Authorization Request เฐเฑเฐฏเฐกเฐ |
| Return Creation | Return Management API Call เฐเฑเฐฏเฐกเฐ |
| Response Generation | Customer เฐเฑ Response เฐคเฐฏเฐพเฐฐเฑเฐเฑเฐฏเฐกเฐ |
LangGraph เฐฒเฑ Deterministic Application Logic เฐฎเฐฐเฐฟเฐฏเฑ LLM-Driven Steps เฐฐเฑเฐเฐกเฐฟเฐเฐเฐฟเฐจเฑ เฐเฐฒเฐฟเฐชเฐฟ Workflows เฐจเฐฟเฐฐเฑเฐฎเฐฟเฐเฐเฐตเฐเฑเฐเฑ.
เฐฎเฐฐเฐฟเฐเฐค เฐธเฐฎเฐพเฐเฐพเฐฐเฐ เฐเฑเฐธเฐ เฐ เฐงเฐฟเฐเฐพเฐฐเฐฟเฐ LangGraph Overview Documentation เฐจเฑ เฐเฑเฐกเฐตเฐเฑเฐเฑ.
๐ 7. Step 5 โ MCP เฐฎเฐฐเฐฟเฐฏเฑ External Application Integration
E-commerce Companies เฐธเฐพเฐงเฐพเฐฐเฐฃเฐเฐเฐพ เฐคเฐฎ Business Operations เฐจเฐฟเฐฐเฑเฐตเฐนเฐฟเฐเฐเฐกเฐพเฐจเฐฟเฐเฐฟ เฐ เฐจเฑเฐ Applications เฐเฐชเฐฏเฑเฐเฐฟเฐธเฑเฐคเฐพเฐฏเฐฟ.
Examples:
| Application | Purpose |
|---|---|
| Order Management System | Order Details Store เฐฎเฐฐเฐฟเฐฏเฑ Manage เฐเฑเฐฏเฐกเฐ |
| Payment Gateway | Payments Process เฐเฑเฐฏเฐกเฐ |
| Customer Database | Customer Information Maintain เฐเฑเฐฏเฐกเฐ |
| Inventory Management System | Product Stock Manage เฐเฑเฐฏเฐกเฐ |
| CRM Application | Customer Relationships Manage เฐเฑเฐฏเฐกเฐ |
| Return Management System | Product Returns Process เฐเฑเฐฏเฐกเฐ |
AI Application เฐ Systems เฐจเฑเฐเฐกเฐฟ Information Retrieve เฐเฑเฐฏเฐกเฐพเฐจเฐฟเฐเฐฟ เฐฎเฐฐเฐฟเฐฏเฑ Authorized Actions Execute เฐเฑเฐฏเฐกเฐพเฐจเฐฟเฐเฐฟ เฐตเฐพเฐเฐฟเฐคเฑ Communicate เฐ เฐตเฑเฐตเฐพเฐฒเฐฟ.
เฐฆเฑเฐจเฐฟเฐจเฐฟ Enterprise Application Integration เฐ เฐเฐเฐพเฐฐเฑ.
๐ 7.1 REST API Integration
REST APIs เฐฆเฑเฐตเฐพเฐฐเฐพ Software Applications HTTP เฐเฐชเฐฏเฑเฐเฐฟเฐเฐเฐฟ Information Exchange เฐเฑเฐธเฑเฐเฑเฐตเฐเฑเฐเฑ.
เฐเฐฆเฐพเฐนเฐฐเฐฃเฐเฑ, Order Details Retrieve เฐเฑเฐฏเฐกเฐพเฐจเฐฟเฐเฐฟ AI Application, Order Management API เฐจเฑ Call เฐเฑเฐธเฑเฐคเฑเฐเฐฆเฐฟ.
Illustrative Request:
GET /api/orders/ORD10025
Example Response:
{
"order_id": "ORD10025",
"product": "Headphones",
"status": "Shipped"
}
เฐ Information เฐเฐงเฐพเฐฐเฐเฐเฐพ AI Application Customer เฐเฑ Response เฐคเฐฏเฐพเฐฐเฑเฐเฑเฐธเฑเฐคเฑเฐเฐฆเฐฟ.
Return Requests Create เฐเฑเฐฏเฐกเฐพเฐจเฐฟเฐเฐฟ เฐฒเฑเฐฆเฐพ Refund Status Retrieve เฐเฑเฐฏเฐกเฐพเฐจเฐฟเฐเฐฟ เฐเฑเฐกเฐพ REST APIs เฐเฐชเฐฏเฑเฐเฐฟเฐเฐเฐตเฐเฑเฐเฑ.
๐ ๏ธ 7.2 Function Calling
Function Calling เฐ เฐจเฑเฐฆเฐฟ เฐเฑเฐจเฑเฐจเฐฟ LLM APIs เฐฎเฐฐเฐฟเฐฏเฑ Agent Frameworks เฐ เฐเฐฆเฐฟเฐเฐเฑ Capability.
เฐฆเฑเฐจเฐฟ เฐฆเฑเฐตเฐพเฐฐเฐพ LLM-Powered Application เฐฎเฑเฐเฐฆเฑเฐเฐพ เฐจเฐฟเฐฐเฑเฐตเฐเฐฟเฐเฐเฐฟเฐจ Function เฐฒเฑเฐฆเฐพ Tool เฐจเฑ Execute เฐเฑเฐฏเฐฎเฐจเฐฟ Request เฐเฑเฐฏเฐเฐฒเฐฆเฑ.
เฐ เฐเฑเฐฐเฐฟเฐเฐฆเฐฟ Python Function เฐจเฑ เฐชเฐฐเฐฟเฐถเฑเฐฒเฐฟเฐเฐเฐเฐกเฐฟ.
def check_order_status(order_id):
# Connect to the company's Order Management API
return "Your order is shipped"
Application เฐ Function เฐจเฑ เฐเฐ Appropriate Tool Definition เฐฆเฑเฐตเฐพเฐฐเฐพ Model เฐเฑ เฐ เฐเฐฆเฑเฐฌเฐพเฐเฑเฐฒเฑ เฐเฐเฐเฑเฐคเฑเฐเฐฆเฐฟ.
Customer Order เฐเฑเฐฐเฐฟเฐเฐเฐฟ เฐ
เฐกเฐฟเฐเฐฟเฐจเฐชเฑเฐชเฑเฐกเฑ Model check_order_status Tool เฐจเฑ เฐเฐชเฐฏเฑเฐเฐฟเฐเฐเฐฎเฐจเฐฟ Request เฐเฑเฐฏเฐตเฐเฑเฐเฑ.
เฐคเฐฐเฑเฐตเฐพเฐค Application เฐ Steps เฐจเฑ Execute เฐเฑเฐธเฑเฐคเฑเฐเฐฆเฐฟ.
- Tool Request เฐจเฑ Validate เฐเฑเฐธเฑเฐคเฑเฐเฐฆเฐฟ.
- Arguments เฐจเฑ Check เฐเฑเฐธเฑเฐคเฑเฐเฐฆเฐฟ.
- Approved Function เฐจเฑ Execute เฐเฑเฐธเฑเฐคเฑเฐเฐฆเฐฟ.
- Result เฐจเฑ Receive เฐเฑเฐธเฑเฐคเฑเฐเฐฆเฐฟ.
- Result เฐจเฑ เฐคเฐฟเฐฐเฐฟเฐเฐฟ LLM เฐเฑ เฐ เฐเฐฆเฐฟเฐธเฑเฐคเฑเฐเฐฆเฐฟ.
- LLM เฐฆเฑเฐตเฐพเฐฐเฐพ Natural Language Response Generate เฐเฑเฐฏเฐฟเฐธเฑเฐคเฑเฐเฐฆเฐฟ.
โ ๏ธ เฐฎเฑเฐเฑเฐฏเฐฎเฑเฐจ เฐตเฐฟเฐทเฐฏเฐ: LLM เฐธเฑเฐตเฐฏเฐเฐเฐพ Arbitrary Python Code เฐจเฑ Execute เฐเฑเฐฏเฐฆเฑ เฐฒเฑเฐฆเฐพ Company Database เฐจเฑ Direct เฐเฐพ Access เฐเฑเฐฏเฐฆเฑ. Actual Function Execution เฐจเฑ Application Validate เฐเฑเฐธเฐฟ Control เฐเฑเฐธเฑเฐคเฑเฐเฐฆเฐฟ.
๐ 7.3 MCP เฐ เฐเฐเฑ เฐเฐฎเฐฟเฐเฐฟ?
MCP เฐ เฐเฐเฑ Model Context Protocol.
เฐเฐฆเฐฟ AI Applications เฐจเฑ External Tools เฐฎเฐฐเฐฟเฐฏเฑ Data Sources เฐคเฑ Connect เฐเฑเฐฏเฐกเฐพเฐจเฐฟเฐเฐฟ เฐเฐชเฐฏเฑเฐเฐฟเฐเฐเฑ Open Protocol.
เฐชเฑเฐฐเฐคเฐฟ AI Application เฐเฑเฐธเฐ เฐชเฑเฐฐเฐคเฑเฐฏเฑเฐเฐเฐเฐพ Custom Connection Develop เฐเฑเฐฏเฐพเฐฒเฑเฐธเฐฟเฐจ เฐ เฐตเฐธเฐฐเฐพเฐจเฑเฐจเฐฟ เฐคเฐเฑเฐเฐฟเฐธเฑเฐคเฑ, เฐเฐ Standardized Integration Approach เฐจเฑ MCP เฐ เฐเฐฆเฐฟเฐธเฑเฐคเฑเฐเฐฆเฐฟ.
๐ง Example MCP Tools
เฐเฐ E-commerce MCP Server เฐ เฐเฑเฐฐเฐฟเฐเฐฆเฐฟ Tools เฐจเฑ Expose เฐเฑเฐฏเฐตเฐเฑเฐเฑ.
check_order_statuscheck_refund_statuscreate_return_requestget_product_information
AI Application เฐคเฐจ MCP Integration เฐฆเฑเฐตเฐพเฐฐเฐพ เฐ Tools เฐจเฑ Discover เฐเฑเฐธเฐฟ เฐเฐชเฐฏเฑเฐเฐฟเฐเฐเฐเฐฒเฐฆเฑ. เฐ เฐฏเฐฟเฐคเฑ เฐเฐฆเฐฟ Configure เฐเฑเฐธเฐฟเฐจ Permissions เฐฎเฐฐเฐฟเฐฏเฑ Business Controls เฐเฑ เฐฒเฑเฐฌเฐกเฐฟ เฐเฐเฐเฑเฐเฐฆเฐฟ.
๐๏ธ 7.4 MCP Architecture
MCP เฐเฐ HostโClientโServer Architecture เฐจเฑ เฐเฐชเฐฏเฑเฐเฐฟเฐธเฑเฐคเฑเฐเฐฆเฐฟ.
๐ฅ๏ธ MCP Host:
AI Application. เฐเฐฆเฐฟ เฐฎเฑเฐคเฑเฐคเฐ Interaction เฐจเฑ Coordinate เฐเฑเฐธเฑเฐคเฑเฐเฐฆเฐฟ เฐฎเฐฐเฐฟเฐฏเฑ MCP Connections เฐจเฑ Manage เฐเฑเฐธเฑเฐคเฑเฐเฐฆเฐฟ.
๐ MCP Client:
เฐเฐ เฐจเฐฟเฐฐเฑเฐฆเฐฟเฐทเฑเฐ MCP Server เฐคเฑ Communicate เฐ เฐฏเฑเฐฏเฑ Component.
โ๏ธ MCP Server:
Tools, Resources เฐฎเฐฐเฐฟเฐฏเฑ Prompts เฐจเฑ Expose เฐเฑเฐธเฑ Component.
MCP Architecture Flow
AI APPLICATION
(HOST)
|
+-------+-------+
| |
v v
MCP CLIENT 1 MCP CLIENT 2
| |
v v
MCP SERVER 1 MCP SERVER 2
| |
v v
ORDER SYSTEM PAYMENT SYSTEM
MCP Host เฐ เฐจเฑเฐ MCP Clients เฐจเฑ Manage เฐเฑเฐฏเฐเฐฒเฐฆเฑ. เฐชเฑเฐฐเฐคเฐฟ Client เฐเฐ เฐจเฐฟเฐฐเฑเฐฆเฐฟเฐทเฑเฐ MCP Server เฐคเฑ Communicate เฐ เฐตเฑเฐคเฑเฐเฐฆเฐฟ.
๐งฐ 7.5 เฐฎเฑเฐเฑเฐฏเฐฎเฑเฐจ MCP Capabilities
1. ๐ง Tools
Tools เฐ เฐเฐเฑ Execute เฐเฑเฐฏเฐเฐฒเฐฟเฐเฑ Operations.
Examples:
- Order Status Check เฐเฑเฐฏเฐกเฐ.
- Return Request Create เฐเฑเฐฏเฐกเฐ.
- Refund Information Retrieve เฐเฑเฐฏเฐกเฐ.
2. ๐ Resources
AI Application Context เฐเฐพ Retrieve เฐเฑเฐฏเฐเฐฒเฐฟเฐเฑ Information เฐจเฑ Resources เฐฆเฑเฐตเฐพเฐฐเฐพ เฐ เฐเฐฆเฐฟเฐเฐเฐตเฐเฑเฐเฑ.
Examples:
- Product Documentation.
- Return Policy Documents.
- Database Schema Information.
3. ๐ Prompts
Model Interactions เฐจเฑ Structure เฐเฑเฐฏเฐกเฐพเฐจเฐฟเฐเฐฟ เฐเฐชเฐฏเฑเฐเฐฟเฐเฐเฑ Reusable Templates เฐจเฑ Prompts เฐ เฐเฐเฐพเฐฐเฑ.
Examples:
- Customer Support Response Template.
- Refund Verification Instructions.
- Product Troubleshooting Template.
MCP เฐ เฐจเฑเฐฆเฐฟ Company เฐฏเฑเฐเฑเฐ Order Management System, Database เฐฒเฑเฐฆเฐพ REST APIs เฐเฑ เฐชเฑเฐฐเฐคเฑเฐฏเฐพเฐฎเฑเฐจเฐพเฐฏเฐ เฐเฐพเฐฆเฑ. MCP Server เฐฆเฑเฐตเฐพเฐฐเฐพ เฐ Existing Systems เฐชเฑ เฐเฐงเฐพเฐฐเฐชเฐกเฐฟเฐจ Functionality เฐจเฑ Expose เฐเฑเฐฏเฐตเฐเฑเฐเฑ.
เฐฎเฐฐเฐฟเฐเฐค เฐธเฐฎเฐพเฐเฐพเฐฐเฐ เฐเฑเฐธเฐ เฐ เฐงเฐฟเฐเฐพเฐฐเฐฟเฐ MCP Architecture Documentation เฐจเฑ เฐเฑเฐกเฐเฐกเฐฟ.
๐ 7.6 REST API vs Function Calling vs MCP
| Technology | Main Purpose | Example |
|---|---|---|
| REST API | Applications เฐฎเฐงเฑเฐฏ Communication | Order Retrieve เฐเฑเฐฏเฐกเฐ |
| Function Calling | LLM-Powered Application เฐฆเฑเฐตเฐพเฐฐเฐพ Predefined Function Request เฐเฑเฐฏเฐกเฐ | check_order_status Call เฐเฑเฐฏเฐกเฐ |
| MCP | External Tools เฐฎเฐฐเฐฟเฐฏเฑ Context เฐเฑ Standardized Access | Order-Checking MCP Tool เฐจเฑ Discover เฐเฑเฐธเฐฟ Call เฐเฑเฐฏเฐกเฐ |
เฐ เฐฎเฑเฐกเฑ Technologies เฐตเฑเฐฐเฑเฐตเฑเฐฐเฑ เฐธเฐฎเฐธเฑเฐฏเฐฒเฐจเฑ เฐชเฐฐเฐฟเฐทเฑเฐเฐฐเฐฟเฐธเฑเฐคเฐพเฐฏเฐฟ. เฐ เฐตเฐธเฐฐเฐพเฐจเฑเฐจเฐฟ เฐฌเฐเฑเฐเฐฟ เฐตเฑเฐเฐฟเฐจเฐฟ เฐเฐฒเฐฟเฐชเฐฟ เฐเฐชเฐฏเฑเฐเฐฟเฐเฐเฐตเฐเฑเฐเฑ.
๐ก Example Combined Workflow
- Customer “Please check my order status” เฐ เฐจเฐฟ เฐ เฐกเฑเฐเฑเฐคเฐพเฐกเฑ.
- LLM-Powered Application เฐ เฐตเฐธเฐฐเฐฎเฑเฐจ Operation เฐจเฑ เฐเฑเฐฐเฑเฐคเฐฟเฐธเฑเฐคเฑเฐเฐฆเฐฟ.
- Application เฐธเฐฐเฑเฐจ Tool เฐจเฑ Select เฐเฑเฐธเฑเฐคเฑเฐเฐฆเฐฟ.
- MCP เฐเฐชเฐฏเฑเฐเฐฟเฐธเฑเฐคเฑ MCP Client เฐธเฐเฐฌเฐเฐงเฐฟเฐค MCP Server เฐคเฑ Communicate เฐ เฐตเฑเฐคเฑเฐเฐฆเฐฟ.
- MCP Server Configure เฐเฑเฐธเฐฟเฐจ Backend Functionality เฐจเฑ Invoke เฐเฑเฐธเฑเฐคเฑเฐเฐฆเฐฟ.
- Order Management System Order Information เฐจเฑ Return เฐเฑเฐธเฑเฐคเฑเฐเฐฆเฐฟ.
- Application Result เฐจเฑ Validate เฐเฑเฐธเฑเฐคเฑเฐเฐฆเฐฟ.
- LLM Customer เฐเฑ เฐ เฐฐเฑเฐฅเฐฎเฐฏเฑเฐฏเฑ Response เฐจเฑ Generate เฐเฑเฐธเฑเฐคเฑเฐเฐฆเฐฟ.
โ ๏ธ เฐฎเฑเฐเฑเฐฏเฐฎเฑเฐจ เฐตเฐฟเฐทเฐฏเฐ: MCP เฐเฐชเฐฏเฑเฐเฐฟเฐเฐเฐฟเฐจเฐเฐค เฐฎเฐพเฐคเฑเฐฐเฐพเฐจ Company Applications เฐเฑ เฐเฐเฑเฐฎเฑเฐเฐฟเฐเฑโเฐเฐพ Access เฐฒเฐญเฐฟเฐเฐเฐฆเฑ. เฐ เฐตเฐธเฐฐเฐฎเฑเฐจ MCP Servers, Tools, Permissions, Authentication เฐฎเฐฐเฐฟเฐฏเฑ Backend Integrations เฐจเฑ Implement เฐเฑเฐธเฐฟ Configure เฐเฑเฐฏเฐพเฐฒเฐฟ.
VLR Training Generative AI เฐจเฑเฐฐเฑเฐเฑเฐเฑเฐจเฑ เฐตเฐพเฐฐเฐฟเฐเฐฟ REST APIs, Function Calling เฐฎเฐฐเฐฟเฐฏเฑ MCP เฐเฐฒเฐฟเฐธเฐฟ เฐเฐฒเฐพ เฐชเฐจเฐฟเฐเฑเฐธเฑเฐคเฐพเฐฏเฑ เฐ เฐฐเฑเฐฅเฐ เฐเฑเฐธเฑเฐเฑเฐตเฐกเฐ Enterprise AI Agent Development เฐฒเฑ เฐเฐพเฐฒเฐพ เฐฎเฑเฐเฑเฐฏเฐ.
๐ป 8. Step 6 โ FastAPI Backend Development
FastAPI เฐ เฐจเฑเฐฆเฐฟ Python Framework. เฐฆเฑเฐจเฐฟ เฐธเฐนเฐพเฐฏเฐเฐคเฑ Backend APIs Develop เฐเฑเฐฏเฐตเฐเฑเฐเฑ.
เฐ Project เฐฒเฑ Customer Requests เฐจเฑ Receive เฐเฑเฐธเฐฟ, เฐ เฐตเฐธเฐฐเฐฎเฑเฐจ Processing เฐจเฑ Coordinate เฐเฑเฐฏเฐกเฐพเฐจเฐฟเฐเฐฟ FastAPI เฐเฐชเฐฏเฑเฐเฐฟเฐธเฑเฐคเฐพเฐ.
เฐเฐฆเฐพเฐนเฐฐเฐฃเฐเฑ, Frontend Application เฐเฐ Customer Question เฐจเฑ /chat Endpoint เฐเฑ Send เฐเฑเฐฏเฐตเฐเฑเฐเฑ.
๐ 8.1 Prerequisites
เฐ Implementation เฐชเฑเฐฐเฐพเฐฐเฐเฐญเฐฟเฐเฐเฐกเฐพเฐจเฐฟเฐเฐฟ เฐ เฐตเฐธเฐฐเฐฎเฑเฐจเฐตเฐฟ:
- Python Installed เฐเฐเฐกเฐพเฐฒเฐฟ.
- Basic Python Programming Knowledge เฐเฐเฐกเฐพเฐฒเฐฟ.
- REST APIs เฐเฑเฐฐเฐฟเฐเฐเฐฟ เฐ เฐตเฐเฐพเฐนเฐจ เฐเฐเฐกเฐพเฐฒเฐฟ.
- VS Code เฐตเฐเฐเฐฟ Code Editor เฐเฐเฐกเฐพเฐฒเฐฟ.
๐ฆ 8.2 Step 1: Required Packages Install เฐเฑเฐฏเฐกเฐ
python -m pip install fastapi uvicorn
๐ 8.3 Step 2: Python File Create เฐเฑเฐฏเฐกเฐ
main.py เฐ
เฐจเฑ เฐชเฑเฐฐเฑเฐคเฑ เฐเฐ Python File Create เฐเฑเฐฏเฐเฐกเฐฟ.
๐งโ๐ป 8.4 Step 3: FastAPI Application เฐฐเฐพเฐฏเฐกเฐ
from fastapi import FastAPI
from pydantic import BaseModel
app = FastAPI(
title="E-commerce Customer Support API"
)
class ChatRequest(BaseModel):
question: str
@app.post("/chat")
async def customer_chat(payload: ChatRequest):
return {
"question": payload.question,
"message": "Your request has been received."
}
๐ Code Explanation
FastAPI: Backend Application เฐจเฑ Create เฐเฑเฐธเฑเฐคเฑเฐเฐฆเฐฟ.
BaseModel: Pydantic เฐเฐชเฐฏเฑเฐเฐฟเฐเฐเฐฟ Expected Request Structure เฐจเฑ Define เฐเฑเฐธเฑเฐคเฑเฐเฐฆเฐฟ.
ChatRequest: Incoming JSON Request เฐฒเฑ question เฐ
เฐจเฑ Field เฐคเฐชเฑเฐชเฐจเฐฟเฐธเฐฐเฐฟเฐเฐพ เฐเฐเฐกเฐพเฐฒเฐจเฐฟ Specify เฐเฑเฐธเฑเฐคเฑเฐเฐฆเฐฟ.
@app.post(“/chat”): POST Endpoint เฐจเฑ Define เฐเฑเฐธเฑเฐคเฑเฐเฐฆเฐฟ.
customer_chat(): Request เฐจเฑ Receive เฐเฑเฐธเฐฟ JSON Response เฐจเฑ Return เฐเฑเฐธเฑเฐคเฑเฐเฐฆเฐฟ.
เฐเฐฆเฐฟ Basic Request-Receiving Endpoint เฐฎเฐพเฐคเฑเฐฐเฐฎเฑ. เฐเฐเฐฆเฑเฐฒเฑ เฐเฐเฐเฐพ LLM, RAG System เฐฒเฑเฐฆเฐพ Order Management API Connect เฐเฑเฐฏเฐฒเฑเฐฆเฑ.
โถ๏ธ 8.5 Step 4: Application Run เฐเฑเฐฏเฐกเฐ
uvicorn main:app --reload
Local Development Server Start เฐ เฐตเฑเฐคเฑเฐเฐฆเฐฟ. FastAPI Generate เฐเฑเฐธเฐฟเฐจ API Documentation Interface เฐฆเฑเฐตเฐพเฐฐเฐพ Endpoint เฐจเฑ Test เฐเฑเฐฏเฐตเฐเฑเฐเฑ.
๐ค 8.6 Step 5: Test Request เฐชเฐเฐชเฐฟเฐเฐเฐกเฐ
Endpoint:
POST /chat
Sample JSON Input:
{
"question": "Where is my order?"
}
Expected JSON Output:
{
"question": "Where is my order?",
"message": "Your request has been received."
}
๐ 8.7 Step 6: AI Components Connect เฐเฑเฐฏเฐกเฐ
Basic Endpoint เฐจเฑ Validate เฐเฑเฐธเฐฟเฐจ เฐคเฐฐเฑเฐตเฐพเฐค Development Team เฐ เฐเฑเฐฐเฐฟเฐเฐฆเฐฟ Components เฐจเฑ Integrate เฐเฑเฐฏเฐตเฐเฑเฐเฑ.
- Authentication เฐฎเฐฐเฐฟเฐฏเฑ Authorization.
- LLM APIs.
- RAG Retrieval.
- LangGraph Workflows.
- REST API Tools.
- MCP Clients.
- Logging เฐฎเฐฐเฐฟเฐฏเฑ Monitoring.
Request Body เฐฎเฐฐเฐฟเฐฏเฑ Pydantic Models เฐเฑเฐฐเฐฟเฐเฐเฐฟ เฐฎเฐฐเฐฟเฐเฐค เฐคเฑเฐฒเฑเฐธเฑเฐเฑเฐตเฐกเฐพเฐจเฐฟเฐเฐฟ เฐ เฐงเฐฟเฐเฐพเฐฐเฐฟเฐ FastAPI Request Body Documentation เฐจเฑ เฐเฑเฐกเฐตเฐเฑเฐเฑ.
๐งช 9. Step 7 โ Testing เฐฎเฐฐเฐฟเฐฏเฑ Evaluation
AI Application Develop เฐเฑเฐฏเฐกเฐ เฐฎเฐพเฐคเฑเฐฐเฐฎเฑ เฐธเฐฐเฐฟเฐชเฑเฐฆเฑ. เฐตเฐฟเฐตเฐฟเฐง Business Conditions เฐฒเฑ Application เฐธเฐฐเฐฟเฐเฑเฐเฐพ เฐชเฐจเฐฟเฐเฑเฐธเฑเฐคเฑเฐเฐฆเฑ เฐฒเฑเฐฆเฑ Test เฐเฑเฐฏเฐพเฐฒเฐฟ.
เฐ Process เฐจเฑ Testing and Evaluation เฐ เฐเฐเฐพเฐฐเฑ.
เฐเฐ Question เฐเฑ Application Correct Answer เฐเฐเฑเฐเฐฟเฐจเฐชเฑเฐชเฐเฐฟเฐเฑ, เฐฎเฐฐเฑ Question เฐเฑ Incorrect Answer เฐเฐตเฑเฐตเฐตเฐเฑเฐเฑ. เฐ เฐเฐฆเฑเฐตเฐฒเฑเฐฒ เฐ เฐจเฑเฐ Scenarios เฐคเฑ Testing เฐเฑเฐฏเฐพเฐฒเฐฟ.
๐ 9.1 Example Test Cases
| Test Case | Input | Expected Result |
|---|---|---|
| TC001 | Valid Order ID | Correct Order Details Retrieve เฐเฑเฐฏเฐพเฐฒเฐฟ |
| TC002 | Invalid Order ID | Appropriate Error เฐเฐตเฑเฐตเฐพเฐฒเฐฟ |
| TC003 | Return Policy Question | Company Policy เฐเฐงเฐพเฐฐเฐเฐเฐพ Answer เฐเฐตเฑเฐตเฐพเฐฒเฐฟ |
| TC004 | Unauthorized Customer | เฐเฐคเฐฐ Customer Data เฐเฑ Access เฐจเฐฟเฐฐเฑเฐงเฐฟเฐเฐเฐพเฐฒเฐฟ |
| TC005 | API Failure | Error เฐจเฑ เฐธเฑเฐฐเฐเฑเฐทเฐฟเฐคเฐเฐเฐพ Handle เฐเฑเฐฏเฐพเฐฒเฐฟ |
| TC006 | Uncertain AI Response | Human Support เฐเฑ Escalate เฐเฑเฐฏเฐพเฐฒเฐฟ |
| TC007 | Ineligible Product Return | Business Rules เฐชเฑเฐฐเฐเฐพเฐฐเฐ Request เฐจเฑ Reject เฐเฑเฐฏเฐพเฐฒเฐฟ |
| TC008 | Duplicate Return Request | เฐ เฐจเฐตเฐธเฐฐเฐฎเฑเฐจ Duplicate Request เฐจเฑ Prevent เฐเฑเฐฏเฐพเฐฒเฐฟ |
๐ฏ 9.2 เฐฎเฑเฐเฑเฐฏเฐฎเฑเฐจ Evaluation Metrics
โ 1. Response Accuracy
AI Application เฐเฐเฑเฐเฑ Information Correct เฐเฐพ เฐเฐเฐฆเฐพ เฐฒเฑเฐฆเฐพ เฐ เฐจเฑเฐฆเฐฟ Measure เฐเฑเฐฏเฐกเฐ.
Customer:
“What is my order status?”
Expected Answer:
“Your order has been shipped.”
Incorrect AI Answer:
“Your order has been delivered.”
เฐเฐเฑเฐเฐก AI เฐคเฐชเฑเฐชเฑ Order Information เฐเฐเฑเฐเฐฟเฐเฐฆเฐฟ. เฐเฐฆเฐฟ Accuracy เฐธเฐฎเฐธเฑเฐฏเฐเฑ Example.
โ ๏ธ 2. AI Hallucinations
AI Model เฐ เฐเฐฆเฑเฐฌเฐพเฐเฑเฐฒเฑ เฐเฐจเฑเฐจ Evidence เฐฆเฑเฐตเฐพเฐฐเฐพ Support เฐเฐพเฐจเฐฟ Information เฐจเฑ Generate เฐเฑเฐฏเฐกเฐพเฐจเฑเฐจเฐฟ AI Hallucination เฐ เฐเฐเฐพเฐฐเฑ.
Company Document:
“Refunds are processed according to applicable eligibility conditions.”
Incorrect AI Answer:
“All refunds are guaranteed within 24 hours.”
Company Document เฐฒเฑ 24 Hours Refund Guarantee เฐเฑเฐฐเฐฟเฐเฐเฐฟ เฐเฐฒเฐพเฐเฐเฐฟ Information เฐฒเฑเฐฆเฑ. เฐ เฐฏเฐฟเฐจเฐชเฑเฐชเฐเฐฟเฐเฑ AI เฐคเฐจเฐเฐคเฐ เฐคเฐพเฐจเฑ เฐ Information เฐจเฑ Generate เฐเฑเฐธเฐฟเฐเฐฆเฐฟ.
เฐ เฐธเฐฎเฐธเฑเฐฏเฐจเฑ เฐคเฐเฑเฐเฐฟเฐเฐเฐกเฐพเฐจเฐฟเฐเฐฟ:
- Document Retrieval เฐจเฑ Improve เฐเฑเฐฏเฐกเฐ.
- Prompts เฐจเฑ เฐฎเฑเฐฐเฑเฐเฑเฐชเฐฐเฐเฐกเฐ.
- Generated Responses เฐจเฑ Validate เฐเฑเฐฏเฐกเฐ.
- Reliable Data Sources เฐเฐชเฐฏเฑเฐเฐฟเฐเฐเฐกเฐ.
- Uncertain Cases เฐจเฑ Human Support เฐเฑ Escalate เฐเฑเฐฏเฐกเฐ.
โฑ๏ธ 3. Response Latency
เฐเฐ Request เฐจเฑ Process เฐเฑเฐธเฐฟ Response เฐเฐตเฑเฐตเฐกเฐพเฐจเฐฟเฐเฐฟ เฐชเฐเฑเฐเฑ เฐธเฐฎเฐฏเฐพเฐจเฑเฐจเฐฟ Latency เฐ เฐเฐเฐพเฐฐเฑ.
Example:
- Customer 10:00:00 เฐเฑ Question เฐชเฐเฐชเฐพเฐกเฑ.
- AI 10:00:04 เฐเฑ Response เฐเฐเฑเฐเฐฟเฐเฐฆเฐฟ.
- Approximate Response Latency: 4 Seconds.
Application Response Time เฐจเฑ Monitor เฐเฑเฐธเฐฟ Slow Processing Steps เฐจเฑ เฐเฑเฐฐเฑเฐคเฐฟเฐเฐเฐพเฐฒเฐฟ.
๐ช 4. Token Usage
LLMs Text เฐจเฑ Process เฐเฑเฐฏเฐกเฐพเฐจเฐฟเฐเฐฟ Tokens เฐจเฑ เฐเฐชเฐฏเฑเฐเฐฟเฐธเฑเฐคเฐพเฐฏเฐฟ.
เฐเฐ Token เฐ เฐจเฑเฐฆเฐฟ เฐชเฑเฐฐเฑเฐคเฐฟ Word, Word เฐฒเฑเฐจเฐฟ เฐเฑเฐเฐค เฐญเฐพเฐเฐ, Punctuation เฐฒเฑเฐฆเฐพ เฐเฐคเฐฐ Text Unit เฐเฐพเฐตเฐเฑเฐเฑ.
Token Consumption Examples:
- Customer Question: Input Tokens.
- Retrieved RAG Documents: Additional Input Tokens.
- System Instructions: Additional Input Tokens.
- AI Response: Output Tokens.
Token Usage เฐ เฐจเฑเฐฆเฐฟ เฐ เฐจเฑเฐ Model API Services เฐฏเฑเฐเฑเฐ Cost เฐชเฑ เฐชเฑเฐฐเฐคเฑเฐฏเฐเฑเฐท เฐชเฑเฐฐเฐญเฐพเฐตเฐ เฐเฑเฐชเฐฟเฐธเฑเฐคเฑเฐเฐฆเฐฟ.
๐ฐ 5. Application Cost
Application เฐจเฐฟเฐฐเฑเฐตเฐนเฐฃเฐเฑ เฐ เฐฏเฑเฐฏเฑ เฐเฐฐเฑเฐเฑเฐฒเฐจเฑ Company Monitor เฐเฑเฐฏเฐพเฐฒเฐฟ.
เฐเฐฆเฐพเฐนเฐฐเฐฃเฐเฑ:
- LLM API Requests.
- Embedding Generation.
- Vector Database Storage เฐฎเฐฐเฐฟเฐฏเฑ Search.
- Cloud Infrastructure.
- External API Services.
- Logging เฐฎเฐฐเฐฟเฐฏเฑ Monitoring.
๐ 6. Security
Application Customer Private Information เฐจเฑ Protect เฐเฑเฐฏเฐพเฐฒเฐฟ.
Example: Customer A, Customer B เฐฏเฑเฐเฑเฐ Order Details เฐจเฑ Retrieve เฐเฑเฐฏเฐเฑเฐกเฐฆเฑ.
Engineering Team Authentication, Authorization, Data Access Restrictions เฐฎเฐฐเฐฟเฐฏเฑ Audit Logging เฐจเฑ Test เฐเฑเฐฏเฐพเฐฒเฐฟ.
๐ 7. Retrieval Quality
RAG-Based Applications เฐฒเฑ เฐธเฐฐเฑเฐจ Document Chunks Retrieve เฐ เฐตเฑเฐคเฑเฐจเฑเฐจเฐพเฐฏเฐพ เฐฒเฑเฐฆเฐพ เฐ เฐจเฑเฐฆเฐฟ เฐเฑเฐกเฐพ Test เฐเฑเฐฏเฐพเฐฒเฐฟ.
เฐฎเฑเฐเฑเฐฏเฐฎเฑเฐจ Concepts:
- Retrieval Precision.
- Retrieval Recall.
- Retrieved Context Relevance.
- Source Attribution Accuracy.
เฐเฐ Response เฐเฐเฑเฐเฐเฐพ เฐฐเฐพเฐธเฐฟเฐจเฐชเฑเฐชเฐเฐฟเฐเฑ, เฐคเฐชเฑเฐชเฑ Policy Document Retrieve เฐ เฐฏเฐฟเฐคเฑ เฐ Response เฐเฑเฐกเฐพ เฐคเฐชเฑเฐชเฑเฐเฐพ เฐเฐเฐกเฐตเฐเฑเฐเฑ.
๐ 8. Task Success Rate
AI Agent เฐตเฐฟเฐทเฐฏเฐเฐฒเฑ Complete Business Task เฐตเฐฟเฐเฐฏเฐตเฐเฐคเฐเฐเฐพ เฐชเฑเฐฐเฑเฐคเฐฏเฐฟเฐเฐฆเฐพ เฐฒเฑเฐฆเฐพ เฐ เฐจเฑเฐฆเฐฟ Measure เฐเฑเฐฏเฐพเฐฒเฐฟ.
เฐเฐฆเฐพเฐนเฐฐเฐฃเฐเฑ, เฐเฐ Return Workflow เฐตเฐฟเฐเฐฏเฐตเฐเฐคเฐ เฐเฐพเฐตเฐพเฐฒเฐเฐเฑ:
- เฐธเฐฐเฑเฐจ Order Retrieve เฐเฑเฐฏเฐพเฐฒเฐฟ.
- Return Eligibility Verify เฐเฑเฐฏเฐพเฐฒเฐฟ.
- Authorized API เฐฆเฑเฐตเฐพเฐฐเฐพ Return Request Create เฐเฑเฐฏเฐพเฐฒเฐฟ.
- เฐจเฐฟเฐเฐฎเฑเฐจ Return ID เฐจเฑ Customer เฐเฑ เฐ เฐเฐฆเฐฟเฐเฐเฐพเฐฒเฐฟ.
“Your return has been created” เฐ เฐจเฐฟ Message Generate เฐเฑเฐฏเฐกเฐ เฐฎเฐพเฐคเฑเฐฐเฐฎเฑ Task Completion เฐเฐพเฐฆเฑ.
๐จโ๐ซ 9.3 Classroom Testing Exercise
เฐ เฐฎเฑเฐกเฑ Customer Questions เฐจเฑ เฐชเฐฐเฐฟเฐถเฑเฐฒเฐฟเฐเฐเฐเฐกเฐฟ.
- “Where is my order? My Order ID is ORD10025.”
- “Can I return a product that is not eligible for return?”
- “Please show me another customer’s order details.”
Application เฐจเฑเฐเฐกเฐฟ เฐเฐถเฐฟเฐเฐเฐพเฐฒเฑเฐธเฐฟเฐจ เฐชเฑเฐฐเฐตเฐฐเฑเฐคเฐจ:
| Customer Request | Correct System Behavior |
|---|---|
| Valid Order Query | Customer เฐจเฑ Authenticate เฐเฑเฐธเฐฟ เฐธเฐฐเฑเฐจ Order Status Retrieve เฐเฑเฐฏเฐพเฐฒเฐฟ |
| Ineligible Return | Company Rules เฐชเฑเฐฐเฐเฐพเฐฐเฐ Request เฐจเฑ Reject เฐเฑเฐฏเฐพเฐฒเฐฟ |
| Another Customer’s Order | Access Deny เฐเฑเฐธเฐฟ Private Information เฐจเฑ Protect เฐเฑเฐฏเฐพเฐฒเฐฟ |
โ๏ธ 10. Production Deployment
Development เฐฎเฐฐเฐฟเฐฏเฑ Testing เฐชเฑเฐฐเฑเฐคเฐฏเฐฟเฐจ เฐคเฐฐเฑเฐตเฐพเฐค Application เฐจเฑ Actual Customers เฐเฐชเฐฏเฑเฐเฐฟเฐเฐเฐกเฐพเฐจเฐฟเฐเฐฟ เฐ เฐเฐฆเฑเฐฌเฐพเฐเฑเฐฒเฑเฐเฐฟ เฐคเฑเฐธเฑเฐเฑเฐฐเฐพเฐตเฐพเฐฒเฐฟ.
เฐ Process เฐจเฑ Production Deployment เฐ เฐเฐเฐพเฐฐเฑ.
Development เฐธเฐฎเฐฏเฐเฐฒเฑ Application Developer เฐฏเฑเฐเฑเฐ Local Machine เฐฒเฑ เฐฎเฐพเฐคเฑเฐฐเฐฎเฑ Run เฐ เฐตเฑเฐคเฑ เฐเฐเฐกเฐตเฐเฑเฐเฑ. Production Deployment เฐฆเฑเฐตเฐพเฐฐเฐพ Approved Application เฐจเฑ Company Infrastructure เฐฒเฑ เฐ เฐเฐฆเฑเฐฌเฐพเฐเฑเฐฒเฑเฐเฐฟ เฐคเฑเฐธเฑเฐเฑเฐตเฐธเฑเฐคเฐพเฐฐเฑ.
๐งฐ 10.1 Deployment Technologies
เฐ Project เฐฒเฑ เฐ เฐเฑเฐฐเฐฟเฐเฐฆเฐฟ Technologies เฐเฐชเฐฏเฑเฐเฐฟเฐเฐเฐตเฐเฑเฐเฑ.
- ๐ Python
- โก FastAPI
- ๐ง LLM API
- ๐ค LangGraph
- ๐๏ธ Vector Database
- ๐ณ Docker
- โ๏ธ AWS, Microsoft Azure เฐฒเฑเฐฆเฐพ Google Cloud Platform
Company เฐฏเฑเฐเฑเฐ Existing Infrastructure, Security Policies เฐฎเฐฐเฐฟเฐฏเฑ Operational Requirements เฐเฐงเฐพเฐฐเฐเฐเฐพ Technologies เฐจเฑ Select เฐเฑเฐธเฑเฐคเฐพเฐฐเฑ.
๐ 10.2 Important Deployment Activities
๐ 1. Security Configuration
Customer เฐฎเฐฐเฐฟเฐฏเฑ Business Information เฐจเฑ Protect เฐเฑเฐฏเฐพเฐฒเฐฟ.
Authorized Users เฐฎเฐพเฐคเฑเฐฐเฐฎเฑ เฐคเฐฎ Account Information เฐจเฑ Access เฐเฑเฐฏเฐเฐฒเฐเฐพเฐฒเฐฟ.
๐ 2. Authentication
Authentication เฐ เฐจเฑเฐฆเฐฟ User Identity เฐจเฑ Verify เฐเฑเฐธเฑ Process.
Example:
Customer Private Order Information เฐจเฑ Access เฐเฑเฐฏเฐกเฐพเฐจเฐฟเฐเฐฟ เฐฎเฑเฐเฐฆเฑเฐเฐพ Approved Authentication Method เฐเฐชเฐฏเฑเฐเฐฟเฐเฐเฐฟ Login เฐ เฐตเฑเฐคเฐพเฐกเฑ.
๐ก๏ธ 3. Authorization
Authorization เฐ เฐจเฑเฐฆเฐฟ Authenticated User เฐ Operations เฐเฑเฐฏเฐกเฐพเฐจเฐฟเฐเฐฟ เฐ เฐจเฑเฐฎเฐคเฐฟ เฐเฐฒเฐฟเฐเฐฟ เฐเฐจเฑเฐจเฐพเฐกเฑ เฐจเฐฟเฐฐเฑเฐฃเฐฏเฐฟเฐเฐเฑ Process.
Example:
เฐเฐ Customer เฐคเฐจ Order Details เฐฎเฐพเฐคเฑเฐฐเฐฎเฑ View เฐเฑเฐฏเฐเฐฒเฐเฐพเฐฒเฐฟ. เฐฎเฐฐเฑเฐ Customer Orders เฐจเฑ Access เฐเฑเฐฏเฐกเฐพเฐจเฐฟเฐเฐฟ เฐฒเฑเฐฆเฐพ Administrative Refund Approve เฐเฑเฐฏเฐกเฐพเฐจเฐฟเฐเฐฟ เฐ เฐจเฑเฐฎเฐคเฐฟ เฐเฐเฐกเฐเฑเฐกเฐฆเฑ.
๐ 4. Logging
Application เฐฒเฑ เฐเฐฐเฐฟเฐเฑ เฐฎเฑเฐเฑเฐฏเฐฎเฑเฐจ Events เฐจเฑ Record เฐเฑเฐฏเฐกเฐพเฐจเฑเฐจเฐฟ Logging เฐ เฐเฐเฐพเฐฐเฑ.
Example:
10:00:01 - Customer Request Received
10:00:02 - Authentication Completed
10:00:03 - LLM Request Initiated
10:00:04 - Order API Called
10:00:05 - Order Details Retrieved
10:00:06 - Response Generated
Logs เฐเฐงเฐพเฐฐเฐเฐเฐพ Developers Application Problems เฐจเฑ Investigate เฐเฑเฐฏเฐเฐฒเฐฐเฑ.
Passwords, Payment Credentials เฐฎเฐฐเฐฟเฐฏเฑ เฐ เฐตเฐธเฐฐเฐ เฐฒเฑเฐจเฐฟ Personal Data เฐจเฑ Application Logs เฐฒเฑ Store เฐเฑเฐฏเฐเฑเฐกเฐฆเฑ.
๐ 5. Monitoring
Application Health เฐฎเฐฐเฐฟเฐฏเฑ Performance เฐจเฑ Observe เฐเฑเฐฏเฐกเฐพเฐจเฐฟเฐเฐฟ Monitoring เฐเฐชเฐฏเฑเฐเฐฟเฐธเฑเฐคเฐพเฐฐเฑ.
เฐฎเฑเฐเฑเฐฏเฐฎเฑเฐจ เฐชเฑเฐฐเฐถเฑเฐจเฐฒเฑ:
- Application เฐธเฐฐเฐฟเฐเฑเฐเฐพ เฐชเฐจเฐฟเฐเฑเฐธเฑเฐคเฑเฐเฐฆเฐพ?
- External APIs Responses เฐเฐธเฑเฐคเฑเฐจเฑเฐจเฐพเฐฏเฐพ?
- LLM Requests Fail เฐ เฐตเฑเฐคเฑเฐจเฑเฐจเฐพเฐฏเฐพ?
- Response Latency เฐชเฑเฐฐเฑเฐเฑเฐคเฑเฐเฐฆเฐพ?
- Token Consumption เฐชเฑเฐฐเฑเฐเฑเฐคเฑเฐเฐฆเฐพ?
- Cloud Infrastructure Costs เฐชเฑเฐฐเฑเฐเฑเฐคเฑเฐจเฑเฐจเฐพเฐฏเฐพ?
- Unauthorized Access Attempts เฐเฐฐเฑเฐเฑเฐคเฑเฐจเฑเฐจเฐพเฐฏเฐพ?
๐ 6. Application Scaling
Workload เฐเฐงเฐพเฐฐเฐเฐเฐพ Infrastructure Resources เฐจเฑ เฐชเฑเฐเฐเฐกเฐ เฐฒเฑเฐฆเฐพ เฐคเฐเฑเฐเฐฟเฐเฐเฐกเฐพเฐจเฑเฐจเฐฟ Scaling เฐ เฐเฐเฐพเฐฐเฑ.
Example:
เฐเฐ เฐชเฑเฐฆเฑเฐฆ Online Sale เฐธเฐฎเฐฏเฐเฐฒเฑ Customers เฐธเฐเฐเฑเฐฏ เฐเฐฃเฐจเฑเฐฏเฐเฐเฐพ เฐชเฑเฐฐเฐเฐตเฐเฑเฐเฑ.
เฐ เฐชเฑเฐชเฑเฐกเฑ Infrastructure เฐชเฑเฐฐเฐฟเฐเฐฟเฐจ Workload เฐจเฑ เฐคเฐเฐฟเฐจ Response Time เฐคเฑ Handle เฐเฑเฐฏเฐเฐฒเฐเฐพเฐฒเฐฟ.
๐ 7. Production API Integration
Deploy เฐเฑเฐธเฐฟเฐจ Application, Development เฐฒเฑเฐฆเฐพ Testing Endpoints เฐเฑ เฐฌเฐฆเฑเฐฒเฑเฐเฐพ Company Approved Production Services เฐคเฑ Connect เฐ เฐตเฑเฐตเฐพเฐฒเฐฟ.
Production Credentials เฐฎเฐฐเฐฟเฐฏเฑ Permissions เฐจเฑ Secure เฐเฐพ Configure เฐเฑเฐฏเฐพเฐฒเฐฟ.
โก 8. Performance Optimization
Application Performance เฐฎเฐฐเฐฟเฐฏเฑ Efficiency เฐจเฑ เฐฎเฑเฐฐเฑเฐเฑเฐชเฐฐเฐเฐกเฐพเฐจเฐฟเฐเฐฟ:
- Prompts Optimize เฐเฑเฐฏเฐพเฐฒเฐฟ.
- เฐ เฐตเฐธเฐฐเฐ เฐฒเฑเฐจเฐฟ LLM Calls เฐคเฐเฑเฐเฐฟเฐเฐเฐพเฐฒเฐฟ.
- Information Retrieval เฐจเฑ Improve เฐเฑเฐฏเฐพเฐฒเฐฟ.
- API Requests เฐจเฑ Optimize เฐเฑเฐฏเฐพเฐฒเฐฟ.
- Appropriate AI Models Select เฐเฑเฐฏเฐพเฐฒเฐฟ.
- Suitable Non-Sensitive Results เฐจเฑ Cache เฐเฑเฐฏเฐพเฐฒเฐฟ.
- เฐ เฐตเฐธเฐฐเฐฎเฑเฐจเฐเฑเฐ Asynchronous Processing เฐเฐชเฐฏเฑเฐเฐฟเฐเฐเฐพเฐฒเฐฟ.
- Expensive เฐฒเฑเฐฆเฐพ Slow Workflow Steps เฐจเฑ Monitor เฐเฑเฐฏเฐพเฐฒเฐฟ.
๐ 10.3 Deployment เฐคเฐฐเฑเฐตเฐพเฐค Documentation
Engineering Team Operational Teams เฐเฑ เฐ เฐเฑเฐฐเฐฟเฐเฐฆเฐฟ Documentation เฐ เฐเฐฆเฐฟเฐเฐเฐพเฐฒเฐฟ.
- Application Documentation.
- Architecture Details.
- API Integration Details.
- Troubleshooting Instructions.
- Monitoring Guidelines.
- Security and Access Procedures.
- Operational Guidance.
เฐ Documentation เฐตเฐฒเฑเฐฒ Deployment เฐคเฐฐเฑเฐตเฐพเฐค เฐเฑเฐกเฐพ Company Application เฐจเฑ เฐธเฐเฑเฐฐเฐฎเฐเฐเฐพ Maintain เฐเฑเฐฏเฐเฐฒเฐฆเฑ.
๐ 11. Complete Project Workflow โ Business Problem เฐจเฑเฐเฐกเฐฟ AI Solution เฐตเฐฐเฐเฑ
เฐ E-commerce Customer Support AI Agent Project เฐจเฑ เฐเฑเฐฐเฐฟเฐเฐฆเฐฟ เฐชเฑเฐฐเฐงเฐพเฐจ เฐฆเฐถเฐฒเฑเฐเฐพ เฐตเฐฟเฐญเฐเฐฟเฐเฐเฐตเฐเฑเฐเฑ.
| Step | Activity | Technologies and Skills |
|---|---|---|
| 1 | Business Requirement Analysis | Business Analysis |
| 2 | AI Architecture Design | Python, LLMs, RAG, FastAPI |
| 3 | RAG Implementation | Embeddings, Vector Database |
| 4 | AI Agent Development | LangGraph, Tool Calling |
| 5 | External Application Integration | REST APIs, MCP |
| 6 | Testing and Evaluation | AI Evaluation, Security Testing |
| 7 | Production Deployment | AWS / Azure / GCP, Docker, Monitoring |
๐ 11.1 Complete Customer Interaction
เฐเฐ Customer เฐ เฐตเฐฟเฐงเฐเฐเฐพ Request เฐเฐเฑเฐเฐพเฐกเฐจเฐฟ เฐ เฐจเฑเฐเฑเฐเฐฆเฐพเฐ.
“I want to return my recently purchased headphones.”
เฐ Request เฐจเฑ System เฐ เฐจเฑเฐ Components เฐฆเฑเฐตเฐพเฐฐเฐพ Process เฐเฑเฐธเฑเฐคเฑเฐเฐฆเฐฟ.
1. ๐ค Customer Interface
Customer Website เฐฒเฑเฐฆเฐพ Mobile Application เฐฆเฑเฐตเฐพเฐฐเฐพ Request เฐชเฐเฐชเฐฟเฐธเฑเฐคเฐพเฐกเฑ.
2. โก FastAPI Backend
Backend Request เฐจเฑ Receive เฐเฑเฐธเฐฟ Authenticated Session เฐจเฑ Verify เฐเฑเฐธเฑเฐคเฑเฐเฐฆเฐฟ.
3. ๐ง LLM
LLM-Powered Application Customer Intent เฐจเฑ Product Return Request เฐเฐพ เฐเฑเฐฐเฑเฐคเฐฟเฐธเฑเฐคเฑเฐเฐฆเฐฟ.
4. ๐ RAG
RAG System Headphones เฐเฑ เฐธเฐเฐฌเฐเฐงเฐฟเฐเฐเฐฟเฐจ Return Policy เฐจเฑ Retrieve เฐเฑเฐธเฑเฐคเฑเฐเฐฆเฐฟ.
5. ๐ค LangGraph Agent
Workflow เฐ เฐตเฐธเฐฐเฐฎเฑเฐจ Steps เฐจเฑ Coordinate เฐเฑเฐธเฐฟ เฐ Authorized Tools เฐเฐชเฐฏเฑเฐเฐฟเฐเฐเฐพเฐฒเฑ เฐจเฐฟเฐฐเฑเฐฃเฐฏเฐฟเฐธเฑเฐคเฑเฐเฐฆเฐฟ.
6. ๐ REST API / MCP Integration
Application Order Information เฐจเฑ Retrieve เฐเฑเฐธเฐฟ เฐ เฐตเฐธเฐฐเฐฎเฑเฐจ Business Conditions เฐจเฑ Check เฐเฑเฐธเฑเฐคเฑเฐเฐฆเฐฟ.
7. โ Business Rule Validation
Backend Order เฐฎเฐฐเฐฟเฐฏเฑ Product Return Conditions เฐจเฑ Satisfy เฐเฑเฐธเฑเฐคเฑเฐจเฑเฐจเฐพเฐฏเฐพ เฐฒเฑเฐฆเฐพ Verify เฐเฑเฐธเฑเฐคเฑเฐเฐฆเฐฟ.
8. ๐จโ๐ผ Human Approval
Company Policy เฐชเฑเฐฐเฐเฐพเฐฐเฐ Approval เฐ เฐตเฐธเฐฐเฐฎเฑเฐคเฑ, Authorized Person Approve เฐเฑเฐธเฑ เฐตเฐฐเฐเฑ Workflow Pause เฐ เฐตเฑเฐคเฑเฐเฐฆเฐฟ.
9. ๐ฆ Return Management API
เฐ เฐจเฑเฐจเฐฟ Required Checks เฐฎเฐฐเฐฟเฐฏเฑ Approvals เฐชเฑเฐฐเฑเฐคเฐฏเฐฟเฐจ เฐคเฐฐเฑเฐตเฐพเฐค Application Return Request เฐจเฑ Create เฐเฑเฐธเฑเฐคเฑเฐเฐฆเฐฟ.
10. ๐ Final Response
Customer เฐเฑ Actual Result เฐ เฐเฐฆเฑเฐคเฑเฐเฐฆเฐฟ.
Example:
“Your return request has been created successfully. Your Return ID is RET5001.”
เฐ Example เฐฆเฑเฐตเฐพเฐฐเฐพ เฐ เฐจเฑเฐ Generative AI Components เฐเฐฒเฐฟเฐธเฐฟ เฐเฐ Real-World Business Problem เฐจเฑ เฐเฐฒเฐพ Solve เฐเฑเฐธเฑเฐคเฐพเฐฏเฑ เฐ เฐฐเฑเฐฅเฐ เฐเฑเฐธเฑเฐเฑเฐตเฐเฑเฐเฑ.
๐ญ 12. Real-Time Industry Use Cases
เฐ E-commerce Project เฐฒเฑ เฐเฐชเฐฏเฑเฐเฐฟเฐเฐเฐฟเฐจ Concepts เฐจเฑ เฐเฐคเฐฐ Industries เฐฒเฑ เฐเฑเฐกเฐพ Implement เฐเฑเฐฏเฐตเฐเฑเฐเฑ.
| Industry | AI Application | Example |
|---|---|---|
| ๐ E-commerce | Customer Support AI Agent | Orders Track เฐเฑเฐฏเฐกเฐ เฐฎเฐฐเฐฟเฐฏเฑ Eligible Returns Initiate เฐเฑเฐฏเฐกเฐ |
| ๐ฆ Banking | Banking Support Assistant | Authorized Systems เฐฆเฑเฐตเฐพเฐฐเฐพ Account Information Retrieve เฐเฑเฐฏเฐกเฐ เฐฎเฐฐเฐฟเฐฏเฑ Transaction Status Check เฐเฑเฐฏเฐกเฐ |
| ๐ฅ Healthcare | Hospital Assistance Agent | Appointments เฐฎเฐฐเฐฟเฐฏเฑ Hospital Information เฐเฑเฐฐเฐฟเฐเฐเฐฟ เฐธเฐนเฐพเฐฏเฐ เฐเฑเฐฏเฐกเฐ |
| ๐ก๏ธ Insurance | Insurance Support Assistant | Policy Information Retrieve เฐเฑเฐธเฐฟ Claim Procedures เฐตเฐฟเฐตเฐฐเฐฟเฐเฐเฐกเฐ |
| โ๏ธ Travel | Travel Support Agent | Booking เฐฎเฐฐเฐฟเฐฏเฑ Cancellation Information Retrieve เฐเฑเฐฏเฐกเฐ |
| ๐ฑ Telecommunications | Customer Support Agent | Service Requests เฐฎเฐฐเฐฟเฐฏเฑ Troubleshooting Instructions Check เฐเฑเฐฏเฐกเฐ |
| ๐ Education | Student Assistance Agent | Course Information Retrieve เฐเฑเฐธเฐฟ Administrative Questions เฐเฑ เฐธเฐฎเฐพเฐงเฐพเฐจเฐพเฐฒเฑ เฐเฐตเฑเฐตเฐกเฐ |
เฐชเฑเฐฐเฐคเฐฟ Industry เฐฒเฑ Application, Organization Approved Knowledge Sources, Business Rules, Security Controls เฐฎเฐฐเฐฟเฐฏเฑ Integration Mechanisms เฐเฐชเฐฏเฑเฐเฐฟเฐเฐเฐพเฐฒเฐฟ.
โ 13. Advantages and Business Benefits
E-commerce Customer Support AI Agent เฐฆเฑเฐตเฐพเฐฐเฐพ เฐ เฐจเฑเฐ Business Benefits เฐชเฑเฐเฐฆเฐตเฐเฑเฐเฑ.
โก 13.1 Faster Customer Responses
Employees Manual เฐเฐพ Information Retrieve เฐเฑเฐธเฑ เฐตเฐฐเฐเฑ เฐตเฑเฐเฐฟ เฐเฐเฐกเฐเฑเฐเฐกเฐพ Customers เฐคเฐฎ Routine Questions เฐเฑ Responses เฐชเฑเฐเฐฆเฐตเฐเฑเฐเฑ.
๐ 13.2 Reduced Repetitive Work
Order Status Queries, Policy Questions เฐฎเฐฐเฐฟเฐฏเฑ เฐเฐคเฐฐ Repetitive Tasks เฐจเฑ Automate เฐเฑเฐฏเฐตเฐเฑเฐเฑ.
๐ 13.3 Improved Operational Efficiency
Employees Human Judgment เฐ เฐตเฐธเฐฐเฐฎเฐฏเฑเฐฏเฑ Complex Customer Problems เฐชเฑ เฐเฐเฑเฐเฑเฐต เฐธเฐฎเฐฏเฐ เฐเฑเฐเฐพเฐฏเฐฟเฐเฐเฐตเฐเฑเฐเฑ.
๐ 13.4 Consistent Policy Information
RAG เฐฆเฑเฐตเฐพเฐฐเฐพ Model เฐฏเฑเฐเฑเฐ Internal Knowledge เฐชเฑ เฐฎเฐพเฐคเฑเฐฐเฐฎเฑ เฐเฐงเฐพเฐฐเฐชเฐกเฐเฑเฐเฐกเฐพ Approved Company Policy Information เฐจเฑ Retrieve เฐเฑเฐฏเฐตเฐเฑเฐเฑ.
๐ 13.5 Business Application Integration
REST APIs เฐฎเฐฐเฐฟเฐฏเฑ MCP Integrations เฐฆเฑเฐตเฐพเฐฐเฐพ Existing Enterprise Systems เฐคเฑ AI Application เฐจเฑ Connect เฐเฑเฐฏเฐตเฐเฑเฐเฑ.
๐ 13.6 Scalable Customer Support
Cloud Infrastructure เฐฎเฐฐเฐฟเฐฏเฑ Appropriate Application Scaling เฐฆเฑเฐตเฐพเฐฐเฐพ เฐชเฑเฐฐเฑเฐเฑเฐคเฑเฐจเฑเฐจ Customer Workloads เฐจเฑ Support เฐเฑเฐฏเฐตเฐเฑเฐเฑ.
๐ 13.7 Better Operational Visibility
Logging, Monitoring เฐฎเฐฐเฐฟเฐฏเฑ Evaluation เฐฆเฑเฐตเฐพเฐฐเฐพ Organizations Failures, Slow Responses เฐฎเฐฐเฐฟเฐฏเฑ Application Costs เฐจเฑ เฐเฑเฐฐเฑเฐคเฐฟเฐเฐเฐตเฐเฑเฐเฑ.
โ ๏ธ 14. Limitations and Implementation Challenges
AI Agents เฐเฐชเฐฏเฑเฐเฐเฐฐเฐฎเฑเฐจ Capabilities เฐ เฐเฐฆเฐฟเฐเฐเฐฟเฐจเฐชเฑเฐชเฐเฐฟเฐเฑ, Enterprise Implementations เฐฒเฑ เฐเฑเฐจเฑเฐจเฐฟ Challenges เฐเฐเฐเฐพเฐฏเฐฟ.
| Challenge | Description | Possible Solution |
|---|---|---|
| โ ๏ธ Hallucinations | AI Unsupported Information Generate เฐเฑเฐฏเฐกเฐ | Retrieval เฐฎเฐฐเฐฟเฐฏเฑ Validation Improve เฐเฑเฐฏเฐกเฐ |
| ๐ Poor Retrieval | RAG Irrelevant Documents Retrieve เฐเฑเฐฏเฐกเฐ | Chunking, Embeddings เฐฎเฐฐเฐฟเฐฏเฑ Search Improve เฐเฑเฐฏเฐกเฐ |
| ๐ Security Risks | Unauthorized Access | Strong Authentication เฐฎเฐฐเฐฟเฐฏเฑ Authorization |
| ๐ API Failures | External Systems เฐ เฐเฐฆเฑเฐฌเฐพเฐเฑเฐฒเฑ เฐฒเฑเฐเฐชเฑเฐตเฐกเฐ | Error Handling, Retries เฐฎเฐฐเฐฟเฐฏเฑ Fallbacks |
| ๐ฐ High Costs | Model เฐฎเฐฐเฐฟเฐฏเฑ Infrastructure Usage เฐเฐเฑเฐเฑเฐต เฐเฐพเฐตเฐกเฐ | Prompts, Model Selection เฐฎเฐฐเฐฟเฐฏเฑ Retrieval Optimize เฐเฑเฐฏเฐกเฐ |
| โฑ๏ธ High Latency | Multiple Components เฐตเฐฒเฑเฐฒ Response Delay | Workflow เฐฎเฐฐเฐฟเฐฏเฑ API Calls Optimize เฐเฑเฐฏเฐกเฐ |
| ๐ ๏ธ Incorrect Tool Selection | AI เฐคเฐชเฑเฐชเฑ Tool เฐจเฑ Request เฐเฑเฐฏเฐกเฐ | Tool Validation เฐฎเฐฐเฐฟเฐฏเฑ Controlled Workflows |
| ๐ Duplicate Actions | Repeated Requests เฐตเฐฒเฑเฐฒ Duplicate Operations | Idempotency เฐฎเฐฐเฐฟเฐฏเฑ Backend Checks |
| ๐ Policy Changes | เฐชเฐพเฐค Documents Knowledge Base เฐฒเฑ เฐเฐเฐกเฐฟเฐชเฑเฐตเฐกเฐ | Document Versioning เฐฎเฐฐเฐฟเฐฏเฑ Index Refresh |
| ๐งฉ Complex Requests | AI เฐชเฑเฐฐเฐคเฐฟ เฐธเฐฎเฐธเฑเฐฏเฐจเฑ เฐจเฐฎเฑเฐฎเฐเฐเฐเฐพ เฐชเฐฐเฐฟเฐทเฑเฐเฐฐเฐฟเฐเฐเฐฒเฑเฐเฐชเฑเฐตเฐกเฐ | Human Support เฐเฑ Escalate เฐเฑเฐฏเฐกเฐ |
๐ก๏ธ 14.1 Security Best Practices
Customer Support Applications เฐฒเฑ Sensitive Information เฐฎเฐฐเฐฟเฐฏเฑ Business Operations Handle เฐเฑเฐธเฑเฐคเฐพเฐฐเฑ. เฐ เฐเฐฆเฑเฐตเฐฒเฑเฐฒ Security เฐจเฑ Application เฐฎเฐฐเฐฟเฐฏเฑ Infrastructure Levels เฐฒเฑ เฐ เฐฎเฐฒเฑ เฐเฑเฐฏเฐพเฐฒเฐฟ.
เฐฎเฑเฐเฑเฐฏเฐฎเฑเฐจ Security Practices:
- Private Records Retrieve เฐเฑเฐฏเฐกเฐพเฐจเฐฟเฐเฐฟ เฐฎเฑเฐเฐฆเฑ Customers เฐจเฑ Authenticate เฐเฑเฐฏเฐพเฐฒเฐฟ.
- เฐชเฑเฐฐเฐคเฐฟ Order-Related Request เฐฒเฑ Ownership Checks เฐ เฐฎเฐฒเฑ เฐเฑเฐฏเฐพเฐฒเฐฟ.
- API เฐฎเฐฐเฐฟเฐฏเฑ MCP Tools เฐเฑ Least-Privilege Permissions เฐเฐตเฑเฐตเฐพเฐฒเฐฟ.
- Tool Arguments เฐจเฑ Execute เฐเฑเฐฏเฐกเฐพเฐจเฐฟเฐเฐฟ เฐฎเฑเฐเฐฆเฑ Validate เฐเฑเฐฏเฐพเฐฒเฐฟ.
- API Credentials เฐจเฑ Secure Secret Management เฐฆเฑเฐตเฐพเฐฐเฐพ Protect เฐเฑเฐฏเฐพเฐฒเฐฟ.
- Network Communication เฐจเฑ Encrypt เฐเฑเฐฏเฐพเฐฒเฐฟ.
- Sensitive Operations เฐเฑเฐธเฐ Audit Logs Maintain เฐเฑเฐฏเฐพเฐฒเฐฟ.
- Payment เฐฎเฐฐเฐฟเฐฏเฑ Refund Functionality เฐเฑ Access เฐจเฑ Restrict เฐเฑเฐฏเฐพเฐฒเฐฟ.
- Retrieved Documents เฐฎเฐฐเฐฟเฐฏเฑ Customer Messages เฐฒเฑ Prompt Injection Risks เฐจเฑ เฐเฑเฐฐเฑเฐคเฐฟเฐเฐเฐพเฐฒเฐฟ.
- เฐ เฐตเฐธเฐฐเฐฎเฑเฐจเฐชเฑเฐชเฑเฐกเฑ High-Impact Operations เฐเฑ Human Approval เฐคเฐชเฑเฐชเฐจเฐฟเฐธเฐฐเฐฟ เฐเฑเฐฏเฐพเฐฒเฐฟ.
โ ๏ธ เฐฎเฑเฐเฑเฐฏเฐฎเฑเฐจ เฐตเฐฟเฐทเฐฏเฐ: “Never reveal another customer’s information” เฐตเฐเฐเฐฟ Prompt Instruction เฐฎเฐพเฐคเฑเฐฐเฐฎเฑ Security เฐเฑ เฐธเฐฐเฐฟเฐชเฑเฐฆเฑ. LLM เฐเฑ เฐธเฑเฐตเฐคเฐเฐคเฑเฐฐเฐเฐเฐพ Backend Authorization Controls เฐ เฐฎเฐฒเฑ เฐเฑเฐฏเฐพเฐฒเฐฟ.
๐ 15. Technical Clarifications
เฐ เฐเฑเฐฐเฐฟเฐเฐฆเฐฟ เฐตเฐฟเฐทเฐฏเฐพเฐฒเฑ Conceptual Project Demonstrations เฐฎเฐฐเฐฟเฐฏเฑ Production Engineering Implementations เฐฎเฐงเฑเฐฏ เฐเฐจเฑเฐจ เฐคเฑเฐกเฐพเฐฒเฐจเฑ เฐ เฐฐเฑเฐฅเฐ เฐเฑเฐธเฑเฐเฑเฐตเฐกเฐพเฐจเฐฟเฐเฐฟ เฐธเฐนเฐพเฐฏเฐชเฐกเฐคเฐพเฐฏเฐฟ.
๐ง 15.1 LLM เฐเฑ Business Data เฐเฐเฑเฐฎเฑเฐเฐฟเฐเฑโเฐเฐพ เฐ เฐเฐฆเฑเฐฌเฐพเฐเฑเฐฒเฑ เฐเฐเฐกเฐฆเฑ
“Where is my order?” เฐ เฐจเฑ เฐชเฑเฐฐเฐถเฑเฐจเฐจเฑ LLM เฐ เฐฐเฑเฐฅเฐ เฐเฑเฐธเฑเฐเฑเฐเฐฒเฐฆเฑ. เฐเฐพเฐจเฑ Authorized Integration เฐฒเฑเฐเฑเฐเฐกเฐพ Company เฐฏเฑเฐเฑเฐ Private Order Information เฐจเฑ Retrieve เฐเฑเฐฏเฐฒเฑเฐฆเฑ.
เฐฆเฑเฐจเฐฟเฐเฐฟ เฐธเฐเฐฌเฐเฐงเฐฟเฐค Business System เฐคเฑ Application เฐจเฑ Connect เฐเฑเฐฏเฐพเฐฒเฐฟ.
๐ 15.2 RAG Transactional Operations เฐจเฐฟเฐฐเฑเฐตเฐนเฐฟเฐเฐเฐฆเฑ
RAG เฐ เฐจเฑเฐฆเฐฟ Knowledge Source เฐจเฑเฐเฐกเฐฟ Information Retrieve เฐเฑเฐธเฑ Technique.
เฐเฐฆเฐฟ เฐธเฑเฐตเฐฏเฐเฐเฐพ Return Request Create เฐเฑเฐฏเฐฆเฑ, Refund Issue เฐเฑเฐฏเฐฆเฑ เฐฒเฑเฐฆเฐพ Order เฐจเฑ Modify เฐเฑเฐฏเฐฆเฑ.
เฐ Operations เฐเฑเฐธเฐ Authorized Application Tools เฐฒเฑเฐฆเฐพ Backend APIs เฐ เฐตเฐธเฐฐเฐ.
๐๏ธ 15.3 Vector Database เฐฎเฐฐเฐฟเฐฏเฑ Traditional Database เฐเฐเฐเฐฟ เฐเฐพเฐตเฑ
Traditional Relational Database เฐธเฐพเฐงเฐพเฐฐเฐฃเฐเฐเฐพ Structured Records Store เฐเฑเฐฏเฐกเฐพเฐจเฐฟเฐเฐฟ, Filtering, Joins เฐฎเฐฐเฐฟเฐฏเฑ Transactions เฐตเฐเฐเฐฟ Operations เฐจเฐฟเฐฐเฑเฐตเฐนเฐฟเฐเฐเฐกเฐพเฐจเฐฟเฐเฐฟ เฐเฐชเฐฏเฑเฐเฐชเฐกเฑเฐคเฑเฐเฐฆเฐฟ.
Vector Database เฐฒเฑเฐฆเฐพ Vector Search Index Numerical Vectors เฐจเฑ Store เฐเฑเฐธเฐฟ Similarity เฐเฐงเฐพเฐฐเฐเฐเฐพ Information Retrieve เฐเฑเฐฏเฐกเฐพเฐจเฐฟเฐเฐฟ เฐเฐชเฐฏเฑเฐเฐชเฐกเฑเฐคเฑเฐเฐฆเฐฟ.
Enterprise Application เฐฒเฑ เฐ เฐฐเฑเฐเฐกเฑ Database Types เฐจเฑ เฐเฐฒเฐฟเฐชเฐฟ เฐเฐชเฐฏเฑเฐเฐฟเฐเฐเฐตเฐเฑเฐเฑ.
๐ 15.4 LangGraph เฐเฐ Orchestration Framework
LangGraph เฐฆเฑเฐตเฐพเฐฐเฐพ State, Nodes เฐฎเฐฐเฐฟเฐฏเฑ Edges เฐเฐชเฐฏเฑเฐเฐฟเฐเฐเฐฟ Stateful Multi-Step Workflows เฐจเฑ Organize เฐเฑเฐฏเฐตเฐเฑเฐเฑ.
เฐเฐฆเฐฟ เฐธเฑเฐตเฐฏเฐเฐเฐพ Company Business Data เฐจเฑ เฐ เฐเฐฆเฐฟเฐเฐเฐฆเฑ เฐฒเฑเฐฆเฐพ External Applications เฐธเฑเฐฅเฐพเฐจเฐเฐฒเฑ เฐชเฐจเฐฟเฐเฑเฐฏเฐฆเฑ.
๐ 15.5 MCP เฐเฐชเฐฏเฑเฐเฐฟเฐเฐเฐฟเฐจเฐเฐค เฐฎเฐพเฐคเฑเฐฐเฐพเฐจ เฐ เฐจเฑเฐจเฐฟ Applications Connect เฐเฐพเฐตเฑ
MCP Integration เฐเฑเฐธเฐ Configured Host, Client, Server เฐฎเฐฐเฐฟเฐฏเฑ Supported Backend Functionality เฐ เฐตเฐธเฐฐเฐ.
Permissions เฐฎเฐฐเฐฟเฐฏเฑ Security Rules เฐจเฑ เฐเฑเฐกเฐพ Implement เฐเฑเฐฏเฐพเฐฒเฐฟ.
๐ ๏ธ 15.6 Function Calling เฐ เฐเฐเฑ Model เฐธเฑเฐตเฐฏเฐเฐเฐพ Code Execute เฐเฑเฐฏเฐกเฐ เฐเฐพเฐฆเฑ
Model เฐเฐ Predefined Tool เฐจเฑ Execute เฐเฑเฐฏเฐฎเฐจเฐฟ Request เฐเฑเฐฏเฐเฐฒเฐฆเฑ. เฐเฐพเฐจเฑ Application เฐ Request เฐจเฑ Validate เฐเฑเฐธเฐฟ Actual Function Execution เฐจเฑ Control เฐเฑเฐธเฑเฐคเฑเฐเฐฆเฐฟ.
๐ป 15.7 FastAPI Request Body เฐจเฑ เฐธเฐฐเฐฟเฐเฑเฐเฐพ Define เฐเฑเฐฏเฐพเฐฒเฐฟ
JSON Data Receive เฐเฑเฐธเฑ POST Endpoint เฐเฑเฐธเฐ Pydantic Model เฐเฐชเฐฏเฑเฐเฐฟเฐเฐเฐกเฐ เฐธเฐฐเฑเฐจ เฐตเฐฟเฐงเฐพเฐจเฐ.
question: str เฐตเฐเฐเฐฟ Simple Function Parameter เฐธเฐพเฐงเฐพเฐฐเฐฃเฐเฐเฐพ Query Parameter เฐเฐพ Interpret เฐ
เฐตเฑเฐคเฑเฐเฐฆเฐฟ. JSON Request Body เฐเฐพ เฐเฐชเฐฏเฑเฐเฐฟเฐเฐเฐพเฐฒเฐเฐเฑ Request Model Define เฐเฑเฐฏเฐพเฐฒเฐฟ.
เฐ
เฐเฐฆเฑเฐเฑ เฐ Article เฐฒเฑ FastAPI Example เฐเฑเฐธเฐ BaseModel เฐเฐชเฐฏเฑเฐเฐฟเฐเฐเฐฟ ChatRequest เฐจเฑ Define เฐเฑเฐถเฐพเฐ.
๐จโ๐ผ 15.8 Sensitive Business Transactions เฐจเฑ AI เฐธเฑเฐตเฐฏเฐเฐเฐพ Approve เฐเฑเฐฏเฐเฑเฐกเฐฆเฑ
LLM Customer Request เฐจเฑ เฐ เฐฐเฑเฐฅเฐ เฐเฑเฐธเฑเฐเฑเฐจเฐฟ Workflow เฐจเฑ Coordinate เฐเฑเฐฏเฐตเฐเฑเฐเฑ. เฐเฐพเฐจเฑ Transaction Execute เฐเฑเฐฏเฐกเฐพเฐจเฐฟเฐเฐฟ เฐฎเฑเฐเฐฆเฑ Trusted Backend Logic เฐฆเฑเฐตเฐพเฐฐเฐพ Eligibility, Permissions, Financial Conditions เฐฎเฐฐเฐฟเฐฏเฑ Approval Requirements เฐจเฑ Verify เฐเฑเฐฏเฐพเฐฒเฐฟ.
๐ 16. GenAI Forward Deployed Engineer เฐเฑ เฐ เฐตเฐธเฐฐเฐฎเฑเฐจ Skills
เฐ Project เฐฆเฑเฐตเฐพเฐฐเฐพ Enterprise Generative AI Applications Develop เฐเฑเฐฏเฐกเฐพเฐจเฐฟเฐเฐฟ เฐ เฐตเฐธเฐฐเฐฎเฑเฐจ เฐ เฐจเฑเฐ Skills เฐเฑเฐฐเฐฟเฐเฐเฐฟ เฐคเฑเฐฒเฑเฐธเฑเฐเฑเฐตเฐเฑเฐเฑ.
| Skill | Why It Is Required |
|---|---|
| ๐ Python Programming | Application Logic เฐฎเฐฐเฐฟเฐฏเฑ Integrations Develop เฐเฑเฐฏเฐกเฐพเฐจเฐฟเฐเฐฟ |
| ๐ REST APIs | Enterprise Applications Connect เฐเฑเฐฏเฐกเฐพเฐจเฐฟเฐเฐฟ |
| ๐ง LLM Fundamentals | Model Inputs, Outputs เฐฎเฐฐเฐฟเฐฏเฑ Capabilities เฐ เฐฐเฑเฐฅเฐ เฐเฑเฐธเฑเฐเฑเฐตเฐกเฐพเฐจเฐฟเฐเฐฟ |
| โ๏ธ Prompt Engineering | Clear Model Instructions Design เฐเฑเฐฏเฐกเฐพเฐจเฐฟเฐเฐฟ |
| ๐ RAG | AI Applications เฐจเฑ Company Knowledge เฐคเฑ Connect เฐเฑเฐฏเฐกเฐพเฐจเฐฟเฐเฐฟ |
| ๐ข Embeddings | Semantic Search เฐเฑเฐธเฐ Text เฐจเฑ Represent เฐเฑเฐฏเฐกเฐพเฐจเฐฟเฐเฐฟ |
| ๐๏ธ Vector Databases | Vector Representations Store เฐฎเฐฐเฐฟเฐฏเฑ Retrieve เฐเฑเฐฏเฐกเฐพเฐจเฐฟเฐเฐฟ |
| ๐ค AI Agents | Tools เฐเฐชเฐฏเฑเฐเฐฟเฐเฐเฐฟ Tasks Perform เฐเฑเฐธเฑ Systems Develop เฐเฑเฐฏเฐกเฐพเฐจเฐฟเฐเฐฟ |
| ๐ LangGraph | Multi-Step Stateful Workflows Orchestrate เฐเฑเฐฏเฐกเฐพเฐจเฐฟเฐเฐฟ |
| ๐ MCP | External Tools เฐฎเฐฐเฐฟเฐฏเฑ Data Sources Integration เฐเฑเฐฏเฐกเฐพเฐจเฐฟเฐเฐฟ |
| โก FastAPI | Backend APIs Develop เฐเฑเฐฏเฐกเฐพเฐจเฐฟเฐเฐฟ |
| โ๏ธ Cloud Technologies | AI Applications Deploy เฐฎเฐฐเฐฟเฐฏเฑ Operate เฐเฑเฐฏเฐกเฐพเฐจเฐฟเฐเฐฟ |
| ๐งช Testing and Evaluation | Application Quality Verify เฐเฑเฐฏเฐกเฐพเฐจเฐฟเฐเฐฟ |
| ๐ Security | Business เฐฎเฐฐเฐฟเฐฏเฑ Customer Information Protect เฐเฑเฐฏเฐกเฐพเฐจเฐฟเฐเฐฟ |
๐ผ 16.1 Relevant Job Roles
เฐ Project เฐฒเฑ เฐจเฑเฐฐเฑเฐเฑเฐเฑเฐจเฑ Skills เฐเฑเฐฐเฐฟเฐเฐฆเฐฟ Job Roles เฐเฑ เฐเฐชเฐฏเฑเฐเฐชเฐกเฐคเฐพเฐฏเฐฟ.
- Generative AI Engineer.
- GenAI Forward Deployed Engineer.
- LLM Application Developer.
- AI Agent Developer.
- RAG Engineer.
- AI Application Engineer.
- Python Backend Developer with GenAI Skills.
- AI Solutions Engineer.
๐ 16.2 Further Learning เฐเฑเฐธเฐ Practical Projects
E-commerce Customer Support AI Agent Project เฐชเฑเฐฐเฑเฐคเฐฟเฐเฑเฐธเฐฟเฐจ เฐคเฐฐเฑเฐตเฐพเฐค เฐ เฐเฑเฐฐเฐฟเฐเฐฆเฐฟ Projects Develop เฐเฑเฐฏเฐตเฐเฑเฐเฑ.
- ๐ PDF-Based Question Answering System.
- ๐ข Enterprise Knowledge Assistant.
- ๐ฆ AI-Powered Banking Customer Support.
- ๐ฅ Hospital Appointment Assistance Agent.
- ๐ก๏ธ Insurance Policy Question Answering Application.
- ๐ CRM APIs เฐคเฑ Integrated AI Agent.
- โ๏ธ MCP-Based Enterprise Tool Integration.
- ๐ค LangGraph เฐเฐชเฐฏเฑเฐเฐฟเฐเฐเฐฟ Multi-Step Business Workflow Automation.
โญ 17. Important Points to Remember
- ๐ Python: Backend Logic Develop เฐเฑเฐฏเฐกเฐพเฐจเฐฟเฐเฐฟ เฐฎเฐฐเฐฟเฐฏเฑ Different Application Components Connect เฐเฑเฐฏเฐกเฐพเฐจเฐฟเฐเฐฟ เฐเฐชเฐฏเฑเฐเฐฟเฐธเฑเฐคเฐพเฐฐเฑ.
- ๐ง LLM: Customer Requests เฐจเฑ เฐ เฐฐเฑเฐฅเฐ เฐเฑเฐธเฑเฐเฑเฐจเฐฟ Natural Language Responses Generate เฐเฑเฐธเฑเฐคเฑเฐเฐฆเฐฟ.
- ๐ RAG: Company Information เฐจเฑเฐเฐกเฐฟ Relevant Data Retrieve เฐเฑเฐธเฐฟ LLM เฐเฑ Context เฐเฐพ เฐ เฐเฐฆเฐฟเฐธเฑเฐคเฑเฐเฐฆเฐฟ.
- ๐ข Embeddings: Text เฐจเฑ Numerical Vectors เฐฐเฑเฐชเฐเฐฒเฑ Represent เฐเฑเฐธเฑเฐคเฐพเฐฏเฐฟ.
- ๐๏ธ Vector Databases: Vector Representations เฐจเฑ Store เฐเฑเฐธเฐฟ Search เฐเฑเฐธเฑเฐคเฐพเฐฏเฐฟ.
- ๐ Similarity Search: Semantically Related Information เฐจเฑ เฐเฑเฐฐเฑเฐคเฐฟเฐธเฑเฐคเฑเฐเฐฆเฐฟ.
- ๐ค AI Agents: Tools เฐฎเฐฐเฐฟเฐฏเฑ Workflows Coordinate เฐเฑเฐธเฐฟ Tasks Complete เฐเฑเฐธเฑเฐคเฐพเฐฏเฐฟ.
- ๐ LangGraph: Stateful Multi-Step Agent Workflows เฐจเฑ Organize เฐเฑเฐฏเฐกเฐพเฐจเฐฟเฐเฐฟ เฐเฐชเฐฏเฑเฐเฐชเฐกเฑเฐคเฑเฐเฐฆเฐฟ.
- ๐ REST APIs: Enterprise Applications เฐฎเฐงเฑเฐฏ Communication เฐจเฑ เฐ เฐเฐฆเฐฟเฐธเฑเฐคเฐพเฐฏเฐฟ.
- ๐ ๏ธ Function Calling: LLM Request เฐเฑเฐธเฐฟเฐจ Predefined Tools เฐจเฑ Application เฐฆเฑเฐตเฐพเฐฐเฐพ Execute เฐเฑเฐฏเฐกเฐพเฐจเฐฟเฐเฐฟ เฐเฐชเฐฏเฑเฐเฐชเฐกเฑเฐคเฑเฐเฐฆเฐฟ.
- ๐ MCP: AI Applications เฐฎเฐฐเฐฟเฐฏเฑ External Tools เฐฎเฐงเฑเฐฏ Standardized Connections เฐ เฐเฐฆเฐฟเฐธเฑเฐคเฑเฐเฐฆเฐฟ.
- โก FastAPI: Backend API Functionality เฐจเฑ เฐ เฐเฐฆเฐฟเฐธเฑเฐคเฑเฐเฐฆเฐฟ.
- ๐งช Testing and Evaluation: Application Accuracy, Security เฐฎเฐฐเฐฟเฐฏเฑ Performance เฐจเฑ Verify เฐเฑเฐธเฑเฐคเฐพเฐฏเฐฟ.
- โ๏ธ Cloud Technologies: Application เฐจเฑ Production Environment เฐฒเฑ เฐ เฐเฐฆเฑเฐฌเฐพเฐเฑเฐฒเฑเฐเฐฟ เฐคเฑเฐธเฑเฐเฑเฐตเฐธเฑเฐคเฐพเฐฏเฐฟ.
- ๐จโ๐ผ Human Approval: Sensitive Business Operations เฐเฑเฐธเฐ เฐ เฐตเฐธเฐฐเฐ.
โ 18. Frequently Asked Questions (FAQs)
1. ๐ E-commerce Customer Support AI Agent เฐ เฐเฐเฑ เฐเฐฎเฐฟเฐเฐฟ?
E-commerce Customer Support AI Agent เฐ เฐจเฑเฐฆเฐฟ Customer Requests เฐจเฑ เฐ เฐฐเฑเฐฅเฐ เฐเฑเฐธเฑเฐเฑเฐจเฐฟ, Information Retrieve เฐเฑเฐธเฐฟ, Business Systems เฐคเฑ Connect เฐ เฐฏเฐฟ, Authorized Support Tasks เฐจเฐฟเฐฐเฑเฐตเฐนเฐฟเฐเฐเฑ AI-Powered Application.
2. ๐ เฐ Project เฐฒเฑ Python เฐเฐเฐฆเฑเฐเฑ เฐเฐชเฐฏเฑเฐเฐฟเฐธเฑเฐคเฐพเฐฐเฑ?
Python เฐจเฑ Backend Development, LLM Integration, RAG Implementation, API Communication, Business Logic เฐฎเฐฐเฐฟเฐฏเฑ Agent Workflow Development เฐเฑเฐธเฐ เฐเฐชเฐฏเฑเฐเฐฟเฐธเฑเฐคเฐพเฐฐเฑ.
3. ๐ง LLM เฐฏเฑเฐเฑเฐ เฐชเฐพเฐคเฑเฐฐ เฐเฐฎเฐฟเฐเฐฟ?
LLM Customer Questions เฐจเฑ Process เฐเฑเฐธเฐฟ, Likely Intent เฐจเฑ เฐเฑเฐฐเฑเฐคเฐฟเฐเฐเฐฟ, Context เฐจเฑ เฐ เฐฐเฑเฐฅเฐ เฐเฑเฐธเฑเฐเฑเฐจเฐฟ Natural Language Responses Generate เฐเฑเฐธเฑเฐคเฑเฐเฐฆเฐฟ.
4. ๐ RAG เฐเฐเฐฆเฑเฐเฑ เฐ เฐตเฐธเฐฐเฐ?
Company-Specific Knowledge Sources เฐจเฑเฐเฐกเฐฟ Relevant Information เฐ เฐเฐฆเฐฟเฐเฐเฐกเฐ เฐฆเฑเฐตเฐพเฐฐเฐพ LLM เฐชเฑเฐฐเฐธเฑเฐคเฑเฐค เฐฎเฐฐเฐฟเฐฏเฑ Approved Business Information เฐเฐงเฐพเฐฐเฐเฐเฐพ เฐธเฐฎเฐพเฐงเฐพเฐจเฐพเฐฒเฑ เฐเฐตเฑเฐตเฐกเฐพเฐจเฐฟเฐเฐฟ RAG เฐธเฐนเฐพเฐฏเฐชเฐกเฑเฐคเฑเฐเฐฆเฐฟ.
5. ๐ข Embedding เฐ เฐเฐเฑ เฐเฐฎเฐฟเฐเฐฟ?
Embedding เฐ เฐจเฑเฐฆเฐฟ Embedding Model เฐฆเฑเฐตเฐพเฐฐเฐพ Generate เฐเฑเฐฏเฐฌเฐกเฑ Numerical Representation. เฐเฐฆเฐฟ Text Passages เฐฎเฐงเฑเฐฏ Semantic Relationships เฐจเฑ เฐเฑเฐฐเฑเฐคเฐฟเฐเฐเฐกเฐพเฐจเฐฟเฐเฐฟ เฐเฐชเฐฏเฑเฐเฐชเฐกเฑเฐคเฑเฐเฐฆเฐฟ.
6. ๐๏ธ Vector Database เฐเฐเฐฆเฑเฐเฑ เฐ เฐตเฐธเฐฐเฐ?
Vector Database เฐฒเฑเฐฆเฐพ Vector Index Embeddings เฐจเฑ Store เฐเฑเฐธเฐฟ Similarity-Based Retrieval เฐฆเฑเฐตเฐพเฐฐเฐพ Relevant Information เฐจเฑ เฐเฐจเฑเฐเฑเฐจเฐกเฐพเฐจเฐฟเฐเฐฟ เฐเฐชเฐฏเฑเฐเฐชเฐกเฑเฐคเฑเฐเฐฆเฐฟ.
7. ๐ค Chatbot เฐฎเฐฐเฐฟเฐฏเฑ AI Agent เฐฎเฐงเฑเฐฏ เฐคเฑเฐกเฐพ เฐเฐฎเฐฟเฐเฐฟ?
เฐธเฐพเฐงเฐพเฐฐเฐฃ Chatbot เฐชเฑเฐฐเฐงเฐพเฐจเฐเฐเฐพ Questions เฐเฑ Answers เฐเฐธเฑเฐคเฑเฐเฐฆเฐฟ. AI Agent Tools เฐฎเฐฐเฐฟเฐฏเฑ Authorized Operations เฐจเฑ Coordinate เฐเฑเฐธเฐฟ Multi-Step Tasks เฐจเฑ Complete เฐเฑเฐฏเฐเฐฒเฐฆเฑ.
8. ๐ LangGraph เฐ เฐเฐเฑ เฐเฐฎเฐฟเฐเฐฟ?
LangGraph เฐ เฐจเฑเฐฆเฐฟ Stateful Multi-Step AI Agent Workflows Develop เฐเฑเฐฏเฐกเฐพเฐจเฐฟเฐเฐฟ เฐเฐชเฐฏเฑเฐเฐฟเฐเฐเฑ Orchestration Framework.
9. ๐ MCP เฐ เฐเฐเฑ เฐเฐฎเฐฟเฐเฐฟ?
MCP เฐ เฐเฐเฑ Model Context Protocol. เฐเฐฆเฐฟ AI Applications เฐจเฑ External Tools เฐฎเฐฐเฐฟเฐฏเฑ Data Sources เฐคเฑ Connect เฐเฑเฐฏเฐกเฐพเฐจเฐฟเฐเฐฟ Standardized Protocol เฐจเฑ เฐ เฐเฐฆเฐฟเฐธเฑเฐคเฑเฐเฐฆเฐฟ.
10. ๐ REST API เฐฎเฐฐเฐฟเฐฏเฑ MCP เฐฎเฐงเฑเฐฏ เฐคเฑเฐกเฐพ เฐเฐฎเฐฟเฐเฐฟ?
REST APIs HTTP เฐฆเฑเฐตเฐพเฐฐเฐพ Applications เฐฎเฐงเฑเฐฏ Communication เฐ เฐเฐฆเฐฟเฐธเฑเฐคเฐพเฐฏเฐฟ. MCP เฐฆเฑเฐตเฐพเฐฐเฐพ AI Applications External Tools เฐฎเฐฐเฐฟเฐฏเฑ Context Providers เฐคเฑ Standardized เฐตเฐฟเฐงเฐพเฐจเฐเฐฒเฑ Interact เฐ เฐตเฑเฐคเฐพเฐฏเฐฟ.
11. ๐ฆ RAG เฐเฐชเฐฏเฑเฐเฐฟเฐเฐเฐฟ Return Request Create เฐเฑเฐฏเฐตเฐเฑเฐเฐพ?
เฐฒเฑเฐฆเฑ. RAG Information Retrieve เฐเฑเฐฏเฐกเฐพเฐจเฐฟเฐเฐฟ เฐเฐชเฐฏเฑเฐเฐชเฐกเฑเฐคเฑเฐเฐฆเฐฟ. Return Request Create เฐเฑเฐฏเฐกเฐพเฐจเฐฟเฐเฐฟ เฐชเฑเฐฐเฐคเฑเฐฏเฑเฐเฐฎเฑเฐจ Authorized Tool เฐฒเฑเฐฆเฐพ Backend API เฐ เฐตเฐธเฐฐเฐ.
12. โก FastAPI เฐเฐเฐฆเฑเฐเฑ เฐเฐชเฐฏเฑเฐเฐฟเฐธเฑเฐคเฐพเฐฐเฑ?
FastAPI เฐฆเฑเฐตเฐพเฐฐเฐพ Python Backend APIs Develop เฐเฑเฐธเฐฟ Customer Requests เฐจเฑ Receive เฐเฑเฐฏเฐตเฐเฑเฐเฑ เฐฎเฐฐเฐฟเฐฏเฑ เฐตเฐฟเฐตเฐฟเฐง Application Components เฐจเฑ Connect เฐเฑเฐฏเฐตเฐเฑเฐเฑ.
13. โ ๏ธ AI Hallucination เฐ เฐเฐเฑ เฐเฐฎเฐฟเฐเฐฟ?
AI Model เฐ เฐเฐฆเฑเฐฌเฐพเฐเฑเฐฒเฑ เฐเฐจเฑเฐจ Evidence เฐฒเฑเฐฆเฐพ เฐตเฐพเฐธเฑเฐคเฐตเฐพเฐฒ เฐฆเฑเฐตเฐพเฐฐเฐพ Support เฐเฐพเฐจเฐฟ Information เฐจเฑ Generate เฐเฑเฐฏเฐกเฐพเฐจเฑเฐจเฐฟ AI Hallucination เฐ เฐเฐเฐพเฐฐเฑ.
14. ๐จโ๐ผ Human-in-the-Loop เฐเฐเฐฆเฑเฐเฑ เฐ เฐตเฐธเฐฐเฐ?
Sensitive, Uncertain เฐฒเฑเฐฆเฐพ High-Impact Operations เฐจเฑ เฐเฐ เฐตเฑเฐฏเฐเฑเฐคเฐฟ Review เฐเฑเฐฏเฐกเฐพเฐจเฐฟเฐเฐฟ, Approve เฐเฑเฐฏเฐกเฐพเฐจเฐฟเฐเฐฟ เฐฒเฑเฐฆเฐพ เฐ เฐตเฐธเฐฐเฐฎเฑเฐจเฐชเฑเฐชเฑเฐกเฑ Intervene เฐเฑเฐฏเฐกเฐพเฐจเฐฟเฐเฐฟ Human-in-the-Loop เฐเฐชเฐฏเฑเฐเฐชเฐกเฑเฐคเฑเฐเฐฆเฐฟ.
15. โ๏ธ Cloud Deployment เฐฏเฑเฐเฑเฐ Purpose เฐเฐฎเฐฟเฐเฐฟ?
Cloud Deployment เฐฆเฑเฐตเฐพเฐฐเฐพ Application เฐจเฑ Actual Users เฐเฑ เฐ เฐเฐฆเฑเฐฌเฐพเฐเฑเฐฒเฑเฐเฐฟ เฐคเฑเฐธเฑเฐเฑเฐฐเฐพเฐตเฐเฑเฐเฑ. เฐ เฐฒเฐพเฐเฑ Hosting, Scaling, Monitoring เฐฎเฐฐเฐฟเฐฏเฑ Operations เฐจเฐฟเฐฐเฑเฐตเฐนเฐฟเฐเฐเฐตเฐเฑเฐเฑ.
16. ๐ AI Agent เฐเฑ Database Access เฐคเฐชเฑเฐชเฐจเฐฟเฐธเฐฐเฐฟเฐเฐพ เฐ เฐตเฐธเฐฐเฐฎเฐพ?
เฐชเฑเฐฐเฐคเฐฟ AI Agent เฐเฑ Direct Database Access เฐ เฐตเฐธเฐฐเฐ เฐฒเฑเฐฆเฑ. Database เฐจเฑ Direct เฐเฐพ Access เฐเฑเฐฏเฐกเฐพเฐจเฐฟเฐเฐฟ เฐ เฐจเฑเฐฎเฐคเฐฟ เฐเฐตเฑเฐตเฐเฑเฐเฐกเฐพ REST APIs เฐฒเฑเฐฆเฐพ MCP Tools เฐฆเฑเฐตเฐพเฐฐเฐพ Approved Operations เฐจเฑ เฐ เฐเฐฆเฐฟเฐเฐเฐตเฐเฑเฐเฑ.
17. ๐ก๏ธ เฐฎเฐฐเฑ Customer เฐฏเฑเฐเฑเฐ Order เฐจเฑ Access เฐเฑเฐฏเฐเฑเฐเฐกเฐพ Application เฐเฐฒเฐพ Prevent เฐเฑเฐธเฑเฐคเฑเฐเฐฆเฐฟ?
Backend เฐฎเฑเฐเฐฆเฑเฐเฐพ User เฐจเฑ Authenticate เฐเฑเฐธเฐฟ, Order Ownership เฐจเฑ Verify เฐเฑเฐฏเฐพเฐฒเฐฟ. Customer เฐ เฐเฐฆเฐฟเฐเฐเฐฟเฐจ Order ID เฐเฐเฑเฐเฐเฑ Access เฐเฑ Authorization เฐเฐตเฑเฐตเฐเฑเฐกเฐฆเฑ.
18. ๐ Order Management API Fail เฐ เฐฏเฐฟเฐคเฑ เฐเฐฎเฐฟ เฐเฐฐเฑเฐเฑเฐคเฑเฐเฐฆเฐฟ?
Application Error เฐจเฑ เฐธเฑเฐฐเฐเฑเฐทเฐฟเฐคเฐเฐเฐพ Handle เฐเฑเฐฏเฐพเฐฒเฐฟ. Verify เฐเฑเฐฏเฐจเฐฟ Order Status เฐจเฑ Generate เฐเฑเฐฏเฐเฑเฐกเฐฆเฑ. เฐ เฐตเฐธเฐฐเฐฎเฑเฐคเฑ Appropriate Error Message เฐเฐตเฑเฐตเฐพเฐฒเฐฟ เฐฒเฑเฐฆเฐพ Human Support เฐเฑ Escalate เฐเฑเฐฏเฐพเฐฒเฐฟ.
๐ 19. Knowledge Check โ Multiple Choice Questions
เฐ E-commerce Customer Support AI Agent Project เฐชเฑ เฐฎเฑ เฐ เฐตเฐเฐพเฐนเฐจเฐจเฑ เฐชเฐฐเฑเฐเฑเฐทเฐฟเฐเฐเฑเฐเฑเฐเฐกเฐฟ.
โ Question 1. E-commerce Company เฐเฑ AI Customer Support System เฐเฐเฐฆเฑเฐเฑ เฐ เฐตเฐธเฐฐเฐ?
A. Manual Work เฐชเฑเฐเฐเฐกเฐพเฐจเฐฟเฐเฐฟ.
B. Repetitive Customer Support Tasks เฐจเฑ Automate เฐเฑเฐฏเฐกเฐพเฐจเฐฟเฐเฐฟ.
C. เฐ เฐจเฑเฐจเฐฟ Databases เฐคเฑเฐฒเฐเฐฟเฐเฐเฐกเฐพเฐจเฐฟเฐเฐฟ.
D. เฐฎเฑเฐคเฑเฐคเฐ Website เฐจเฑ Replace เฐเฑเฐฏเฐกเฐพเฐจเฐฟเฐเฐฟ.
โ Correct Answer: B
Explanation: Repetitive Customer Support Tasks เฐจเฑ Automate เฐเฑเฐธเฐฟ Operational Efficiency เฐจเฑ เฐฎเฑเฐฐเฑเฐเฑเฐชเฐฐเฐเฐกเฐ เฐชเฑเฐฐเฐงเฐพเฐจ เฐฒเฐเฑเฐทเฑเฐฏเฐ.
โ Question 2. Company PDF Documents เฐจเฑเฐเฐกเฐฟ Relevant Information Retrieve เฐเฑเฐฏเฐกเฐพเฐจเฐฟเฐเฐฟ เฐ Technology เฐเฐชเฐฏเฑเฐเฐฟเฐธเฑเฐคเฐพเฐฐเฑ?
A. Docker
B. FastAPI
C. RAG
D. Git
โ Correct Answer: C
Explanation: RAG External Knowledge Sources เฐจเฑเฐเฐกเฐฟ Relevant Information เฐจเฑ Retrieve เฐเฑเฐธเฐฟ LLM เฐเฑ เฐ เฐเฐฆเฐฟเฐธเฑเฐคเฑเฐเฐฆเฐฟ.
โ Question 3. Vector Database เฐฏเฑเฐเฑเฐ เฐฎเฑเฐเฑเฐฏเฐฎเฑเฐจ Purpose เฐเฐฎเฐฟเฐเฐฟ?
A. Vector Embeddings เฐจเฑ Store เฐฎเฐฐเฐฟเฐฏเฑ Search เฐเฑเฐฏเฐกเฐ.
B. Python Applications Deploy เฐเฑเฐฏเฐกเฐ.
C. Web Pages Create เฐเฑเฐฏเฐกเฐ.
D. Customer Passwords Manage เฐเฑเฐฏเฐกเฐ.
โ Correct Answer: A
Explanation: Vector Database Numerical Vector Representations เฐเฐชเฐฏเฑเฐเฐฟเฐเฐเฐฟ Similarity-Based Retrieval เฐเฑ เฐธเฐนเฐพเฐฏเฐชเฐกเฑเฐคเฑเฐเฐฆเฐฟ.
โ Question 4. Stateful AI Agent Workflows Develop เฐเฑเฐฏเฐกเฐพเฐจเฐฟเฐเฐฟ เฐ Technology เฐเฐชเฐฏเฑเฐเฐชเฐกเฑเฐคเฑเฐเฐฆเฐฟ?
A. LangGraph
B. HTML
C. Excel
D. CSS
โ Correct Answer: A
Explanation: LangGraph State, Nodes เฐฎเฐฐเฐฟเฐฏเฑ Edges เฐเฐชเฐฏเฑเฐเฐฟเฐเฐเฐฟ Multi-Step Workflows เฐจเฑ Organize เฐเฑเฐฏเฐกเฐพเฐจเฐฟเฐเฐฟ เฐธเฐนเฐพเฐฏเฐชเฐกเฑเฐคเฑเฐเฐฆเฐฟ.
โ Question 5. เฐ Project เฐฒเฑ REST API เฐฏเฑเฐเฑเฐ Purpose เฐเฐฎเฐฟเฐเฐฟ?
A. Embeddings Generate เฐเฑเฐฏเฐกเฐ.
B. Applications เฐจเฑ Connect เฐเฑเฐธเฐฟ Information Exchange เฐเฑเฐฏเฐกเฐ.
C. LLM Train เฐเฑเฐฏเฐกเฐ.
D. PDF Documents Create เฐเฑเฐฏเฐกเฐ.
โ Correct Answer: B
Explanation: REST APIs เฐฆเฑเฐตเฐพเฐฐเฐพ Different Software Applications เฐเฐเฐฆเฐพเฐจเฐฟเฐคเฑ เฐฎเฐฐเฑเฐเฐเฐฟ Communicate เฐเฑเฐธเฐฟ Information Exchange เฐเฑเฐธเฑเฐเฑเฐเฐเฐพเฐฏเฐฟ.
โ Question 6. MCP เฐฏเฑเฐเฑเฐ Full Form เฐเฐฎเฐฟเฐเฐฟ?
A. Machine Control Program.
B. Model Context Protocol.
C. Multiple Chat Process.
D. Model Coding Platform.
โ Correct Answer: B
Explanation: MCP เฐ เฐเฐเฑ Model Context Protocol.
โ Question 7. AI เฐเฑ Reliable Answer เฐเฐตเฑเฐตเฐกเฐ เฐธเฐพเฐงเฑเฐฏเฐ เฐเฐพเฐเฐชเฑเฐคเฑ Application เฐเฐฎเฐฟ เฐเฑเฐฏเฐพเฐฒเฐฟ?
A. เฐเฐนเฐฟเฐเฐเฐฟ Answer เฐเฐตเฑเฐตเฐพเฐฒเฐฟ.
B. Private Information เฐเฑเฐชเฐฟเฐเฐเฐพเฐฒเฐฟ.
C. Human Support เฐเฑ Escalate เฐเฑเฐฏเฐพเฐฒเฐฟ.
D. Customer Request เฐจเฑ Delete เฐเฑเฐฏเฐพเฐฒเฐฟ.
โ Correct Answer: C
Explanation: Uncertain เฐฒเฑเฐฆเฐพ Complex Requests เฐจเฑ Company Support Workflow เฐชเฑเฐฐเฐเฐพเฐฐเฐ Human Support เฐเฑ Escalate เฐเฑเฐฏเฐพเฐฒเฐฟ.
โ Question 8. AI Hallucination เฐ เฐเฐเฑ เฐเฐฎเฐฟเฐเฐฟ?
A. Application Deployment Method.
B. Unsupported เฐฒเฑเฐฆเฐพ Fabricated AI Response.
C. Vector Database.
D. API Protocol.
โ Correct Answer: B
Explanation: เฐ เฐเฐฆเฑเฐฌเฐพเฐเฑเฐฒเฑ เฐเฐจเฑเฐจ Facts เฐฒเฑเฐฆเฐพ Evidence เฐฆเฑเฐตเฐพเฐฐเฐพ Support เฐเฐพเฐจเฐฟ Information เฐจเฑ AI Generate เฐเฑเฐฏเฐกเฐพเฐจเฑเฐจเฐฟ Hallucination เฐ เฐเฐเฐพเฐฐเฑ.
๐ฏ 20. Final Takeaway
E-commerce Customer Support AI Agent Project เฐฆเฑเฐตเฐพเฐฐเฐพ เฐ เฐจเฑเฐ Generative AI Technologies เฐจเฑ เฐเฐเฑ Business Solution เฐฒเฑ เฐเฐฒเฐพ Integrate เฐเฑเฐฏเฐตเฐเฑเฐเฑ เฐ เฐฐเฑเฐฅเฐฎเฐตเฑเฐคเฑเฐเฐฆเฐฟ.
เฐฎเฑเฐฆเฐ Business Requirement Gathering เฐฎเฐฐเฐฟเฐฏเฑ Architecture Design เฐคเฑ Project เฐชเฑเฐฐเฐพเฐฐเฐเฐญเฐฎเฐตเฑเฐคเฑเฐเฐฆเฐฟ.
Python เฐฎเฐฐเฐฟเฐฏเฑ FastAPI Application Foundation เฐจเฑ เฐ เฐเฐฆเฐฟเฐธเฑเฐคเฐพเฐฏเฐฟ.
LLMs Customer Requests เฐจเฑ เฐ เฐฐเฑเฐฅเฐ เฐเฑเฐธเฑเฐเฑเฐจเฐฟ Responses Generate เฐเฑเฐธเฑเฐคเฐพเฐฏเฐฟ.
RAG Company Documents เฐจเฑเฐเฐกเฐฟ Relevant Information เฐจเฑ Retrieve เฐเฑเฐธเฑเฐคเฑเฐเฐฆเฐฟ.
Embeddings เฐฎเฐฐเฐฟเฐฏเฑ Vector Databases Semantic Retrieval เฐเฑ เฐธเฐนเฐพเฐฏเฐชเฐกเฐคเฐพเฐฏเฐฟ.
LangGraph Multi-Step AI Agent Workflows เฐจเฑ Coordinate เฐเฑเฐธเฑเฐคเฑเฐเฐฆเฐฟ.
REST APIs เฐฎเฐฐเฐฟเฐฏเฑ MCP Integrations AI Application เฐจเฑ Enterprise Systems เฐคเฑ Connect เฐเฑเฐธเฑเฐคเฐพเฐฏเฐฟ.
Testing, Evaluation, Authentication, Authorization, Monitoring เฐฎเฐฐเฐฟเฐฏเฑ Production Deployment เฐฆเฑเฐตเฐพเฐฐเฐพ เฐ Solution เฐจเฑ Real Business Environments เฐฒเฑ เฐเฐชเฐฏเฑเฐเฐฟเฐเฐเฐกเฐพเฐจเฐฟเฐเฐฟ เฐธเฐฟเฐฆเฑเฐงเฐ เฐเฑเฐฏเฐตเฐเฑเฐเฑ.
VLR Training Generative AI เฐจเฑเฐฐเฑเฐเฑเฐเฑเฐจเฑ เฐตเฐฟเฐฆเฑเฐฏเฐพเฐฐเฑเฐฅเฑเฐฒเฐเฑ เฐ Project, GenAI Forward Deployed Engineer เฐเฐ Enterprise AI Application เฐจเฑ เฐเฐฒเฐพ Design เฐเฑเฐธเฐฟ Develop เฐเฑเฐธเฑเฐคเฐพเฐฐเฑ เฐ เฐฐเฑเฐฅเฐ เฐเฑเฐธเฑเฐเฑเฐตเฐกเฐพเฐจเฐฟเฐเฐฟ Practical Foundation เฐ เฐเฐฆเฐฟเฐธเฑเฐคเฑเฐเฐฆเฐฟ.
๐ Final Message โ เฐฎเฑเฐเฐฟเฐเฐชเฑ
GenAI Forward Deployed Engineer เฐ เฐจเฑเฐฆเฐฟ เฐเฑเฐตเฐฒเฐ เฐเฐ Chatbot Develop เฐเฑเฐธเฑ เฐตเฑเฐฏเฐเฑเฐคเฐฟ เฐฎเฐพเฐคเฑเฐฐเฐฎเฑ เฐเฐพเฐฆเฑ.
เฐเฐ เฐจเฐฟเฐเฐฎเฑเฐจ Business Problem เฐจเฑ เฐ เฐฐเฑเฐฅเฐ เฐเฑเฐธเฑเฐเฑเฐตเฐกเฐ, Requirements Collect เฐเฑเฐฏเฐกเฐ, AI Architecture Design เฐเฑเฐฏเฐกเฐ, RAG Systems Implement เฐเฑเฐฏเฐกเฐ, AI Agents Develop เฐเฑเฐฏเฐกเฐ, APIs เฐฎเฐฐเฐฟเฐฏเฑ External Tools เฐคเฑ Integrate เฐเฑเฐฏเฐกเฐ, Application เฐจเฑ Test เฐเฑเฐฏเฐกเฐ เฐฎเฐฐเฐฟเฐฏเฑ เฐเฐฟเฐตเฐฐเฐฟเฐเฐฟ Production เฐฒเฑ Deploy เฐเฑเฐฏเฐกเฐ เฐตเฐเฐเฐฟ เฐฌเฐพเฐงเฑเฐฏเฐคเฐฒเฐจเฑ เฐจเฐฟเฐฐเฑเฐตเฐนเฐฟเฐธเฑเฐคเฐพเฐฐเฑ.
๐ฏ เฐจเฐฟเฐเฐฎเฑเฐจ Business Problems เฐจเฑ Practical, Secure, Scalable เฐฎเฐฐเฐฟเฐฏเฑ Production-Ready AI Applications เฐเฐพ เฐฎเฐพเฐฐเฑเฐเฐกเฐฎเฑ เฐเฐ GenAI Forward Deployed Engineer เฐฏเฑเฐเฑเฐ เฐ เฐเฐคเฐฟเฐฎ เฐฒเฐเฑเฐทเฑเฐฏเฐ.
๐ Reference URLs
- LangGraph Official Documentation: https://docs.langchain.com/oss/python/langgraph/overview
- MCP Architecture Documentation: https://modelcontextprotocol.io/specification/2025-06-18/architecture
- FastAPI Request Body Documentation: https://fastapi.tiangolo.com/tutorial/body/
๐ Real-Time Generative AI Project: Python, RAG, LangGraph, MCP เคเคฐ LLMs เคเคพ เคเคชเคฏเฅเค เคเคฐเคเฅ E-commerce Customer Support AI Agent เคตเคฟเคเคธเคฟเคค เคเคฐเคจเคพ
๐ 1. Introduction โ เคชเคฐเคฟเคเคฏ
Generative AI เคตเคฐเฅเคคเคฎเคพเคจ เคฎเฅเค เคธเคเคเค เคจเฅเค เคเฅ Customer Support, Business Operations เคเคฐ Application Integration เคเฅ เคธเคเคญเคพเคฒเคจเฅ เคเฅ เคคเคฐเฅเคเฅเค เคฎเฅเค เคฌเคฆเคฒเคพเคต เคฒเคพ เคฐเคนเคพ เคนเฅเฅค
Traditional Customer Support Systems เคฎเฅเค เคเฅเคฐเคพเคนเคเฅเค เคเฅ เคฌเคพเคฐ-เคฌเคพเคฐ เคชเฅเคเฅ เคเคพเคจเฅ เคตเคพเคฒเฅ เคชเฅเคฐเคถเฅเคจเฅเค เคเฅ เคเคคเฅเคคเคฐ เคฆเฅเคจเฅ, Customer Information Retrieve เคเคฐเคจเฅ, Order Status Check เคเคฐเคจเฅ เคเคฐ Return Requests Process เคเคฐเคจเฅ เคเฅ เคฒเคฟเค เคเคฐเฅเคฎเคเคพเคฐเคฟเคฏเฅเค เคชเคฐ เค เคงเคฟเค เคจเคฟเคฐเฅเคญเคฐ เคฐเคนเคจเคพ เคชเคกเคผเคคเคพ เคนเฅเฅค
E-commerce Customer Support AI Agent เคเค Intelligent Application เคนเฅ, เคเฅ Large Language Models (LLMs), Retrieval-Augmented Generation (RAG), AI Agents เคเคฐ External Application Integrations เคเคพ เคเคชเคฏเฅเค เคเคฐเคเฅ เคเคจ เคธเคญเฅ เคเคคเคฟเคตเคฟเคงเคฟเคฏเฅเค เคเฅ Automate เคเคฐเคคเคพ เคนเฅเฅค
เคฎเคพเคจ เคฒเฅเคเคฟเค เคเคฟ Amazon เคฏเคพ Flipkart เคเฅเคธเฅ เคเฅเค E-commerce Company เคนเฅเฅค เคเฅเคฐเคพเคนเค Order Tracking, Product Returns, Refund Status, Delivery Address เคเคฐ Company Policies เคเฅ เคฌเคพเคฐเฅ เคฎเฅเค เค เคฒเค-เค เคฒเค เคชเฅเคฐเคถเฅเคจ เคชเฅเคเคคเฅ เคนเฅเคเฅค
เคนเคฐ Customer Request เคเฅ เคเคฐเฅเคฎเคเคพเคฐเคฟเคฏเฅเค เคฆเฅเคตเคพเคฐเคพ Manual เคคเคฐเฅเคเฅ เคธเฅ Handle เคเคฐเคจเฅ เคเฅ เคฌเคเคพเคฏ, เคเคเคชเคจเฅ เคเค AI-Powered System เคตเคฟเคเคธเคฟเคค เคเคฐ เคธเคเคคเฅ เคนเฅเฅค
เคฏเคน System:
- เคเฅเคฐเคพเคนเคเฅเค เคเฅ เคชเฅเคฐเคถเฅเคจเฅเค เคเฅ เคธเคฎเคเคคเคพ เคนเฅเฅค
- Customer Intent เคเฅ เคชเคนเคเคพเคจ เคเคฐเคคเคพ เคนเฅเฅค
- เคเคตเคถเฅเคฏเค Information Retrieve เคเคฐเคคเคพ เคนเฅเฅค
- Business Applications เคเฅ เคธเคพเคฅ Interact เคเคฐเคคเคพ เคนเฅเฅค
- เค เคจเฅเคฎเคค Business Operations เคเฅ Execute เคเคฐเคคเคพ เคนเฅเฅค
- เคเฅเคฐเคพเคนเคเฅเค เคเฅ เคเคเคฟเคค Responses เคชเฅเคฐเคฆเคพเคจ เคเคฐเคคเคพ เคนเฅเฅค
เคเคธ Practical Project เคฎเฅเค เคนเคฎ เคธเคฎเคเฅเคเคเฅ เคเคฟ Python, LLMs, RAG, Vector Databases, LangGraph, REST APIs, MCP, FastAPI เคเคฐ Cloud Technologies เคฎเคฟเคฒเคเคฐ เคเค Real-Time Business Problem เคเฅ เคเฅเคธเฅ เคนเคฒ เคเคฐเคคเฅ เคนเฅเคเฅค
VLR Training Generative AI เคธเฅเคเคจเฅ เคตเคพเคฒเฅ เคตเคฟเคฆเฅเคฏเคพเคฐเฅเคฅเคฟเคฏเฅเค เคเฅ เคฒเคฟเค เคฏเคน Project เคธเคฎเคเคจเฅ เคฎเฅเค เคฎเคฆเคฆเคเคพเคฐ เคนเฅ เคเคฟ เคเค GenAI Forward Deployed Engineer (FDE) เคเคฟเคธ เคชเฅเคฐเคเคพเคฐ Business Requirements เคเฅ Practical เคเคฐ Production-Oriented AI Solution เคฎเฅเค เคฌเคฆเคฒเคคเคพ เคนเฅเฅค
๐ 2. Project Overview โ เคชเฅเคฐเฅเคเฅเคเฅเค เคเคพ เคชเคฐเคฟเคเคฏ
เคเคธ Project เคเคพ เคฎเฅเคเฅเคฏ เคเคฆเฅเคฆเฅเคถเฅเคฏ เคเค เคเคธเคพ AI-Powered Customer Support Application เคตเคฟเคเคธเคฟเคค เคเคฐเคจเคพ เคนเฅ, เคเฅ Customer Requests เคเฅ เคธเคฎเค เคธเคเฅ เคเคฐ Authorized Business Operations เคเฅ Execute เคเคฐ เคธเคเฅเฅค
๐ข Business Scenario โ เคตเฅเคฏเคพเคตเคธเคพเคฏเคฟเค เคชเคฐเคฟเคธเฅเคฅเคฟเคคเคฟ
เคฎเคพเคจ เคฒเฅเคเคฟเค เคเคฟ เคเค E-commerce Company เคตเคฟเคญเคฟเคจเฅเคจ เคชเฅเคฐเคเคพเคฐ เคเฅ Products เคฌเฅเค เคฐเคนเฅ เคนเฅเฅค
เคเคฆเคพเคนเคฐเคฃ:
- ๐ฑ Mobile Phones
- ๐ป Laptops
- ๐ง Headphones
- ๐ Clothing
- ๐ Home Appliances
- ๐บ Electronic Products
เคฎเคพเคจ เคฒเฅเคคเฅ เคนเฅเค เคเคฟ เคเคธ เคเคเคชเคจเฅ เคเฅ เคชเฅเคฐเคคเคฟเคฆเคฟเคจ เคฒเคเคญเค 10,000 Customer Support Requests เคชเฅเคฐเคพเคชเฅเคค เคนเฅเคคเฅ เคนเฅเคเฅค เคฏเคน เคเฅเคตเคฒ Project เคเฅ เคธเคฎเคเคพเคจเฅ เคเฅ เคฒเคฟเค เคเค เค เคจเฅเคฎเคพเคจเคฟเคค เคธเคเคเฅเคฏเคพ เคนเฅ, เคเคฟเคธเฅ เคตเคฟเคถเฅเคท เคเคเคชเคจเฅ เคเคพ เคชเฅเคฐเคเคพเคถเคฟเคค เคเคเคเคกเคผเคพ เคจเคนเฅเค เคนเฅเฅค
เคเฅเคฐเคพเคนเค เคเคธ เคชเฅเคฐเคเคพเคฐ เคเฅ เคชเฅเคฐเคถเฅเคจ เคชเฅเค เคธเคเคคเฅ เคนเฅเค:
| Customer Question | Business Requirement |
|---|---|
| เคฎเฅเคฐเคพ Order เคเคนเคพเค เคนเฅ? | Order Tracking |
| เคฎเฅเค เค เคชเคจเคพ Product เคเฅเคธเฅ Return เคเคฐ เคธเคเคคเคพ เคนเฅเค? | Product Returns |
| เคเคชเคเฅ Refund Policy เคเฅเคฏเคพ เคนเฅ? | Policy Information |
| เคฎเฅเคเฅ เคฎเฅเคฐเคพ Refund เคเคฌ เคฎเคฟเคฒเฅเคเคพ? | Refund Tracking |
| เคเฅเคฏเคพ เคฎเฅเค เค เคชเคจเคพ Delivery Address เคฌเคฆเคฒ เคธเคเคคเคพ เคนเฅเค? | Address Modification |
| เคเฅเคฏเคพ เคฏเคน Product Return เคเคฐเคจเฅ เคเฅ เคฒเคฟเค Eligible เคนเฅ? | Return Eligibility Verification |
โ 2.1 Traditional Customer Support เคฎเฅเค เคธเคฎเคธเฅเคฏเคพเคเค
Traditional Customer Support Process เคฎเฅเค เคเฅเคฐเคพเคนเค เคเคฟเคธเฅ Support Employee เคธเฅ เคธเคเคชเคฐเฅเค เคเคฐเคคเคพ เคนเฅ, เค เคชเคจเคพ Order ID เคฆเฅเคคเคพ เคนเฅ เคเคฐ เคซเคฟเคฐ Employee เคฆเฅเคตเคพเคฐเคพ Order Management System เคฎเฅเค เคเคพเคจเคเคพเคฐเฅ Check เคเคฐเคจเฅ เคเฅ เคชเฅเคฐเคคเฅเคเฅเคทเคพ เคเคฐเคคเคพ เคนเฅเฅค
เคเคธ เคชเฅเคฐเคเฅเคฐเคฟเคฏเคพ เคฎเฅเค เคเค เคธเคฎเคธเฅเคฏเคพเคเค เคเคคเฅเคชเคจเฅเคจ เคนเฅเคคเฅ เคนเฅเค:
- โฐ เคเฅเคฐเคพเคนเคเฅเค เคเฅ เคเคตเคพเคฌ เคชเฅเคฐเคพเคชเฅเคค เคเคฐเคจเฅ เคเฅ เคฒเคฟเค เค เคงเคฟเค เคธเคฎเคฏ เคคเค เคเคเคคเคเคพเคฐ เคเคฐเคจเคพ เคชเคกเคผ เคธเคเคคเคพ เคนเฅเฅค
- ๐จโ๐ผ เคฌเคพเคฐ-เคฌเคพเคฐ เคเคจเฅ เคตเคพเคฒเฅ Requests เคเฅ Handle เคเคฐเคจเฅ เคเฅ เคฒเคฟเค เค เคงเคฟเค เคเคฐเฅเคฎเคเคพเคฐเคฟเคฏเฅเค เคเฅ เคเคตเคถเฅเคฏเคเคคเคพ เคนเฅเคคเฅ เคนเฅเฅค
- ๐ฐ Operational Expenses เคฌเคขเคผ เคเคพเคคเฅ เคนเฅเคเฅค
- ๐ เคเคฐเฅเคฎเคเคพเคฐเคฟเคฏเฅเค เคเคพ เค เคงเคฟเค เคธเคฎเคฏ เคเค เคเฅเคธเฅ เคชเฅเคฐเคถเฅเคจเฅเค เคเฅ เคเคคเฅเคคเคฐ เคฆเฅเคจเฅ เคฎเฅเค เคเคฐเฅเค เคนเฅเคคเคพ เคนเฅเฅค
- โ ๏ธ Manual Processing เคเฅ เคเคพเคฐเคฃ เคเคฒเคคเคฟเคฏเคพเค เคนเฅเคจเฅ เคเฅ เคธเคเคญเคพเคตเคจเคพ เคฐเคนเคคเฅ เคนเฅเฅค
- ๐ Support Availability เคเคฐเฅเคฎเคเคพเคฐเคฟเคฏเฅเค เคเฅ เคเคชเคฒเคฌเฅเคงเคคเคพ เคเคฐ Working Hours เคชเคฐ เคจเคฟเคฐเฅเคญเคฐ เคนเฅ เคธเคเคคเฅ เคนเฅเฅค
โ 2.2 Proposed AI-Powered Solution
เคเคจ เคธเคฎเคธเฅเคฏเคพเคเค เคเฅ เคนเคฒ เคเคฐเคจเฅ เคเฅ เคฒเคฟเค เคเคเคชเคจเฅ เคเค AI-Powered Customer Support System เคตเคฟเคเคธเคฟเคค เคเคฐ เคธเคเคคเฅ เคนเฅเฅค
เคฏเคน System เคจเคฟเคฎเฅเคจเคฒเคฟเคเคฟเคค เคเคพเคฐเฅเคฏ เคเคฐ เคธเคเคคเคพ เคนเฅ:
- ๐ง Customer Questions เคเฅ เคธเคฎเคเคจเคพเฅค
- ๐ฏ Customer Intent เคเฅ เคชเคนเคเคพเคจ เคเคฐเคจเคพเฅค
- ๐ Company Documents เคธเฅ Relevant Information Retrieve เคเคฐเคจเคพเฅค
- ๐ Authorized Customer เคเคฐ Order Information Access เคเคฐเคจเคพเฅค
- ๐ฆ Return เคเคฐ Refund Eligibility Check เคเคฐเคจเคพเฅค
- ๐ Approved Return Requests Initiate เคเคฐเคจเคพเฅค
- ๐ณ Refund Status Retrieve เคเคฐเคจเคพเฅค
- ๐จโ๐ป Complex เคฏเคพ Uncertain Requests เคเฅ Human Support เคคเค Escalate เคเคฐเคจเคพเฅค
๐ก 2.3 Customer Interaction เคเคพ เคเคฆเคพเคนเคฐเคฃ
Customer:
“Where is my order?”
AI Assistant:
“Please provide your Order ID so that I can check your order status.”
Customer:
“ORD10025”
AI Assistant:
“Your order has been shipped and is currently in transit. You can check the latest shipment information using your tracking details.”
เคเคธ เคเคฆเคพเคนเคฐเคฃ เคฎเฅเค AI เคเฅเคตเคฒ เคเค Conversational Response Generate เคจเคนเฅเค เคเคฐเคคเคพ, เคฌเคฒเฅเคเคฟ Customer เคเฅ เคเคตเคพเคฌ เคฆเฅเคจเฅ เคธเฅ เคชเคนเคฒเฅ เคเคเคชเคจเฅ เคเฅ Systems เคธเฅ เคตเคพเคธเฅเคคเคตเคฟเค Order Information Retrieve เคเคฐเคคเคพ เคนเฅเฅค
๐ 3. Step 1 โ Business Requirement Analysis
Python Code เคฒเคฟเคเคจเฅ เคฏเคพ AI Technologies Select เคเคฐเคจเฅ เคธเฅ เคชเคนเคฒเฅ GenAI Forward Deployed Engineer เคเฅ เคตเคพเคธเฅเคคเคตเคฟเค Business Problem เคธเคฎเคเคจเฅ เคเคพเคนเคฟเคเฅค
เคเคธ เคชเฅเคฐเคเฅเคฐเคฟเคฏเคพ เคเฅ Business Requirement Gathering เคฏเคพ Requirement Analysis เคเคนเคพ เคเคพเคคเคพ เคนเฅเฅค
เคเคธ เคเคฐเคฃ เคฎเฅเค Engineer เคเฅ เคเคเคชเคจเฅ เคเฅ Business Objectives, Existing IT Infrastructure, Customer Support Processes, Security Requirements เคเคฐ Expected Application Behavior เคเฅ เคธเคฎเคเคจเคพ เคนเฅเคคเคพ เคนเฅเฅค
๐ฅ 3.1 Requirement Gathering เคฎเฅเค เคถเคพเคฎเคฟเคฒ Teams
เคเคฎเคคเฅเคฐ เคชเคฐ เคเคธ เคชเฅเคฐเคเฅเคฐเคฟเคฏเคพ เคฎเฅเค เคคเฅเคจ เคฎเคนเคคเฅเคตเคชเฅเคฐเฅเคฃ Teams เคถเคพเคฎเคฟเคฒ เคนเฅเคคเฅ เคนเฅเคเฅค
๐ข 1. Management Team
Management Team เคเคเคชเคจเฅ เคเฅ Business Objectives เคเฅ เคฌเคพเคฐเฅ เคฎเฅเค เคเคพเคจเคเคพเคฐเฅ เคฆเฅเคคเฅ เคนเฅเฅค
Example Requirements:
- Customer Support Workload เคเคฎ เคเคฐเคจเคพเฅค
- Customer Satisfaction เคฌเฅเคนเคคเคฐ เคฌเคจเคพเคจเคพเฅค
- Operational Costs เคเคฎ เคเคฐเคจเคพเฅค
- Repetitive Support Activities เคเฅ Automate เคเคฐเคจเคพเฅค
- Customer Response Time เคฎเฅเค เคธเฅเคงเคพเคฐ เคเคฐเคจเคพเฅค
๐ 2. Customer Support Team
Customer Support Team เคชเฅเคฐเคคเคฟเคฆเคฟเคจ เคเคฐเฅเคฎเคเคพเคฐเคฟเคฏเฅเค เคเฅ เคนเฅเคจเฅ เคตเคพเคฒเฅ เคธเคฎเคธเฅเคฏเคพเคเค เคเฅ เคฌเคพเคฐเฅ เคฎเฅเค เคฌเคคเคพเคคเฅ เคนเฅเฅค
เคเคฆเคพเคนเคฐเคฃ:
- เคเฅเคฐเคพเคนเค เค เคเฅเคธเคฐ Order Status เคเฅ เคฌเคพเคฐเฅ เคฎเฅเค เคชเฅเคเคคเฅ เคนเฅเคเฅค
- Refund Policies เคธเคฎเคเคพเคจเฅ เคฎเฅเค เคเคฐเฅเคฎเคเคพเคฐเคฟเคฏเฅเค เคเคพ เคเคพเคซเฅ เคธเคฎเคฏ เคเคฐเฅเค เคนเฅเคคเคพ เคนเฅเฅค
- Product Return Requests เคเฅ Manual เคคเคฐเฅเคเฅ เคธเฅ Process เคเคฟเคฏเคพ เคเคพเคคเคพ เคนเฅเฅค
- เคเฅเคฐเคพเคนเค เคฌเคพเคฐ-เคฌเคพเคฐ เคเค เคเฅเคธเฅ เคชเฅเคฐเคถเฅเคจ เคชเฅเคเคคเฅ เคนเฅเคเฅค
- Complex Requests เคเฅ Specialized Teams เคคเค Escalate เคเคฐเคจเคพ เคชเคกเคผเคคเคพ เคนเฅเฅค
๐ป 3. Technical Team
Technical Team เคเคเคชเคจเฅ เคเฅ Existing IT Infrastructure เคเฅ เคฌเคพเคฐเฅ เคฎเฅเค เคเคพเคจเคเคพเคฐเฅ เคฆเฅเคคเฅ เคนเฅเฅค
เคเคฆเคพเคนเคฐเคฃ:
- เคเคเคชเคจเฅ เคเฅ เคชเคพเคธ เคเค Order Management System เคนเฅเฅค
- Customer Details เคเฅ Relational Database เคฎเฅเค Maintain เคเคฟเคฏเคพ เคเคพเคคเคพ เคนเฅเฅค
- Payment Information เคเฅ Payment Gateway เคเฅ เคฎเคพเคงเฅเคฏเคฎ เคธเฅ Manage เคเคฟเคฏเคพ เคเคพเคคเคพ เคนเฅเฅค
- Return เคเคฐ Refund Policies PDF Documents เคฎเฅเค เคเคชเคฒเคฌเฅเคง เคนเฅเคเฅค
- Existing Business Applications เคฎเฅเค REST APIs เคเคชเคฒเคฌเฅเคง เคนเฅเคเฅค
- Customer Authentication เคเฅ Existing Identity System เคเฅ เคฎเคพเคงเฅเคฏเคฎ เคธเฅ Manage เคเคฟเคฏเคพ เคเคพเคคเคพ เคนเฅเฅค
๐ 3.2 Example Business Requirement Document
เคเคจ เคคเฅเคจเฅเค Teams เคเฅ เคธเคพเคฅ เคเคฐเฅเคเคพ เคเคฐเคจเฅ เคเฅ เคฌเคพเคฆ Engineer เคเค Business Requirement Document เคคเฅเคฏเคพเคฐ เคเคฐเคคเคพ เคนเฅเฅค
| Requirement ID | Business Requirement | Expected AI Functionality |
|---|---|---|
| BR001 | Customer Questions เคเฅ เคเคคเฅเคคเคฐ เคฆเฅเคจเคพ | LLM-powered chatbot |
| BR002 | Company Policies Retrieve เคเคฐเคจเคพ | RAG implementation |
| BR003 | Order Status Check เคเคฐเคจเคพ | Order Management API |
| BR004 | Product Returns Initiate เคเคฐเคจเคพ | Return Management API |
| BR005 | Refund Status Check เคเคฐเคจเคพ | Payment API integration |
| BR006 | Complex Problems Handle เคเคฐเคจเคพ | Human support escalation |
๐ก๏ธ 3.3 Non-Functional Requirements
Business Functionality เคเฅ เค เคฒเคพเคตเคพ Engineer เคเฅ Non-Functional Requirements เคญเฅ เคชเคนเคเคพเคจเคจเฅ เคเคพเคนเคฟเคเฅค
๐ Security:
เคเค Customer เคเฅ Private Information เคฆเฅเคธเคฐเฅ Customer เคเฅ เคเคชเคฒเคฌเฅเคง เคจเคนเฅเค เคนเฅเคจเฅ เคเคพเคนเคฟเคเฅค
เคเคฆเคพเคนเคฐเคฃ: Customer A เคเฅ Customer B เคเคพ Order ID เคเคชเคฏเฅเค เคเคฐเคเฅ เคเคธเคเฅ Order Details Retrieve เคเคฐเคจเฅ เคเฅ เค เคจเฅเคฎเคคเคฟ เคจเคนเฅเค เคนเฅเคจเฅ เคเคพเคนเคฟเคเฅค
๐ฏ Accuracy:
AI เคเฅ Responses Verified Company Information เคชเคฐ เคเคงเคพเคฐเคฟเคค เคนเฅเคจเฅ เคเคพเคนเคฟเคเฅค System เคเฅ Return Period, Refund Guarantees เคฏเคพ Product Conditions เคเฅ เคฌเคพเคฐเฅ เคฎเฅเค เคฎเคจเคเคขเคผเคเคค เคเคพเคจเคเคพเคฐเฅ เคจเคนเฅเค เคฆเฅเคจเฅ เคเคพเคนเคฟเคเฅค
โก Performance:
เคเค เคนเฅ เคธเคฎเคฏ เคฎเฅเค เค เคงเคฟเค เคธเคเคเฅเคฏเคพ เคฎเฅเค Customers Application เคเคพ เคเคชเคฏเฅเค เคเคฐเฅเค, เคคเคฌ เคญเฅ System เคเฅ เคธเฅเคตเฅเคเคพเคฐเฅเคฏ เคธเคฎเคฏ เคฎเฅเค Responses เคฆเฅเคจเฅ เคเคพเคนเคฟเคเฅค
๐ Scalability:
Customers เคเคฐ Requests เคเฅ เคธเคเคเฅเคฏเคพ เคฌเคขเคผเคจเฅ เคชเคฐ Infrastructure เคเฅ เคเคธ Workload เคเฅ Handle เคเคฐเคจเฅ เคฎเฅเค เคธเคเฅเคทเคฎ เคนเฅเคจเคพ เคเคพเคนเคฟเคเฅค
๐ฐ Cost:
เคเคเคชเคจเฅ เคเฅ LLM API Usage, Embedding Generation, Vector Storage, Cloud Infrastructure เคเคฐ External APIs เคธเฅ เคเฅเคกเคผเฅ เคเคฐเฅเคเฅเค เคเฅ เคเคพเคจเคเคพเคฐเฅ เคนเฅเคจเฅ เคเคพเคนเคฟเคเฅค
๐ Availability:
Application เคเฅ Service Interruptions Handle เคเคฐเคจเฅ เคเคฐ เค เคธเฅเคฅเคพเคฏเฅ เคธเคฎเคธเฅเคฏเคพเคเค เคเฅ เคฌเคพเคฆ Recover เคนเฅเคจเฅ เคฎเฅเค เคธเคเฅเคทเคฎ เคนเฅเคจเคพ เคเคพเคนเคฟเคเฅค
โ 3.4 Development เคถเฅเคฐเฅ เคเคฐเคจเฅ เคธเฅ เคชเคนเคฒเฅ เคชเฅเคเฅ เคเคพเคจเฅ เคตเคพเคฒเฅ เคชเฅเคฐเคถเฅเคจ
เคเค GenAI FDE เคเฅ เคเคธ เคชเฅเคฐเคเคพเคฐ เคเฅ เคชเฅเคฐเคถเฅเคจ เคชเฅเคเคจเฅ เคเคพเคนเคฟเค:
- Customer Information เคเคนเคพเค Store เคเฅ เคเคพเคคเฅ เคนเฅ?
- Order Details เคเคนเคพเค Maintain เคเฅ เคเคพเคคเฅ เคนเฅเค?
- Company Policies เคเคนเคพเค Store เคเฅ เคเคพเคคเฅ เคนเฅเค?
- เคเคฟเคจ LLM Providers เคเคพ เคเคชเคฏเฅเค เคเคฐเคจเฅ เคเฅ เค เคจเฅเคฎเคคเคฟ เคนเฅ?
- เคเฅเคจ-เคเฅเคจ เคธเฅ REST APIs เคเคชเคฒเคฌเฅเคง เคนเฅเค?
- Customer Authentication เคเฅเคธเฅ Implement เคเคฟเคฏเคพ เคเคฏเคพ เคนเฅ?
- เคเคฟเคจ Actions เคเฅ เคฒเคฟเค Human Approval เคเคตเคถเฅเคฏเค เคนเฅ?
- เคเฅเคจ-เคธเฅ Security เคเคฐ Compliance Requirements เคฒเคพเคเฅ เคนเฅเคคเฅ เคนเฅเค?
- Application เคเคฟเคคเคจเฅ Requests เคเฅ Support เคเคฐเฅ?
- Expected Response Time เคเคฐ Operating Budget เคเคฟเคคเคจเคพ เคนเฅ?
๐ก เคฎเคนเคคเฅเคตเคชเฅเคฐเฅเคฃ เคฌเคพเคค: เคธเคซเคฒ AI Engineering เคเฅ เคถเฅเคฐเฅเคเคค Business Analysis เคธเฅ เคนเฅเคคเฅ เคนเฅเฅค เคเคฟเคธเฅ Enterprise Project เคฎเฅเค Model Select เคเคฐเคจเคพ เคเคฐ Code เคฒเคฟเคเคจเคพ เคชเคนเคฒเคพ เคเคพเคฎ เคจเคนเฅเค เคนเฅเฅค
๐๏ธ 4. Step 2 โ Generative AI Architecture Design
Business Requirements เคเฅ เคธเคฎเคเคจเฅ เคเฅ เคฌเคพเคฆ Engineer Complete Solution Architecture Design เคเคฐเคคเคพ เคนเฅเฅค
๐งฉ 4.1 AI Architecture เคเฅเคฏเคพ เคนเฅ?
AI Architecture เคเค Structural Design เคนเฅ, เคเฅ เคฌเคคเคพเคคเคพ เคนเฅ เคเคฟ เคเคฟเคธเฅ AI Application เคเฅ เคตเคฟเคญเคฟเคจเฅเคจ Components เคเคฟเคธ เคชเฅเคฐเคเคพเคฐ เคเค-เคฆเฅเคธเคฐเฅ เคเฅ เคธเคพเคฅ Communicate เคเคฐเคคเฅ เคนเฅเค เคเคฐ เคฎเคฟเคฒเคเคฐ เคเคพเคฎ เคเคฐเคคเฅ เคนเฅเคเฅค
เคนเคฎเคพเคฐเฅ E-commerce Customer Support AI Agent เคฎเฅเค เคจเคฟเคฎเฅเคจเคฒเคฟเคเคฟเคค Components เคถเคพเคฎเคฟเคฒ เคนเฅเคเคเฅ:
| Component | Technology | Purpose |
|---|---|---|
| Programming Language | Python | Application Logic เคเคฐ Integration |
| Backend API | FastAPI | Customer Requests Receive เคเคฐเคจเคพ |
| Language Model | LLM | Requests เคธเคฎเคเคจเคพ เคเคฐ Responses Generate เคเคฐเคจเคพ |
| Knowledge Retrieval | RAG | Company Information Retrieve เคเคฐเคจเคพ |
| Embedding Storage | Vector Database | Vector Representations Store เคเคฐ Search เคเคฐเคจเคพ |
| Agent Workflow | LangGraph | Multi-Step Processes Coordinate เคเคฐเคจเคพ |
| Application Integration | REST APIs | Business Applications Connect เคเคฐเคจเคพ |
| AI Integration Protocol | MCP | Tools เคเคฐ Data Sources Connections เคเฅ Standardize เคเคฐเคจเคพ |
| Infrastructure | AWS, Azure เคฏเคพ GCP | Application Host เคเคฐเคจเคพ |
| Observability | Logging เคเคฐ Monitoring | Application Health เคเคฐ Performance Track เคเคฐเคจเคพ |
๐ 4.2 High-Level Project Architecture
Complete Request-Processing Flow เคเฅ เคเคธ เคชเฅเคฐเคเคพเคฐ เคธเคฎเค เคธเคเคคเฅ เคนเฅเค:
CUSTOMER
|
v
Website / Mobile Application
|
v
FastAPI Backend
|
v
Authentication and Authorization
|
v
LangGraph Agent Workflow
|
+---------+----------+
| |
v v
RAG SYSTEM BUSINESS TOOLS
| |
v v
Embedding Model Order Management API
| Return Management API
v Payment / Refund API
Vector Database |
| |
+----------+----------+
|
v
LLM Model
|
v
Business Rule Validation
|
v
Human Approval (If Required)
|
v
Final Response
|
v
CUSTOMER
เคฏเคน Architecture Language Understanding, Information Retrieval, Workflow Orchestration เคเคฐ Business Application Integration เคเฅ เคเค เคธเคพเคฅ เคเฅเคกเคผเคคเคพ เคนเฅเฅค
๐ 4.3 Python โ Programming Language
Python เคเคพ เคเคชเคฏเฅเค Backend Logic Develop เคเคฐเคจเฅ เคเคฐ เคตเคฟเคญเคฟเคจเฅเคจ AI Components เคเฅ Connect เคเคฐเคจเฅ เคเฅ เคฒเคฟเค เคเคฟเคฏเคพ เคเคพเคคเคพ เคนเฅเฅค
Python เคเฅ เคธเคนเคพเคฏเคคเคพ เคธเฅ เคจเคฟเคฎเฅเคจเคฒเคฟเคเคฟเคค เคเคพเคฐเฅเคฏ เคเคฟเค เคเคพ เคธเคเคคเฅ เคนเฅเค:
- Customer Input Receive เคเคฐเคจเคพเฅค
- Customer Requests Process เคเคฐเคจเคพเฅค
- LLM APIs Call เคเคฐเคจเคพเฅค
- Vector Databases เคธเฅ Connect เคเคฐเคจเคพเฅค
- External Applications เคธเฅ Information Retrieve เคเคฐเคจเคพเฅค
- Business Rules Execute เคเคฐเคจเคพเฅค
- REST APIs เคเคฐ MCP Clients Integrate เคเคฐเคจเคพเฅค
- Errors เคเคฐ Application Responses Handle เคเคฐเคจเคพเฅค
๐ป Basic Python Example
customer_question = "Where is my order?"
print("Customer Question:", customer_question)
Expected Output:
Customer Question: Where is my order?
เคฏเคน Customer Input Receive เคเคฐเคจเฅ เคเคพ เคเค Basic Example เคนเฅเฅค Complete Application เคเฅ เคฒเคฟเค Additional Processing, Authentication เคเคฐ Business Integrations เคเฅ เคเคตเคถเฅเคฏเคเคคเคพ เคนเฅเคคเฅ เคนเฅเฅค
๐ง 4.4 Large Language Model (LLM)
LLM เคเคพ Full Form Large Language Model เคนเฅเฅค
เคฏเคน เคเค เคเคธเคพ AI Model เคนเฅ, เคเคฟเคธเฅ Language Process เคเคฐ Generate เคเคฐเคจเฅ เคเฅ เคฒเคฟเค Design เคเคฟเคฏเคพ เคเคฏเคพ เคนเฅเฅค
LLM Text เคฎเฅเค Patterns เคชเคนเคเคพเคจ เคธเคเคคเคพ เคนเฅ, Instructions เคธเคฎเค เคธเคเคคเคพ เคนเฅ, Responses Generate เคเคฐ เคธเคเคคเคพ เคนเฅ เคเคฐ Classification เคคเคฅเคพ Information Extraction เคเฅเคธเฅ Tasks เคฎเฅเค เคธเคนเคพเคฏเคคเคพ เคเคฐ เคธเคเคคเคพ เคนเฅเฅค
LLM Model Families เคเฅ เคเคฆเคพเคนเคฐเคฃ:
- OpenAI GPT Models
- Google Gemini Models
- Anthropic Claude Models
เคนเคฎเคพเคฐเฅ E-commerce Project เคฎเฅเค LLM เคฎเฅเคเฅเคฏ เคฐเฅเคช เคธเฅ Customer Questions เคเฅ เคธเคฎเคเคจเฅ เคเคฐ Natural Language เคฎเฅเค Responses Generate เคเคฐเคจเฅ เคเฅ เคฒเคฟเค เคเคชเคฏเฅเค เคเคฟเคฏเคพ เคเคพเคคเคพ เคนเฅเฅค
๐ก เคเคฆเคพเคนเคฐเคฃ
Customer Question:
“I purchased headphones last week, but I received a damaged product. What should I do?”
LLM-Powered Application เคจเคฟเคฎเฅเคจเคฒเคฟเคเคฟเคค Information เคชเคนเคเคพเคจ เคธเคเคคเคพ เคนเฅ:
| Information | Identified Value |
|---|---|
| Product | Headphones |
| Problem | Damaged Product |
| Customer Intent | Product Return or Replacement |
| Required Information | Order ID |
Application เคเคธ Information เคเคพ เคเคชเคฏเฅเค เคเคฐเคเฅ เค เคเคฒเคพ Workflow Select เคเคฐ เคธเคเคคเคพ เคนเฅเฅค
โ ๏ธ เคฎเคนเคคเฅเคตเคชเฅเคฐเฅเคฃ: LLM เคเฅ เคเคเคชเคจเฅ เคเฅ Latest Order Details, Private Refund Policies เคฏเคพ Customer Records เคเฅ เคเคพเคจเคเคพเคฐเฅ เค เคชเคจเฅ เคเคช เคเคชเคฒเคฌเฅเคง เคจเคนเฅเค เคนเฅเคคเฅเฅค เคฏเคน Information เคชเฅเคฐเคพเคชเฅเคค เคเคฐเคจเฅ เคเฅ เคฒเคฟเค Authorized Company Knowledge Sources เคเคฐ Systems เคเฅ เคธเคพเคฅ Integration เคเคตเคถเฅเคฏเค เคนเฅเฅค
๐ 5. Step 3 โ RAG (Retrieval-Augmented Generation) Implement เคเคฐเคจเคพ
RAG เคเคพ Full Form Retrieval-Augmented Generation เคนเฅเฅค
เคฏเคน เคเค เคเคธเฅ Technique เคนเฅ, เคเฅ Information Retrieval เคเคฐ LLM-Based Response Generation เคเฅ เคเค เคธเคพเคฅ เคเฅเคกเคผเคคเฅ เคนเฅเฅค
เคธเคฐเคฒ เคถเคฌเฅเคฆเฅเค เคฎเฅเค, External Knowledge Sources เคธเฅ Relevant Information Retrieve เคเคฐเคเฅ เคเคธเฅ LLM เคเฅ เคเคชเคฒเคฌเฅเคง เคเคฐเคพเคจเฅ เคเฅ เคชเฅเคฐเคเฅเคฐเคฟเคฏเคพ เคเฅ RAG เคเคนเคคเฅ เคนเฅเคเฅค เคเคธเคธเฅ LLM เค เคงเคฟเค Relevant เคเคฐ Context-Based Answer Generate เคเคฐ เคธเคเคคเคพ เคนเฅเฅค
๐ค 5.1 เคนเคฎเฅเค RAG เคเฅ เคเคตเคถเฅเคฏเคเคคเคพ เคเฅเคฏเฅเค เคนเฅ?
เคเค E-commerce Company เคเฅ เคชเคพเคธ Business Information เคตเคพเคฒเฅ เคธเฅเคเคกเคผเฅเค Documents เคนเฅ เคธเคเคคเฅ เคนเฅเคเฅค
เคเคฆเคพเคนเคฐเคฃ:
- Product Return Policy
- Refund Policy
- Shipping Policy
- Cancellation Policy
- Warranty Policy
- Product Documentation
- Customer Support Guidelines
เคเค General-Purpose LLM เคเฅ เคเคเคชเคจเฅ เคเฅ Latest Private Documents เคเฅ เคเคพเคจเคเคพเคฐเฅ เค เคชเคจเฅ เคเคช เคเคชเคฒเคฌเฅเคง เคจเคนเฅเค เคนเฅเคคเฅเฅค
เคเคฆเคพเคนเคฐเคฃ เคเฅ เคฒเคฟเค, เคเคเคชเคจเฅ เคเฅ Return Policy เคฎเฅเค เคจเคฟเคฎเฅเคจเคฒเคฟเคเคฟเคค Conditions เคนเฅ เคธเคเคคเฅ เคนเฅเค:
- เคเฅเคตเคฒ Eligible Products เคนเฅ Return เคเคฟเค เคเคพ เคธเคเคคเฅ เคนเฅเคเฅค
- เคเฅเค Product Categories เคเฅ เคฒเคฟเค Special Return Conditions เคนเฅเคคเฅ เคนเฅเคเฅค
- เคเฅเค Products เคเฅ เคเคชเคฏเฅเค เคเคฐเคจเฅ เคเฅ เคฌเคพเคฆ Return เคจเคนเฅเค เคเคฟเคฏเคพ เคเคพ เคธเคเคคเคพเฅค
- Refunds เคเฅ Eligibility Conditions เคเฅ เค เคจเฅเคธเคพเคฐ Process เคเคฟเคฏเคพ เคเคพเคคเคพ เคนเฅเฅค
RAG เคเคจ Company-Specific Documents เคเฅ AI Application เคเฅ เคฒเคฟเค Searchable เคฌเคจเคพเคคเคพ เคนเฅเฅค
๐๏ธ 5.2 RAG Architecture
RAG Implementation เคฎเฅเค เคฆเฅ เคฎเฅเคเฅเคฏ Workflows เคนเฅเคคเฅ เคนเฅเค:
๐ฅ A. Document Ingestion: Company Documents เคเฅ เคคเฅเคฏเคพเคฐ เคเคฐเคจเคพ เคเคฐ เคเคจเคเฅ Searchable Representations เคเฅ Store เคเคฐเคจเคพเฅค
๐ค B. Question Answering: Customer เคเฅ เคชเฅเคฐเคถเฅเคจ เคชเฅเคเคจเฅ เคชเคฐ Relevant Information Retrieve เคเคฐเคจเคพ เคเคฐ เคเคธเฅ LLM เคเฅ เคเคชเคฒเคฌเฅเคง เคเคฐเคพเคจเคพเฅค
โ๏ธ 5.3 RAG Implementation โ Step by Step
เคฎเคพเคจ เคฒเฅเคเคฟเค เคเคฟ เคเคเคชเคจเฅ เคเฅ เคชเคพเคธ Product_Return_Policy.pdf เคจเคพเคฎ เคเฅ เคเค PDF File เคนเฅเฅค
๐ Step 1: Company Documents Collect เคเคฐเคจเคพ
เคธเคฌเคธเฅ เคชเคนเคฒเฅ เคเคเคชเคจเฅ เคเฅ Approved Business Information เคตเคพเคฒเฅ Documents Collect เคเคฐเคจเฅ เคนเฅเคเคเฅเฅค
เคเคฆเคพเคนเคฐเคฃ:
- Return Policy PDF
- Refund Policy PDF
- Shipping Policy PDF
- Cancellation Policy PDF
- Product Warranty PDF
เคฏเฅ เคธเคญเฅ Documents เคฎเคฟเคฒเคเคฐ เคเคเคชเคจเฅ เคเคพ Knowledge Base เคฌเคจเคพเคคเฅ เคนเฅเคเฅค
๐ Step 2: Documents เคธเฅ Text Extract เคเคฐเคจเคพ
Application เคเฅ Documents เคฎเฅเค เคฎเฅเคเฅเคฆ Readable Text Extract เคเคฐเคจเคพ เคนเฅเคเคพเฅค
เคเคฆเคพเคนเคฐเคฃ เคเฅ เคฒเคฟเค, เคเค PDF เคฎเฅเค เคฏเคน เคฒเคฟเคเคพ เคนเฅ เคธเคเคคเคพ เคนเฅ:
“Customers can return eligible products within the return period specified for the product category.”
Extract เคเคฟเค เคเค Text เคเฅ เคเคธเฅ Format เคฎเฅเค Convert เคเคฟเคฏเคพ เคเคพเคคเคพ เคนเฅ, เคเคฟเคธเฅ Application Process เคเคฐ เคธเคเฅเฅค
PDF Text Extraction เคเฅ เคฒเคฟเค PyMuPDF เคเคฐ pypdf เคเฅเคธเฅ Python Libraries เคเคพ เคเคชเคฏเฅเค เคเคฟเคฏเคพ เคเคพ เคธเคเคคเคพ เคนเฅเฅค
Scanned Documents เคเฅ เคฒเคฟเค เค เคคเคฟเคฐเคฟเคเฅเคค OCR Process เคเฅ เคเคตเคถเฅเคฏเคเคคเคพ เคนเฅ เคธเคเคคเฅ เคนเฅเฅค
โ๏ธ Step 3: Text เคเฅ เคเฅเคเฅ-เคเฅเคเฅ Chunks เคฎเฅเค Divide เคเคฐเคจเคพ
Chunking เคเคพ เค เคฐเฅเคฅ เคนเฅ เคฌเคกเคผเฅ Documents เคเฅ เคเฅเคเฅ-เคเฅเคเฅ Text Sections เคฎเฅเค เคตเคฟเคญเคพเคเคฟเคค เคเคฐเคจเคพเฅค
เคฎเคพเคจ เคฒเฅเคเคฟเค เคเคฟ เคเค PDF Document เคฎเฅเค 100 Pages เคนเฅเคเฅค เคชเฅเคฐเคคเฅเคฏเฅเค Customer Question เคเฅ เคฒเคฟเค เคชเฅเคฐเคพ Document LLM เคเฅ เคญเฅเคเคจเคพ Efficient เคจเคนเฅเค เคนเฅ เคธเคเคคเคพ เคเคฐ Model เคเฅ Context Limits เคญเฅ เคชเคพเคฐ เคนเฅ เคธเคเคคเฅ เคนเฅเคเฅค
เคเคธเคฒเคฟเค Document เคเฅ เคเฅเคเฅ เคเคฐ Manageable Chunks เคฎเฅเค Divide เคเคฟเคฏเคพ เคเคพเคคเคพ เคนเฅเฅค
Original Text:
“Customers can return eligible products according to the applicable return policy. Products must satisfy the conditions specified for their category. Refunds are processed according to the company’s refund policy.”
Chunking เคเฅ เคฌเคพเคฆ:
๐ Chunk 1 โ Return Eligibility
“Customers can return eligible products according to the applicable return policy.”
๐ Chunk 2 โ Product Conditions
“Products must satisfy the conditions specified for their category.”
๐ Chunk 3 โ Refund Policy
“Refunds are processed according to the company’s refund policy.”
เค เคฌ เคชเฅเคฐเคคเฅเคฏเฅเค Customer Question เคเฅ เคฒเคฟเค เคชเฅเคฐเคพ Document Process เคเคฐเคจเฅ เคเฅ เคฌเคเคพเคฏ เคเฅเคตเคฒ เคเคตเคถเฅเคฏเค Chunks Retrieve เคเคฟเค เคเคพ เคธเคเคคเฅ เคนเฅเคเฅค
เคเฅเค Chunking Methods เคฎเฅเค เคเค Chunk เคเคฐ เค เคเคฒเฅ Chunk เคเฅ เคฌเฅเค Overlapping Text เคญเฅ เคฐเคเคพ เคเคพเคคเคพ เคนเฅ, เคคเคพเคเคฟ Context เคฌเคจเคพ เคฐเคนเฅเฅค
Chunk Size เคเคฐ Overlap เคเฅ เคตเคพเคธเฅเคคเคตเคฟเค Documents เคเฅ Structure เคเคฐ Retrieval Quality เคเฅ เคเคงเคพเคฐ เคชเคฐ Test เคเคฐเคจเคพ เคเคพเคนเคฟเคเฅค
๐ข Step 4: Embeddings Generate เคเคฐเคจเคพ
Embeddings เคเคฟเคธเฅ Embedding Model เคฆเฅเคตเคพเคฐเคพ Generate เคเคฟเค เคเค Numerical Representations เคนเฅเคคเฅ เคนเฅเคเฅค
เคฏเฅ Text Passages เคเฅ เคฌเฅเค Semantic Relationships เคเฅ Mathematical Vector Space เคฎเฅเค Represent เคเคฐเคจเฅ เคฎเฅเค เคธเคนเคพเคฏเคคเคพ เคเคฐเคคเฅ เคนเฅเคเฅค
เคเคจ เคฆเฅ Sentences เคชเคฐ เคงเฅเคฏเคพเคจ เคฆเฅเค:
- “How can I return my product?”
- “What is the product return procedure?”
เคเคจ เคฆเฅเคจเฅเค Sentences เคฎเฅเค Words เค เคฒเค-เค เคฒเค เคนเฅเค, เคฒเฅเคเคฟเคจ เคเคจเคเคพ Meaning เคเค-เคฆเฅเคธเคฐเฅ เคธเฅ เคธเคเคฌเคเคงเคฟเคค เคนเฅเฅค
Embedding Model เคเคจ Sentences เคเฅ Numerical Vectors เคฎเฅเค Convert เคเคฐเคคเคพ เคนเฅเฅค
Illustrative Example:
Sentence 1:
[0.21, 0.45, 0.67, 0.82]
Sentence 2:
[0.23, 0.43, 0.69, 0.80]
เคฏเฅ เคเฅเคตเคฒ เคธเคฎเคเคพเคจเฅ เคเฅ เคฒเคฟเค เคฆเคฟเค เคเค Simplified Values เคนเฅเคเฅค เคฏเฅ เคเคฟเคธเฅ เคตเคฟเคถเฅเคท Model เคเฅ เคตเคพเคธเฅเคคเคตเคฟเค Embedding Outputs เคฏเคพ Dimensions เคจเคนเฅเค เคนเฅเคเฅค
เคเฅเคฏเฅเคเคเคฟ เคฆเฅเคจเฅเค Sentences เคเฅ Meanings เคธเคเคฌเคเคงเคฟเคค เคนเฅเค, เคเคธเคฒเคฟเค เคเคจเคเฅ Vectors Embedding Space เคฎเฅเค เคเค-เคฆเฅเคธเคฐเฅ เคเฅ เคเคฐเฅเคฌ เคนเฅ เคธเคเคคเฅ เคนเฅเคเฅค
๐๏ธ Step 5: Vector Database เคฎเฅเค Embeddings Store เคเคฐเคจเคพ
Embeddings Generate เคเคฐเคจเฅ เคเฅ เคฌเคพเคฆ เคเคจเฅเคนเฅเค Vector Index เคฏเคพ Vector Database เคฎเฅเค Store เคเคฟเคฏเคพ เคเคพเคคเคพ เคนเฅเฅค
เคเคฆเคพเคนเคฐเคฃ:
- Pinecone
- Chroma
- FAISS
เคเค Stored Record เคฎเฅเค เคจเคฟเคฎเฅเคจเคฒเคฟเคเคฟเคค Information เคนเฅ เคธเคเคคเฅ เคนเฅ:
| Field | Example |
|---|---|
| Document ID | DOC101 |
| Chunk ID | CHUNK001 |
| Text | Customers can return eligible products… |
| Embedding | Numerical Vector |
| Metadata | Return Policy |
| Document Version | Version 2 |
| Category | Electronics |
Metadata เคเฅ เคฎเคฆเคฆ เคธเฅ Document Type, Product Category, Region เคเคฐ เค เคจเฅเคฏ Business Conditions เคเฅ เคเคงเคพเคฐ เคชเคฐ Information Filter เคเฅ เคเคพ เคธเคเคคเฅ เคนเฅเฅค
Technical Note: FAISS เคเค Vector Similarity-Search Library เคนเฅเฅค เคฏเคน Hosted Vector Database Service เคเฅ เคธเคฎเคพเคจ Managed Service เคจเคนเฅเค เคนเฅเฅค เคเคธเคเคพ เคเคชเคฏเฅเค Application เคเฅ เค เคเคฆเคฐ Vector Search Functionality เคฌเคจเคพเคจเฅ เคเฅ เคฒเคฟเค เคเคฟเคฏเคพ เคเคพ เคธเคเคคเคพ เคนเฅเฅค
๐ Step 6: Relevant Information Retrieve เคเคฐเคจเคพ
เคฎเคพเคจ เคฒเฅเคเคฟเค เคเคฟ Customer เคฏเคน เคชเฅเคฐเคถเฅเคจ เคชเฅเคเคคเคพ เคนเฅ:
“How can I return my headphones?”
Application เคจเคฟเคฎเฅเคจเคฒเคฟเคเคฟเคค Activities Perform เคเคฐเคคเคพ เคนเฅ:
- Customer Question Receive เคเคฐเคคเคพ เคนเฅเฅค
- Question เคเฅ เคฒเคฟเค Embedding Generate เคเคฐเคคเคพ เคนเฅเฅค
- Vector Index เคฎเฅเค Search เคเคฐเคคเคพ เคนเฅเฅค
- Semantically Related Document Chunks เคชเคนเคเคพเคจเคคเคพ เคนเฅเฅค
- เคธเคฌเคธเฅ Relevant Information Retrieve เคเคฐเคคเคพ เคนเฅเฅค
Example Retrieved Information:
“Customers can return eligible products according to the applicable return policy.”
เคฏเคน Information Customer เคเฅ เคเคคเฅเคคเคฐ เคฆเฅเคจเฅ เคเฅ เคฒเคฟเค เคเคชเคฏเฅเคเฅ Context เคชเฅเคฐเคฆเคพเคจ เคเคฐเคคเฅ เคนเฅเฅค
๐ฉ Step 7: Retrieved Information เคเฅ LLM เคเฅ เคญเฅเคเคจเคพ
Application Customer Question เคเคฐ Retrieved Company Information เคเฅ เคฎเคฟเคฒเคพเคเคฐ LLM เคเฅ เคญเฅเคเคคเคพ เคนเฅเฅค
Illustrative Prompt:
You are an E-commerce customer support assistant.
Answer the customer using the company information
provided below.
Company Information:
Customers can return eligible products according
to the applicable return policy.
Customer Question:
How can I return my headphones?
Instructions:
- Provide a clear and helpful answer.
- Do not invent policy details.
- If information is insufficient, ask for clarification.
- Do not claim that a return has been created.
โ Step 8: Final Response Generate เคเคฐเคจเคพ
LLM Retrieved Information เคเคพ เคเคชเคฏเฅเค เคเคฐเคเฅ Customer เคเฅ เคฒเคฟเค เคเค เคธเคฎเคเคจเฅ เคฏเฅเคเฅเคฏ เคเคคเฅเคคเคฐ เคคเฅเคฏเคพเคฐ เคเคฐเคคเคพ เคนเฅเฅค
Customer:
“How can I return my headphones?”
AI Assistant:
“You can request a return if your headphones satisfy the company’s return eligibility conditions. Please provide your Order ID so that I can check your order details.”
๐ 5.4 Complete RAG Workflow
DOCUMENT INGESTION
Company PDF Documents
|
v
Text Extraction
|
v
Text Chunking
|
v
Embedding Generation
|
v
Vector Database / Index
QUESTION ANSWERING
Customer Question
|
v
Question Embedding
|
v
Similarity Search
|
v
Retrieve Relevant Chunks
|
v
Construct LLM Context
|
v
LLM Response Generation
|
v
Final Customer Answer
๐ 5.5 Important RAG Concepts
๐ Similarity Search: Query Vector เคเฅ เคเคฐเฅเคฌ เคฎเฅเคเฅเคฆ Vectors เคเฅ เคเค เคจเคฟเคฐเฅเคงเคพเคฐเคฟเคค Similarity เคฏเคพ Distance Measure เคเฅ เคเคงเคพเคฐ เคชเคฐ เคชเคนเคเคพเคจเคจเฅ เคเฅ เคชเฅเคฐเคเฅเคฐเคฟเคฏเคพเฅค
๐ฅ Retrieval: Knowledge Base เคธเฅ เคเคชเคฏเฅเคเฅ Documents เคฏเคพ Chunks Select เคเคฐเคจเคพเฅค
๐งฉ Context Augmentation: Retrieved Information เคเฅ LLM Input เคฎเฅเค Context เคเฅ เคฐเฅเคช เคฎเฅเค เคเฅเคกเคผเคจเคพเฅค
โ๏ธ Generation: LLM เคเคพ เคเคชเคฏเฅเค เคเคฐเคเฅ เคธเคฎเคเคจเฅ เคฏเฅเคเฅเคฏ Response เคคเฅเคฏเคพเคฐ เคเคฐเคจเคพเฅค
๐ RAG Evaluation: เคฏเคน Measure เคเคฐเคจเคพ เคเคฟ Retrieval เคเคฐ Generated Answers Relevant, Accurate เคเคฐ Source Documents เคฆเฅเคตเคพเคฐเคพ Supported เคนเฅเค เคฏเคพ เคจเคนเฅเคเฅค
Production System เคฎเฅเค Retrieval Quality เคฌเฅเคนเคคเคฐ เคฌเคจเคพเคจเฅ เคเฅ เคฒเคฟเค Hybrid Search, Metadata Filtering, Reranking เคเคฐ Source Citations เคเฅเคธเฅ Techniques เคเคพ เคญเฅ เคเคชเคฏเฅเค เคเคฟเคฏเคพ เคเคพ เคธเคเคคเคพ เคนเฅเฅค
โ ๏ธ เคฎเคนเคคเฅเคตเคชเฅเคฐเฅเคฃ: เคเฅเคตเคฒ RAG เคเคพ เคเคชเคฏเฅเค เคเคฐเคจเฅ เคธเฅ Correct Answers เคเฅ Guarantee เคจเคนเฅเค เคฎเคฟเคฒเคคเฅเฅค Documents เคเฅ Quality, Embeddings, Retrieval Configuration, Prompts เคเคฐ Evaluation Process เคธเคญเฅ Results เคเฅ เคชเฅเคฐเคญเคพเคตเคฟเคค เคเคฐเคคเฅ เคนเฅเคเฅค
VLR Training Generative AI เคธเฅเคเคจเฅ เคตเคพเคฒเฅ เคตเคฟเคฆเฅเคฏเคพเคฐเฅเคฅเคฟเคฏเฅเค เคเฅ เคฒเคฟเค Enterprise Knowledge Assistants เคฌเคจเคพเคจเฅ เคนเฅเคคเฅ Document Ingestion เคเคฐ Question Answering Process เคเฅ เคธเคฎเคเคจเคพ เคเคตเคถเฅเคฏเค เคนเฅเฅค
๐ค 6. Step 4 โ AI Agent Develop เคเคฐเคจเคพ
Information Retrieve เคเคฐเคจเคพ เคเคฐ Customer Questions เคเฅ เคเคคเฅเคคเคฐ เคฆเฅเคจเคพ เคฎเคนเคคเฅเคตเคชเฅเคฐเฅเคฃ เคนเฅเฅค เคฒเฅเคเคฟเคจ เคเค Enterprise Customer Support Application เคเฅ Authorized Business Operations เคญเฅ Perform เคเคฐเคจเฅ เคเคพเคนเคฟเคเฅค
เคฏเคนเฅเค เคชเคฐ AI Agents เคเคชเคฏเฅเคเฅ เคนเฅเคคเฅ เคนเฅเคเฅค
๐ง 6.1 AI Agent เคเฅเคฏเคพ เคนเฅ?
AI Agent เคเค AI-Powered System เคนเฅ, เคเฅ เคเคฟเคธเฅ เคจเคฟเคฐเฅเคงเคพเคฐเคฟเคค Task เคเฅ เคชเฅเคฐเคพ เคเคฐเคจเฅ เคเฅ เคฒเคฟเค Available Tools, Application Integrations เคเคฐ Controlled Workflows เคเคพ เคเคชเคฏเฅเค เคเคฐเคคเคพ เคนเฅเฅค
AI Agent เคจเคฟเคฎเฅเคจเคฒเคฟเคเคฟเคค เคเคพเคฎ เคเคฐ เคธเคเคคเคพ เคนเฅ:
- User Request เคเฅ เคธเคฎเคเคจเคพเฅค
- เคเคตเคถเฅเคฏเค Action เคเฅ เคชเคนเคเคพเคจ เคเคฐเคจเคพเฅค
- Missing Information Collect เคเคฐเคจเคพเฅค
- Available Tool Select เคเคฐเคจเคพเฅค
- Tool Execution Request เคเคฐเคจเคพเฅค
- Tool เคธเฅ เคชเฅเคฐเคพเคชเฅเคค Result เคเฅ เคเคพเคเค เคเคฐเคจเคพเฅค
- Workflow เคเฅ เค เคเคฒเฅ Steps Execute เคเคฐเคจเคพเฅค
- Final Response เคฆเฅเคจเคพเฅค
เคเค เคธเคพเคฎเคพเคจเฅเคฏ Chatbot เคฎเฅเคเฅเคฏ เคฐเฅเคช เคธเฅ Conversation เคชเคฐ เคงเฅเคฏเคพเคจ เคฆเฅเคคเคพ เคนเฅเฅค เคฒเฅเคเคฟเคจ AI Agent เคเคฟเคธเฅ Business Task เคเฅ เคชเฅเคฐเคพ เคเคฐเคจเฅ เคเฅ เคฒเคฟเค เคเค Operations เคเฅ Coordinate เคเคฐ เคธเคเคคเคพ เคนเฅเฅค
๐ 6.2 Traditional Chatbot vs AI Agent
| Traditional Chatbot | AI Agent |
|---|---|
| เคฎเฅเคเฅเคฏ เคฐเฅเคช เคธเฅ Questions เคเฅ เคเคคเฅเคคเคฐ เคฆเฅเคคเคพ เคนเฅ | Questions เคเฅ เคเคคเฅเคคเคฐ เคฆเฅเคจเฅ เคเฅ เคธเคพเคฅ Tasks เคญเฅ Perform เคเคฐ เคธเคเคคเคพ เคนเฅ |
| Product Information เคธเคฎเคเคพเคคเคพ เคนเฅ | เคตเคพเคธเฅเคคเคตเคฟเค Order Information Retrieve เคเคฐเคคเคพ เคนเฅ |
| Return Policies เคธเคฎเคเคพเคคเคพ เคนเฅ | Authorized Return Request Initiate เคเคฐ เคธเคเคคเคพ เคนเฅ |
| Refund Policy Details เคฆเฅเคคเคพ เคนเฅ | Approved Tools เคธเฅ Refund Status Check เคเคฐ เคธเคเคคเคพ เคนเฅ |
| เคธเคพเคฎเคพเคจเฅเคฏ Conversational Patterns Follow เคเคฐเคคเคพ เคนเฅ | Multi-Step Workflows Coordinate เคเคฐ เคธเคเคคเคพ เคนเฅ |
| Business Systems เคเฅ เคธเคพเคฅ Integration เคเคตเคถเฅเคฏเค เคจเคนเฅเค เคญเฅ เคนเฅ เคธเคเคคเคพ | Configured APIs เคเคฐ Tools เคเคพ เคเคชเคฏเฅเค เคเคฐ เคธเคเคคเคพ เคนเฅ |
๐ก 6.3 Real-Time Example โ Product Return
เคฎเคพเคจ เคฒเฅเคเคฟเค เคเคฟ เคเค Customer เคชเคฟเคเคฒเฅ เคธเคชเฅเคคเคพเคน เคเคฐเฅเคฆเฅ เคเค Headphones Return เคเคฐเคจเคพ เคเคพเคนเคคเคพ เคนเฅเฅค
Customer:
“I want to return the headphones I purchased last week.”
เคเค Basic Chatbot เคเคธ เคชเฅเคฐเคเคพเคฐ เคเคตเคพเคฌ เคฆเฅ เคธเคเคคเคพ เคนเฅ:
“You can return eligible products according to our return policy.”
เคฏเคน เคเฅเคตเคฒ Return Policy เคธเคฎเคเคพเคคเคพ เคนเฅ, เคฒเฅเคเคฟเคจ Return Request Create เคจเคนเฅเค เคเคฐเคคเคพเฅค
AI Agent Complete Return Workflow เคเฅ Coordinate เคเคฐ เคธเคเคคเคพ เคนเฅเฅค
โ๏ธ 6.4 AI Agent Workflow โ Step by Step
๐ฏ Step 1: Customer Intent เคเฅ เคธเคฎเคเคจเคพ
Customer เคเคนเคคเคพ เคนเฅ:
“I want to return my headphones.”
LLM-Powered Application เคชเคนเคเคพเคจเคคเคพ เคนเฅ เคเคฟ Customer เคเคพ Intent Product Return เคเคฐเคจเคพ เคนเฅเฅค
เคเคธเฅ Intent Understanding เคเคนเคพ เคเคพเคคเคพ เคนเฅเฅค
๐ Step 2: Required Information Collect เคเคฐเคจเคพ
Application Check เคเคฐเคคเคพ เคนเฅ เคเคฟ เคเคธเคเฅ เคชเคพเคธ เคเคตเคถเฅเคฏเค Information เคนเฅ เคฏเคพ เคจเคนเฅเคเฅค
เคฏเคฆเคฟ Order ID เคเคชเคฒเคฌเฅเคง เคจเคนเฅเค เคนเฅ, เคคเฅ Application เคชเฅเคเคคเคพ เคนเฅ:
“Please provide your Order ID to continue.”
Customer:
“ORD10025”
๐ Step 3: Order Details Retrieve เคเคฐเคจเคพ
Application, Order Management API เคเฅ Call เคเคฐเคคเคพ เคนเฅเฅค
Illustrative API Request:
GET /api/orders/ORD10025
Example API Response:
{
"order_id": "ORD10025",
"product": "Headphones",
"purchase_status": "Delivered",
"return_status": "Not Requested"
}
๐ Step 4: Order Information Verify เคเคฐเคจเคพ
Application API เคธเฅ เคชเฅเคฐเคพเคชเฅเคค Details เคเฅ Check เคเคฐเคคเคพ เคนเฅเฅค
| Field | Retrieved Value |
|---|---|
| Order ID | ORD10025 |
| Product | Headphones |
| Purchase Status | Delivered |
| Return Status | Not Requested |
Backend เคเฅ เคฏเคน เคญเฅ Confirm เคเคฐเคจเคพ เคนเฅเคเคพ เคเคฟ เคฏเคน Order Authenticated Customer เคเคพ เคนเฅ เคนเฅเฅค
๐ Step 5: Return Policy Retrieve เคเคฐเคจเคพ
Application RAG เคเคพ เคเคชเคฏเฅเค เคเคฐเคเฅ Headphones เคธเฅ เคธเคเคฌเคเคงเคฟเคค Return Policy Retrieve เคเคฐเคคเคพ เคนเฅเฅค
Example Query:
“What are the return eligibility conditions for headphones?”
RAG เคธเคเคฌเคเคงเคฟเคค Company Policy เคเฅ Retrieve เคเคฐเคคเคพ เคนเฅเฅค
๐ Step 6: Return Eligibility Check เคเคฐเคจเคพ
Application เคจเคฟเคฎเฅเคจเคฒเคฟเคเคฟเคค เคฌเคพเคคเฅเค เคเฅ Verify เคเคฐเคคเคพ เคนเฅ:
- เคเฅเคฏเคพ Order Deliver เคนเฅ เคเฅเคเคพ เคนเฅ?
- เคเฅเคฏเคพ Return Period เค เคญเฅ เคญเฅ Valid เคนเฅ?
- เคเฅเคฏเคพ เคฏเคน Product Category Return เคเฅ เคฒเคฟเค Eligible เคนเฅ?
- เคเฅเคฏเคพ เคธเคญเฅ เคเคตเคถเฅเคฏเค Product Conditions เคชเฅเคฐเฅ เคนเฅเค?
- เคเฅเคฏเคพ เคชเคนเคฒเฅ เคธเฅ เคเฅเค Return Request Create เคเฅ เคเค เคนเฅ?
เคฏเฅ เคธเคญเฅ Checks เคเคเคชเคจเฅ เคเฅ เคตเคพเคธเฅเคคเคตเคฟเค Business Rules เคเคฐ Verified Data เคชเคฐ เคเคงเคพเคฐเคฟเคค เคนเฅเคจเฅ เคเคพเคนเคฟเคเฅค
LLM Customer Request เคเฅ เคธเคฎเคเคจเฅ เคฎเฅเค เคธเคนเคพเคฏเคคเคพ เคเคฐ เคธเคเคคเคพ เคนเฅ, เคฒเฅเคเคฟเคจ Final Eligibility Decision เคเฅ Trusted Backend Logic เคฆเฅเคตเคพเคฐเคพ Enforce เคเคฟเคฏเคพ เคเคพเคจเคพ เคเคพเคนเคฟเคเฅค
๐ Step 7: Return Request Create เคเคฐเคจเคพ
เคฏเคฆเคฟ Product เคธเคญเฅ Return Conditions เคชเฅเคฐเฅ เคเคฐเคคเคพ เคนเฅ, เคคเฅ Application Return Management API เคเฅ Call เคเคฐเคคเคพ เคนเฅเฅค
Illustrative API Request:
POST /api/returns
Content-Type: application/json
Example Request Body:
{
"order_id": "ORD10025",
"product": "Headphones",
"reason": "Customer requested return"
}
Example API Response:
{
"return_id": "RET5001",
"status": "Return Request Created"
}
เคฏเฅ เคเฅเคตเคฒ เคเคฆเคพเคนเคฐเคฃ เคเฅ เคฒเคฟเค เคฆเคฟเค เคเค API Endpoints เคเคฐ Responses เคนเฅเคเฅค เคตเคพเคธเฅเคคเคตเคฟเค API Paths, Authentication, Data Fields เคเคฐ Return Rules เคเคเคชเคจเฅ เคเฅ Implementation เคชเคฐ เคจเคฟเคฐเฅเคญเคฐ เคเคฐเคคเฅ เคนเฅเคเฅค
โ Step 8: Customer เคเฅ Confirmation เคฆเฅเคจเคพ
Application API Result เคเฅ เคเคงเคพเคฐ เคชเคฐ Customer เคเฅ Final Response เคฆเฅเคคเคพ เคนเฅเฅค
AI Assistant:
“Your return request has been successfully created.
Return ID: RET5001
You can use this ID to track your return request.”
Return Management System เคธเฅ Successful Result เคฎเคฟเคฒเคจเฅ เคเฅ เคฌเคพเคฆ เคนเฅ Application เคเฅ เคเคธเคพ Confirmation เคฆเฅเคจเคพ เคเคพเคนเคฟเคเฅค
๐ก๏ธ 6.5 Human Approval เคเคฐ Human-in-the-Loop
เคนเคฐ Operation เคเฅ AI เคฆเฅเคตเคพเคฐเคพ เคธเฅเคตเคเคพเคฒเคฟเคค เคฐเฅเคช เคธเฅ Perform เคจเคนเฅเค เคเคฟเคฏเคพ เคเคพเคจเคพ เคเคพเคนเคฟเคเฅค
เคเฅเค Actions เคฎเฅเค Financial, Legal เคฏเคพ Operational Risks เคนเฅ เคธเคเคคเฅ เคนเฅเคเฅค
เคเคฆเคพเคนเคฐเคฃ:
- Refund Issue เคเคฐเคจเคพเฅค
- High-Value Order Cancel เคเคฐเคจเคพเฅค
- Special Return Request Approve เคเคฐเคจเคพเฅค
- Sensitive Customer Record เคฌเคฆเคฒเคจเคพเฅค
- Company Policy เคฎเฅเค Exception เคฆเฅเคจเคพเฅค
Company เคเฅ เคจเคฟเคฎเฅเคจเคฒเคฟเคเคฟเคค Approvals เคเฅ เคเคตเคถเฅเคฏเคเคคเคพ เคนเฅ เคธเคเคคเฅ เคนเฅ:
- Customer Identity Verification.
- Refund Eligibility Validation.
- Manager Approval.
- Payment System Authorization.
- Audit Recording.
เคเคฌ Configured Workflow เคฎเฅเค Approval เคเคตเคถเฅเคฏเค เคนเฅ, เคคเคฌ AI Agent เคเฅ Execution Pause เคเคฐเคเฅ Approval Request เคเคฐเคจเคพ เคเคพเคนเคฟเคเฅค
โ๏ธ 6.6 เคเคธ Project เคฎเฅเค LangGraph เคเฅ เคญเฅเคฎเคฟเคเคพ
LangGraph เคเคพ เคเคชเคฏเฅเค Stateful เคเคฐ Multi-Step AI Workflows Implement เคเคฐเคจเฅ เคเฅ เคฒเคฟเค เคเคฟเคฏเคพ เคเคพ เคธเคเคคเคพ เคนเฅเฅค
LangGraph Workflow เคฎเฅเค เคจเคฟเคฎเฅเคจเคฒเคฟเคเคฟเคค Concepts เคนเฅเคคเฅ เคนเฅเค:
- State: Workflow Execution เคเฅ เคฆเฅเคฐเคพเคจ Maintain เคเฅ เคเคพเคจเฅ เคตเคพเคฒเฅ Information.
- Nodes: เค เคฒเค-เค เคฒเค Processing Steps.
- Edges: เคเค Node เคธเฅ เคฆเฅเคธเคฐเฅ Node เคคเค Connections.
- Conditional Edges: เค เคเคฒเฅ Step เคเคพ เคเคฏเคจ เคเคฐเคจเฅ เคตเคพเคฒเฅ Rules.
- Checkpoints: Saved Workflow State, เคเฅ Recovery เคเคฐ Continuation เคฎเฅเค เคธเคนเคพเคฏเคคเคพ เคเคฐเคคเฅ เคนเฅเฅค
- Human-in-the-Loop: Review เคฏเคพ Approval เคเฅ เคฒเคฟเค Execution เคเฅ Pause เคเคฐเคจเคพเฅค
เคเคธ Project เคเฅ เคฒเคฟเค เคจเคฟเคฎเฅเคจเคฒเคฟเคเคฟเคค Nodes เคฌเคจเคพเค เคเคพ เคธเคเคคเฅ เคนเฅเค:
| Node | Responsibility |
|---|---|
| Intent Detection | Customer Request เคเฅ เคชเคนเคเคพเคจ เคเคฐเคจเคพ |
| Information Collection | Missing Information เคฎเคพเคเคเคจเคพ |
| Authentication Check | Customer Identity Verify เคเคฐเคจเคพ |
| Order Lookup | Order Details Retrieve เคเคฐเคจเคพ |
| Policy Retrieval | RAG เคธเฅ Relevant Policy Retrieve เคเคฐเคจเคพ |
| Eligibility Check | Company Return Rules Apply เคเคฐเคจเคพ |
| Approval | เคเคตเคถเฅเคฏเคเคคเคพ เคนเฅเคจเฅ เคชเคฐ Authorization เคฎเคพเคเคเคจเคพ |
| Return Creation | Return Management API Call เคเคฐเคจเคพ |
| Response Generation | Customer เคเฅ เคฒเคฟเค Response เคคเฅเคฏเคพเคฐ เคเคฐเคจเคพ |
LangGraph เคฎเฅเค Deterministic Application Logic เคเคฐ LLM-Driven Steps เคเฅ เคฎเคฟเคฒเคพเคเคฐ Workflows เคฌเคจเคพเค เคเคพ เคธเคเคคเฅ เคนเฅเคเฅค
เค เคงเคฟเค เคเคพเคจเคเคพเคฐเฅ เคเฅ เคฒเคฟเค LangGraph Official Documentation เคฆเฅเคเฅเคเฅค
๐ 7. Step 5 โ MCP เคเคฐ External Application Integration
E-commerce Organizations เค เคชเคจเฅ Business Operations Manage เคเคฐเคจเฅ เคเฅ เคฒเคฟเค เคธเคพเคฎเคพเคจเฅเคฏเคคเค เคเค Applications เคเคพ เคเคชเคฏเฅเค เคเคฐเคคเฅ เคนเฅเคเฅค
เคเคฆเคพเคนเคฐเคฃ:
| Application | Purpose |
|---|---|
| Order Management System | Order Details Store เคเคฐ Manage เคเคฐเคจเคพ |
| Payment Gateway | Payments Process เคเคฐเคจเคพ |
| Customer Database | Customer Information Maintain เคเคฐเคจเคพ |
| Inventory Management System | Product Stock Manage เคเคฐเคจเคพ |
| CRM Application | Customer Relationships Manage เคเคฐเคจเคพ |
| Return Management System | Product Returns Process เคเคฐเคจเคพ |
AI Application เคเฅ เคเคจ Systems เคธเฅ Information Retrieve เคเคฐเคจเฅ เคเคฐ Approved Actions Execute เคเคฐเคจเฅ เคเฅ เคฒเคฟเค เคเคจเคเฅ เคธเคพเคฅ Communicate เคเคฐเคจเคพ เคชเคกเคผเคคเคพ เคนเฅเฅค
เคเคธ เคชเฅเคฐเคเฅเคฐเคฟเคฏเคพ เคเฅ Enterprise Application Integration เคเคนเคคเฅ เคนเฅเคเฅค
๐ 7.1 REST API Integration
REST APIs เคเฅ เคฎเคพเคงเฅเคฏเคฎ เคธเฅ Software Applications HTTP เคเคพ เคเคชเคฏเฅเค เคเคฐเคเฅ Information Exchange เคเคฐ เคธเคเคคเฅ เคนเฅเคเฅค
เคเคฆเคพเคนเคฐเคฃ เคเฅ เคฒเคฟเค, Order Details Retrieve เคเคฐเคจเฅ เคเฅ เคฒเคฟเค AI Application, Order Management API เคเฅ Call เคเคฐเคคเคพ เคนเฅเฅค
Illustrative Request:
GET /api/orders/ORD10025
Example Response:
{
"order_id": "ORD10025",
"product": "Headphones",
"status": "Shipped"
}
เคเคธเคเฅ เคฌเคพเคฆ AI Application เคเคธ Information เคเคพ เคเคชเคฏเฅเค Customer เคเฅ Response เคฆเฅเคจเฅ เคเฅ เคฒเคฟเค เคเคฐ เคธเคเคคเคพ เคนเฅเฅค
Return Requests Create เคเคฐเคจเฅ เคเคฐ Refund Status Retrieve เคเคฐเคจเฅ เคเฅ เคฒเคฟเค เคญเฅ REST APIs เคเคชเคฏเฅเค เคเคฟเค เคเคพ เคธเคเคคเฅ เคนเฅเคเฅค
๐ ๏ธ 7.2 Function Calling
Function Calling เคเฅเค LLM APIs เคเคฐ Agent Frameworks เคฆเฅเคตเคพเคฐเคพ เคชเฅเคฐเคฆเคพเคจ เคเฅ เคเคพเคจเฅ เคตเคพเคฒเฅ เคเค Capability เคนเฅเฅค
เคเคธเคเฅ เคฎเคพเคงเฅเคฏเคฎ เคธเฅ LLM-Powered Application เคเคฟเคธเฅ Predefined Function เคฏเคพ Tool เคเฅ Execute เคเคฐเคจเฅ เคเคพ Request เคเคฐ เคธเคเคคเคพ เคนเฅเฅค
เคจเคฟเคฎเฅเคจเคฒเคฟเคเคฟเคค Python Function เคฆเฅเคเฅเค:
def check_order_status(order_id):
# Connect to the company's Order Management API
return "Your order is shipped"
Application เคเค Appropriate Tool Definition เคเฅ เคฎเคพเคงเฅเคฏเคฎ เคธเฅ เคเคธ Function เคเฅ Model เคเฅ เคฒเคฟเค เคเคชเคฒเคฌเฅเคง เคเคฐเคพเคคเคพ เคนเฅเฅค
เคเคฌ Customer Order เคเฅ เคฌเคพเคฐเฅ เคฎเฅเค เคชเฅเคเคคเคพ เคนเฅ, เคคเคฌ Model check_order_status Tool เคเฅ Call เคเคฐเคจเฅ เคเคพ Request เคเคฐ เคธเคเคคเคพ เคนเฅเฅค
เคเคธเคเฅ เคฌเคพเคฆ Application:
- Tool Request เคเฅ Validate เคเคฐเคคเคพ เคนเฅเฅค
- Arguments เคเฅ Check เคเคฐเคคเคพ เคนเฅเฅค
- Approved Function Execute เคเคฐเคคเคพ เคนเฅเฅค
- Result Receive เคเคฐเคคเคพ เคนเฅเฅค
- Result เคเฅ เคตเคพเคชเคธ LLM เคเฅ เคฆเฅเคคเคพ เคนเฅเฅค
- Natural Language Response Generate เคเคฐเคคเคพ เคนเฅเฅค
โ ๏ธ เคฎเคนเคคเฅเคตเคชเฅเคฐเฅเคฃ: LLM เคธเฅเคตเคฏเค Arbitrary Python Code Execute เคจเคนเฅเค เคเคฐเคคเคพ เคเคฐ เคจ เคนเฅ เคธเฅเคงเฅ Company Database Access เคเคฐเคคเคพ เคนเฅเฅค Actual Function Execution เคเฅ Application Validate เคเคฐ Control เคเคฐเคคเคพ เคนเฅเฅค
๐ 7.3 MCP เคเฅเคฏเคพ เคนเฅ?
MCP เคเคพ Full Form Model Context Protocol เคนเฅเฅค
เคฏเคน เคเค Open Protocol เคนเฅ, เคเฅ AI Applications เคเฅ External Tools เคเคฐ Data Sources เคธเฅ Connect เคเคฐเคจเฅ เคเฅ เคฒเคฟเค Standardized เคคเคฐเฅเคเคพ เคชเฅเคฐเคฆเคพเคจ เคเคฐเคคเคพ เคนเฅเฅค
MCP เคเฅ เคเคพเคฐเคฃ เคชเฅเคฐเคคเฅเคฏเฅเค AI Application เคเฅ เคฒเคฟเค เค เคฒเค-เค เคฒเค Custom Connections เคฌเคจเคพเคจเฅ เคเฅ เคเคตเคถเฅเคฏเคเคคเคพ เคเคฎ เคนเฅ เคธเคเคคเฅ เคนเฅเฅค เคเคธเคเฅ เคฎเคพเคงเฅเคฏเคฎ เคธเฅ Business Capabilities เคเฅ เคเค Common Integration Approach เคฆเฅเคตเคพเคฐเคพ เคเคชเคฒเคฌเฅเคง เคเคฐเคพเคฏเคพ เคเคพ เคธเคเคคเคพ เคนเฅเฅค
๐ง Example MCP Tools
เคเค E-commerce MCP Server เคจเคฟเคฎเฅเคจเคฒเคฟเคเคฟเคค Tools เคเคชเคฒเคฌเฅเคง เคเคฐเคพ เคธเคเคคเคพ เคนเฅ:
check_order_statuscheck_refund_statuscreate_return_requestget_product_information
AI Application เค เคชเคจเฅ MCP Integration เคเฅ เคฎเคพเคงเฅเคฏเคฎ เคธเฅ เคเคจ Tools เคเฅ Discover เคเคฐ Use เคเคฐ เคธเคเคคเคพ เคนเฅเฅค เคฏเคน Configured Permissions เคเคฐ Business Controls เคเฅ เค เคงเฅเคจ เคนเฅเคคเคพ เคนเฅเฅค
๐๏ธ 7.4 MCP Architecture
MCP เคฎเฅเค HostโClientโServer Architecture เคเคพ เคเคชเคฏเฅเค เคเคฟเคฏเคพ เคเคพเคคเคพ เคนเฅเฅค
๐ฅ๏ธ MCP Host:
เคฏเคน AI Application เคนเฅเคคเคพ เคนเฅ, เคเฅ Interaction เคเฅ Coordinate เคเคฐเคคเคพ เคนเฅ เคเคฐ MCP Connections เคเฅ Manage เคเคฐเคคเคพ เคนเฅเฅค
๐ MCP Client:
เคฏเคน เคเค เคเคธเคพ Component เคนเฅ, เคเฅ เคเคฟเคธเฅ เคตเคฟเคถเฅเคท MCP Server เคเฅ เคธเคพเคฅ Communicate เคเคฐเคคเคพ เคนเฅเฅค
โ๏ธ MCP Server:
เคฏเคน Component Available Tools, Resources เคเคฐ Prompts เคเฅ Expose เคเคฐเคคเคพ เคนเฅเฅค
MCP Architecture Flow
AI APPLICATION
(HOST)
|
+-------+-------+
| |
v v
MCP CLIENT 1 MCP CLIENT 2
| |
v v
MCP SERVER 1 MCP SERVER 2
| |
v v
ORDER SYSTEM PAYMENT SYSTEM
Host เคเค MCP Clients เคเฅ Manage เคเคฐ เคธเคเคคเคพ เคนเฅ เคเคฐ เคชเฅเคฐเคคเฅเคฏเฅเค Client เคเคฟเคธเฅ เคตเคฟเคถเฅเคท MCP Server เคเฅ เคธเคพเคฅ Communicate เคเคฐเคคเคพ เคนเฅเฅค
๐งฐ 7.5 เคฎเคนเคคเฅเคตเคชเฅเคฐเฅเคฃ MCP Capabilities
1. ๐ง Tools
Tools เคเคพ เค เคฐเฅเคฅ เคเคธเฅ Operations เคธเฅ เคนเฅ, เคเคฟเคจเฅเคนเฅเค Execute เคเคฟเคฏเคพ เคเคพ เคธเคเคคเคพ เคนเฅเฅค
เคเคฆเคพเคนเคฐเคฃ:
- Order Status Check เคเคฐเคจเคพเฅค
- Return Request Create เคเคฐเคจเคพเฅค
- Refund Information Retrieve เคเคฐเคจเคพเฅค
2. ๐ Resources
Resources เคเคธเฅ Information เคเคชเคฒเคฌเฅเคง เคเคฐเคพเคคเฅ เคนเฅเค, เคเคฟเคธเฅ AI Application Context เคเฅ เคฐเฅเคช เคฎเฅเค Retrieve เคเคฐ เคธเคเคคเคพ เคนเฅเฅค
เคเคฆเคพเคนเคฐเคฃ:
- Product Documentation.
- Return Policy Documents.
- Database Schema Information.
3. ๐ Prompts
Prompts เคเคธเฅ Reusable Templates เคนเฅเคคเฅ เคนเฅเค, เคเฅ Model Interactions เคเฅ Structure เคเคฐเคจเฅ เคฎเฅเค เคฎเคฆเคฆ เคเคฐเคคเฅ เคนเฅเคเฅค
เคเคฆเคพเคนเคฐเคฃ:
- Customer Support Response Template.
- Refund Verification Instructions.
- Product Troubleshooting Template.
MCP, เคเคเคชเคจเฅ เคเฅ Order Management System, Database เคฏเคพ REST APIs เคเคพ Replacement เคจเคนเฅเค เคนเฅเฅค MCP Server เคเคจ Existing Systems เคชเคฐ เคเคงเคพเคฐเคฟเคค Functionality เคเฅ Expose เคเคฐ เคธเคเคคเคพ เคนเฅเฅค
เค เคงเคฟเค เคเคพเคจเคเคพเคฐเฅ เคเฅ เคฒเคฟเค MCP Architecture Documentation เคฆเฅเคเฅเคเฅค
๐ 7.6 REST API vs Function Calling vs MCP
| Technology | Main Purpose | Example |
|---|---|---|
| REST API | Applications เคเฅ เคฌเฅเค Communication | Order Retrieve เคเคฐเคจเคพ |
| Function Calling | LLM-Powered Application เคธเฅ Predefined Function Request เคเคฐเคจเคพ | check_order_status Call เคเคฐเคจเคพ |
| MCP | External Tools เคเคฐ Context เคคเค Standardized Access | Order-Checking MCP Tool Discover เคเคฐ Call เคเคฐเคจเคพ |
เคฏเฅ เคคเฅเคจเฅเค Technologies เค เคฒเค-เค เคฒเค เคธเคฎเคธเฅเคฏเคพเคเค เคเฅ เคนเคฒ เคเคฐเคคเฅ เคนเฅเค เคเคฐ เคเคตเคถเฅเคฏเคเคคเคพ เคเฅ เค เคจเฅเคธเคพเคฐ เคเค เคธเคพเคฅ เคเคชเคฏเฅเค เคเฅ เคเคพ เคธเคเคคเฅ เคนเฅเคเฅค
๐ก Combined Workflow Example
- Customer เคชเฅเคเคคเคพ เคนเฅ, “Please check my order status.”
- LLM-Powered Application เคเคตเคถเฅเคฏเค Operation เคเฅ เคชเคนเคเคพเคจ เคเคฐเคคเคพ เคนเฅเฅค
- Application เคเคเคฟเคค Tool Select เคเคฐเคคเคพ เคนเฅเฅค
- เคฏเคฆเคฟ MCP เคเคพ เคเคชเคฏเฅเค เคเคฟเคฏเคพ เคเคพเคคเคพ เคนเฅ, เคคเฅ MCP Client เคธเคเคฌเคเคงเคฟเคค MCP Server เคเฅ เคธเคพเคฅ Communicate เคเคฐเคคเคพ เคนเฅเฅค
- MCP Server Configured Backend Functionality เคเฅ Invoke เคเคฐเคคเคพ เคนเฅเฅค
- Order Management System Order Information Return เคเคฐเคคเคพ เคนเฅเฅค
- Application Result เคเฅ Validate เคเคฐเคคเคพ เคนเฅเฅค
- LLM Customer เคเฅ เคฒเคฟเค Response Generate เคเคฐเคคเคพ เคนเฅเฅค
โ ๏ธ เคฎเคนเคคเฅเคตเคชเฅเคฐเฅเคฃ: MCP เคเคพ เคเคชเคฏเฅเค เคเคฐเคจเฅ เคฎเคพเคคเฅเคฐ เคธเฅ Company Applications เคคเค Automatic Access เคจเคนเฅเค เคฎเคฟเคฒเคคเคพเฅค เคเคตเคถเฅเคฏเค MCP Servers, Tools, Permissions, Authentication เคเคฐ Backend Integrations เคเฅ Implement เคเคฐ Configure เคเคฐเคจเคพ เคนเฅเคคเคพ เคนเฅเฅค
VLR Training Generative AI เคธเฅเคเคจเฅ เคตเคพเคฒเฅ เคตเคฟเคฆเฅเคฏเคพเคฐเฅเคฅเคฟเคฏเฅเค เคเฅ เคฒเคฟเค Enterprise AI Agents Develop เคเคฐเคคเฅ เคธเคฎเคฏ REST APIs, Function Calling เคเคฐ MCP เคเฅ เคฌเฅเค เคธเคเคฌเคเคง เคธเคฎเคเคจเคพ เคฌเคนเฅเคค เคฎเคนเคคเฅเคตเคชเฅเคฐเฅเคฃ เคนเฅเฅค
๐ป 8. Step 6 โ FastAPI Backend Development
FastAPI เคเค Python Framework เคนเฅ, เคเคฟเคธเคเคพ เคเคชเคฏเฅเค Backend APIs Develop เคเคฐเคจเฅ เคเฅ เคฒเคฟเค เคเคฟเคฏเคพ เคเคพเคคเคพ เคนเฅเฅค
เคเคธ Project เคฎเฅเค Backend Customer Requests Receive เคเคฐเคคเคพ เคนเฅ เคเคฐ เคเคตเคถเฅเคฏเค Processing เคเฅ Coordinate เคเคฐเคคเคพ เคนเฅเฅค
เคเคฆเคพเคนเคฐเคฃ เคเฅ เคฒเคฟเค, เคเค Frontend Application Customer Question เคเฅ /chat Endpoint เคชเคฐ Send เคเคฐ เคธเคเคคเคพ เคนเฅเฅค
๐ 8.1 Basic FastAPI Implementation
Prerequisites
เคเคธ Implementation เคเฅ เคฒเคฟเค เคจเคฟเคฎเฅเคจเคฒเคฟเคเคฟเคค เคเฅเคเฅเค เคเคตเคถเฅเคฏเค เคนเฅเค:
- Python Installed เคนเฅเคจเคพ เคเคพเคนเคฟเคเฅค
- Basic Python Programming Knowledge เคนเฅเคจเฅ เคเคพเคนเคฟเคเฅค
- REST APIs เคเฅ เคเคพเคจเคเคพเคฐเฅ เคนเฅเคจเฅ เคเคพเคนเคฟเคเฅค
- VS Code เคเฅเคธเคพ Code Editor เคนเฅเคจเคพ เคเคพเคนเคฟเคเฅค
๐ฆ Step 1: Required Packages Install เคเคฐเคจเคพ
python -m pip install fastapi uvicorn
๐ Step 2: Python File Create เคเคฐเคจเคพ
main.py เคจเคพเคฎ เคธเฅ เคเค Python File Create เคเคฐเฅเคเฅค
๐งโ๐ป Step 3: FastAPI Application เคฒเคฟเคเคจเคพ
from fastapi import FastAPI
from pydantic import BaseModel
app = FastAPI(
title="E-commerce Customer Support API"
)
class ChatRequest(BaseModel):
question: str
@app.post("/chat")
async def customer_chat(payload: ChatRequest):
return {
"question": payload.question,
"message": "Your request has been received."
}
๐ Code Explanation
FastAPI: Backend Application Create เคเคฐเคคเคพ เคนเฅเฅค
BaseModel: Pydantic เคเคพ เคเคชเคฏเฅเค เคเคฐเคเฅ Expected Request Structure Define เคเคฐเคคเคพ เคนเฅเฅค
ChatRequest: Specify เคเคฐเคคเคพ เคนเฅ เคเคฟ Incoming JSON Request เคฎเฅเค question เคจเคพเคฎ เคเคพ Field เคนเฅเคจเคพ เคเคพเคนเคฟเคเฅค
@app.post(“/chat”): POST Endpoint Define เคเคฐเคคเคพ เคนเฅเฅค
customer_chat(): Request Receive เคเคฐเคคเคพ เคนเฅ เคเคฐ JSON Response Return เคเคฐเคคเคพ เคนเฅเฅค
เคฏเคน เคเฅเคตเคฒ เคเค Basic Request-Receiving Endpoint เคนเฅเฅค เคเคธเคฎเฅเค เค เคญเฅ LLM, RAG System เคฏเคพ Order Management API Connect เคจเคนเฅเค เคเคฟเคฏเคพ เคเคฏเคพ เคนเฅเฅค
โถ๏ธ Step 4: Application Run เคเคฐเคจเคพ
uvicorn main:app --reload
Local Development Server Start เคนเฅ เคเคพเคเคเคพเฅค FastAPI เคเฅ Generated Documentation Interface เคเฅ เคฎเคพเคงเฅเคฏเคฎ เคธเฅ API เคเฅ Test เคเคฟเคฏเคพ เคเคพ เคธเคเคคเคพ เคนเฅเฅค
๐ค Step 5: Test Request Send เคเคฐเคจเคพ
Endpoint:
POST /chat
Sample JSON Input:
{
"question": "Where is my order?"
}
Expected JSON Output:
{
"question": "Where is my order?",
"message": "Your request has been received."
}
๐ Step 6: AI Components Connect เคเคฐเคจเคพ
Basic Endpoint เคเฅ Validate เคเคฐเคจเฅ เคเฅ เคฌเคพเคฆ Development Team เคจเคฟเคฎเฅเคจเคฒเคฟเคเคฟเคค Components Integrate เคเคฐ เคธเคเคคเฅ เคนเฅ:
- Authentication เคเคฐ Authorization.
- LLM APIs.
- RAG Retrieval.
- LangGraph Workflows.
- REST API Tools.
- MCP Clients.
- Logging เคเคฐ Monitoring.
Request Body เคเคฐ Pydantic Models เคเฅ เค เคงเคฟเค เคเคพเคจเคเคพเคฐเฅ เคเฅ เคฒเคฟเค FastAPI Request Body Documentation เคฆเฅเคเฅเคเฅค
๐งช 9. Step 7 โ Testing เคเคฐ Evaluation
AI Application Develop เคเคฐเคจเคพ เคนเฅ เคชเคฐเฅเคฏเคพเคชเฅเคค เคจเคนเฅเค เคนเฅเฅค เค เคฒเค-เค เคฒเค Business Conditions เคฎเฅเค Application เคธเคนเฅ เคคเคฐเฅเคเฅ เคธเฅ เคเคพเคฎ เคเคฐ เคฐเคนเคพ เคนเฅ เคฏเคพ เคจเคนเฅเค, เคฏเคน Verify เคเคฐเคจเคพ เคเคตเคถเฅเคฏเค เคนเฅเฅค
เคเคธ เคชเฅเคฐเคเฅเคฐเคฟเคฏเคพ เคเฅ Testing and Evaluation เคเคนเคคเฅ เคนเฅเคเฅค
เคเฅเค System เคเค Customer Question เคเคพ เคธเคนเฅ เคเคคเฅเคคเคฐ เคฆเฅ เคธเคเคคเคพ เคนเฅ, เคฒเฅเคเคฟเคจ เคฆเฅเคธเคฐเฅ Question เคเคพ เคเคฒเคค เคเคคเฅเคคเคฐ เคญเฅ เคฆเฅ เคธเคเคคเคพ เคนเฅเฅค เคเคธเคฒเคฟเค เค เคฒเค-เค เคฒเค Scenarios เคเฅ เคฎเคพเคงเฅเคฏเคฎ เคธเฅ Testing เคเคฐเคจเฅ เคเคพเคนเคฟเคเฅค
๐ 9.1 Example Test Cases
| Test Case | Input | Expected Result |
|---|---|---|
| TC001 | Valid Order ID | Correct Order Details Retrieve เคเคฐเคจเคพ |
| TC002 | Invalid Order ID | Appropriate Error เคฆเฅเคจเคพ |
| TC003 | Return Policy Question | Company Policy เคเฅ เคเคงเคพเคฐ เคชเคฐ Answer เคฆเฅเคจเคพ |
| TC004 | Unauthorized Customer | เคฆเฅเคธเคฐเฅ Customer เคเฅ Data เคคเค Access เคฐเฅเคเคจเคพ |
| TC005 | API Failure | Error เคเฅ เคธเฅเคฐเคเฅเคทเคฟเคค เคคเคฐเฅเคเฅ เคธเฅ Handle เคเคฐเคจเคพ |
| TC006 | Uncertain AI Response | Human Support เคคเค Escalate เคเคฐเคจเคพ |
| TC007 | Ineligible Product Return | Business Rules เคเฅ เค เคจเฅเคธเคพเคฐ Request Reject เคเคฐเคจเคพ |
| TC008 | Duplicate Return Request | Unnecessary Duplicate Creation เคฐเฅเคเคจเคพ |
๐ฏ 9.2 เคฎเคนเคคเฅเคตเคชเฅเคฐเฅเคฃ Evaluation Metrics
โ 1. Response Accuracy
AI Application เคฆเฅเคตเคพเคฐเคพ เคฆเฅ เคเค Information เคธเคนเฅ เคนเฅ เคฏเคพ เคจเคนเฅเค, เคเคธเฅ Measure เคเคฐเคจเคพเฅค
Customer:
“What is my order status?”
Expected Answer:
“Your order has been shipped.”
Incorrect AI Answer:
“Your order has been delivered.”
เคฏเคน Incorrect Response Order Information Accuracy เคเฅ เคธเคฎเคธเฅเคฏเคพ เคเฅ เคฆเคฐเฅเคถเคพเคคเคพ เคนเฅเฅค
โ ๏ธ 2. AI Hallucinations
เคเคฌ เคเฅเค AI Model เคเคชเคฒเคฌเฅเคง Evidence เคฆเฅเคตเคพเคฐเคพ Supported เคจเคนเฅเค เคเฅ เคเค Information Generate เคเคฐเคคเคพ เคนเฅ, เคคเฅ เคเคธเฅ AI Hallucination เคเคนเคคเฅ เคนเฅเคเฅค
Company Document:
“Refunds are processed according to applicable eligibility conditions.”
Incorrect AI Answer:
“All refunds are guaranteed within 24 hours.”
Company Document เคฎเฅเค 24 Hours Refund Guarantee เคเคพ เคเคฒเฅเคฒเฅเค เคจเคนเฅเค เคนเฅเฅค เคเคธเคเฅ เคฌเคพเคตเคเฅเคฆ AI เคจเฅ เคฏเคน Information Generate เคเคฐ เคฆเฅเฅค
เคเคธ เคธเคฎเคธเฅเคฏเคพ เคเฅ เคเคฎ เคเคฐเคจเฅ เคเฅ เคเคชเคพเคฏ:
- Document Retrieval เคเฅ Improve เคเคฐเคจเคพเฅค
- Prompts เคฎเฅเค เคฌเฅเคนเคคเคฐ Instructions เคฆเฅเคจเคพเฅค
- Generated Responses เคเฅ Validate เคเคฐเคจเคพเฅค
- Reliable Data Sources เคเคพ เคเคชเคฏเฅเค เคเคฐเคจเคพเฅค
- Uncertain Cases เคเฅ Escalate เคเคฐเคจเคพเฅค
โฑ๏ธ 3. Response Latency
เคเคฟเคธเฅ Request เคเฅ Process เคเคฐเคเฅ Response เคฆเฅเคจเฅ เคฎเฅเค เคฒเคเคจเฅ เคตเคพเคฒเฅ เคธเคฎเคฏ เคเฅ Latency เคเคนเคคเฅ เคนเฅเคเฅค
เคเคฆเคพเคนเคฐเคฃ:
- Customer เคจเฅ 10:00:00 เคฌเคเฅ Question เคญเฅเคเคพเฅค
- AI เคจเฅ 10:00:04 เคฌเคเฅ Response เคฆเคฟเคฏเคพเฅค
- Approximate Response Latency: 4 Seconds.
Application เคเฅ Response Time Monitor เคเคฐเคจเคพ เคเคพเคนเคฟเค เคเคฐ Slow Processing Steps เคเฅ เคชเคนเคเคพเคจ เคเคฐเคจเฅ เคเคพเคนเคฟเคเฅค
๐ช 4. Token Usage
LLMs Text เคเฅ Process เคเคฐเคจเฅ เคเฅ เคฒเคฟเค Tokens เคเคพ เคเคชเคฏเฅเค เคเคฐเคคเฅ เคนเฅเคเฅค
เคเค Token เคเคฟเคธเฅ เคชเฅเคฐเฅ Word, Word เคเฅ เคเค เคญเคพเค, Punctuation เคฏเคพ เคเคฟเคธเฅ เค เคจเฅเคฏ Text Unit เคเฅ Represent เคเคฐ เคธเคเคคเคพ เคนเฅเฅค
Token Consumption เคเฅ เคเคฆเคพเคนเคฐเคฃ:
- Customer Question: Input Tokens.
- Retrieved RAG Documents: Additional Input Tokens.
- System Instructions: Additional Input Tokens.
- AI Response: Output Tokens.
Token Usage เคเค Model API Services เคเฅ Cost เคเฅ เคธเฅเคงเฅ เคชเฅเคฐเคญเคพเคตเคฟเคค เคเคฐเคคเคพ เคนเฅเฅค
๐ฐ 5. Application Cost
Organization เคเฅ Application เคธเฅ เคเฅเคกเคผเฅ เคจเคฟเคฎเฅเคจเคฒเคฟเคเคฟเคค เคเคฐเฅเคเฅเค เคเฅ Monitor เคเคฐเคจเคพ เคเคพเคนเคฟเค:
- LLM API Requests.
- Embedding Generation.
- Vector Database Storage เคเคฐ Search.
- Cloud Infrastructure.
- External API Services.
- Logging เคเคฐ Monitoring.
๐ 6. Security
Application เคเฅ Customer เคเฅ Private Information เคธเฅเคฐเคเฅเคทเคฟเคค เคฐเคเคจเฅ เคเคพเคนเคฟเคเฅค
เคเคฆเคพเคนเคฐเคฃ: Customer A, Customer B เคเฅ Order Details Retrieve เคจเคนเฅเค เคเคฐ เคธเคเฅเฅค
Engineering Team เคเฅ Authentication, Authorization, Data Access Restrictions เคเคฐ Audit Logging เคเฅ Test เคเคฐเคจเคพ เคเคพเคนเคฟเคเฅค
๐ 7. Retrieval Quality
RAG-Based Applications เคฎเฅเค เคฏเคน เคญเฅ Test เคเคฐเคจเคพ เคเคพเคนเคฟเค เคเคฟ เคธเคนเฅ Document Chunks Retrieve เคนเฅ เคฐเคนเฅ เคนเฅเค เคฏเคพ เคจเคนเฅเคเฅค
เคฎเคนเคคเฅเคตเคชเฅเคฐเฅเคฃ Concepts:
- Retrieval Precision.
- Retrieval Recall.
- Retrieved Context Relevance.
- Source Attribution Accuracy.
เคเคฟเคธเฅ Response เคเฅ Writing เค เคเฅเคเฅ เคนเฅ เคธเคเคคเฅ เคนเฅ, เคฒเฅเคเคฟเคจ เคฏเคฆเคฟ เคเคฒเคค Policy Document Retrieve เคเคฟเคฏเคพ เคเคฏเคพ เคนเฅ, เคคเฅ Response เคญเฅ เคเคฒเคค เคนเฅ เคธเคเคคเคพ เคนเฅเฅค
๐ 8. Task Success Rate
AI Agent เคเฅ เคฎเคพเคฎเคฒเฅ เคฎเฅเค เคฏเคน Measure เคเคฐเคจเคพ เคเคตเคถเฅเคฏเค เคนเฅ เคเคฟ Complete Business Task เคตเคพเคธเฅเคคเคต เคฎเฅเค เคชเฅเคฐเคพ เคนเฅเค เคฏเคพ เคจเคนเฅเคเฅค
เคเคฆเคพเคนเคฐเคฃ เคเฅ เคฒเคฟเค, เคเค Successful Return Workflow เคฎเฅเค:
- เคธเคนเฅ Order Retrieve เคนเฅเคจเคพ เคเคพเคนเคฟเคเฅค
- Return Eligibility Verify เคนเฅเคจเฅ เคเคพเคนเคฟเคเฅค
- Authorized API เคเฅ เคฎเคพเคงเฅเคฏเคฎ เคธเฅ Return Request Create เคนเฅเคจเฅ เคเคพเคนเคฟเคเฅค
- เคตเคพเคธเฅเคคเคตเคฟเค Return ID Customer เคเฅ เคฎเคฟเคฒเคจเฅ เคเคพเคนเคฟเคเฅค
เคเฅเคตเคฒ “Your return has been created” เคเฅเคธเคพ Message Generate เคเคฐเคจเคพ Task Completion เคจเคนเฅเค เคนเฅเฅค
๐จโ๐ซ 9.3 Classroom Testing Exercise
เคจเคฟเคฎเฅเคจเคฒเคฟเคเคฟเคค เคคเฅเคจ Customer Questions เคชเคฐ เคตเคฟเคเคพเคฐ เคเคฐเฅเค:
- “Where is my order? My Order ID is ORD10025.”
- “Can I return a product that is not eligible for return?”
- “Please show me another customer’s order details.”
Application เคธเฅ เค เคชเฅเคเฅเคทเคฟเคค เคตเฅเคฏเคตเคนเคพเคฐ:
| Customer Request | Correct System Behavior |
|---|---|
| Valid Order Query | Customer เคเฅ Authenticate เคเคฐเคเฅ เคธเคนเฅ Order Status Retrieve เคเคฐเคจเคพ |
| Ineligible Return | Company Rules เคเฅ เค เคจเฅเคธเคพเคฐ Request Reject เคเคฐเคจเคพ |
| Another Customer’s Order | Access Deny เคเคฐเคเฅ Private Information เคธเฅเคฐเคเฅเคทเคฟเคค เคฐเคเคจเคพ |
โ๏ธ 10. Production Deployment
Development เคเคฐ Testing เคชเฅเคฐเฅ เคนเฅเคจเฅ เคเฅ เคฌเคพเคฆ Application เคเฅ เคตเคพเคธเฅเคคเคตเคฟเค Users เคเฅ เคฒเคฟเค เคเคชเคฒเคฌเฅเคง เคเคฐเคพเคจเคพ เคเคตเคถเฅเคฏเค เคนเฅเฅค
เคเคธ เคชเฅเคฐเคเฅเคฐเคฟเคฏเคพ เคเฅ Production Deployment เคเคนเคคเฅ เคนเฅเคเฅค
Development เคเฅ เคฆเฅเคฐเคพเคจ Application เคเฅเคตเคฒ Developer เคเฅ Local Machine เคชเคฐ Run เคนเฅ เคธเคเคคเคพ เคนเฅเฅค Production Deployment เคเฅ เคฎเคพเคงเฅเคฏเคฎ เคธเฅ Approved Application เคเฅ เคเคเคชเคจเฅ เคเฅ Infrastructure เคชเคฐ เคเคชเคฒเคฌเฅเคง เคเคฐเคพเคฏเคพ เคเคพเคคเคพ เคนเฅเฅค
๐งฐ 10.1 Deployment Technologies
เคเคธ Project เคฎเฅเค เคจเคฟเคฎเฅเคจเคฒเคฟเคเคฟเคค Technologies เคเคพ เคเคชเคฏเฅเค เคเคฟเคฏเคพ เคเคพ เคธเคเคคเคพ เคนเฅ:
- ๐ Python
- โก FastAPI
- ๐ง LLM API
- ๐ค LangGraph
- ๐๏ธ Vector Database
- ๐ณ Docker
- โ๏ธ AWS, Microsoft Azure เคฏเคพ Google Cloud Platform
Technology Selection Organization เคเฅ Existing Infrastructure, Security Policies เคเคฐ Operational Requirements เคชเคฐ เคจเคฟเคฐเฅเคญเคฐ เคเคฐเคคเคพ เคนเฅเฅค
๐ 10.2 Important Deployment Activities
๐ 1. Security Configuration
Customer เคเคฐ Business Information เคเฅ เคธเฅเคฐเคเฅเคทเคฟเคค เคฐเคเคจเคพ เคเคตเคถเฅเคฏเค เคนเฅเฅค
เคเฅเคตเคฒ Authorized Users เคนเฅ เค เคชเคจเฅ Account Information Access เคเคฐ เคธเคเฅเคเฅค
๐ 2. Authentication
Authentication เคเคพ เค เคฐเฅเคฅ User เคเฅ Identity Verify เคเคฐเคจเคพ เคนเฅเฅค
เคเคฆเคพเคนเคฐเคฃ:
Private Order Information Access เคเคฐเคจเฅ เคธเฅ เคชเคนเคฒเฅ Customer เคเฅ Approved Authentication Method เคธเฅ Login เคเคฐเคจเคพ เคนเฅเคเคพเฅค
๐ก๏ธ 3. Authorization
Authorization เคฏเคน เคจเคฟเคฐเฅเคงเคพเคฐเคฟเคค เคเคฐเคคเคพ เคนเฅ เคเคฟ Authenticated User เคเฅเคจ-เคเฅเคจ เคธเฅ Operations เคเคฐเคจเฅ เคเฅ เคฒเคฟเค Authorized เคนเฅเฅค
เคเคฆเคพเคนเคฐเคฃ:
Customer เคเฅเคตเคฒ เค เคชเคจเฅ Order Details เคฆเฅเค เคธเคเคคเคพ เคนเฅเฅค เคเคธเฅ เคฆเฅเคธเคฐเฅ Customer เคเฅ Orders Access เคเคฐเคจเฅ เคฏเคพ Administrative Refund Approve เคเคฐเคจเฅ เคเฅ เค เคจเฅเคฎเคคเคฟ เคจเคนเฅเค เคนเฅเคจเฅ เคเคพเคนเคฟเคเฅค
๐ 4. Logging
Application เคฎเฅเค เคนเฅเคจเฅ เคตเคพเคฒเฅ เคฎเคนเคคเฅเคตเคชเฅเคฐเฅเคฃ เคเคเคจเคพเคเค เคเฅ Record เคเคฐเคจเฅ เคเฅ เคชเฅเคฐเคเฅเคฐเคฟเคฏเคพ เคเฅ Logging เคเคนเคคเฅ เคนเฅเคเฅค
เคเคฆเคพเคนเคฐเคฃ:
10:00:01 - Customer Request Received
10:00:02 - Authentication Completed
10:00:03 - LLM Request Initiated
10:00:04 - Order API Called
10:00:05 - Order Details Retrieved
10:00:06 - Response Generated
เคเคจ Logs เคเฅ เคธเคนเคพเคฏเคคเคพ เคธเฅ Developers Application Problems เคเฅ เคเคพเคเค เคเคฐ เคธเคเคคเฅ เคนเฅเคเฅค
Passwords, Payment Credentials เคเคฐ เค เคจเคพเคตเคถเฅเคฏเค Personal Data เคเฅ Application Logs เคฎเฅเค Store เคจเคนเฅเค เคเคฐเคจเคพ เคเคพเคนเคฟเคเฅค
๐ 5. Monitoring
Application เคเฅ Health เคเคฐ Performance เคเฅ Observe เคเคฐเคจเฅ เคเฅ เคฒเคฟเค Monitoring เคเคพ เคเคชเคฏเฅเค เคเคฟเคฏเคพ เคเคพเคคเคพ เคนเฅเฅค
เคฎเคนเคคเฅเคตเคชเฅเคฐเฅเคฃ Monitoring Questions:
- เคเฅเคฏเคพ Application เคธเคนเฅ เคคเคฐเฅเคเฅ เคธเฅ เคเคพเคฎ เคเคฐ เคฐเคนเคพ เคนเฅ?
- เคเฅเคฏเคพ External APIs เคธเคนเฅ Responses เคฆเฅ เคฐเคนเฅ เคนเฅเค?
- เคเฅเคฏเคพ LLM Requests Fail เคนเฅ เคฐเคนเฅ เคนเฅเค?
- เคเฅเคฏเคพ Response Latency เคฌเคขเคผ เคฐเคนเฅ เคนเฅ?
- เคเฅเคฏเคพ Token Consumption เคฌเคขเคผ เคฐเคนเคพ เคนเฅ?
- เคเฅเคฏเคพ Cloud Infrastructure Costs เคฌเคขเคผ เคฐเคนเฅ เคนเฅเค?
- เคเฅเคฏเคพ Unauthorized Access Attempts เคนเฅ เคฐเคนเฅ เคนเฅเค?
๐ 6. Application Scaling
Workload เคเฅ เค เคจเฅเคธเคพเคฐ Infrastructure Resources เคเฅ เคฌเคขเคผเคพเคจเฅ เคฏเคพ เคเคเคพเคจเฅ เคเฅ เคชเฅเคฐเคเฅเคฐเคฟเคฏเคพ เคเฅ Scaling เคเคนเคคเฅ เคนเฅเคเฅค
เคเคฆเคพเคนเคฐเคฃ:
เคเค เคฌเคกเคผเฅ Online Sale เคเฅ เคฆเฅเคฐเคพเคจ Customers เคเฅ เคธเคเคเฅเคฏเคพ เคเคพเคซเฅ เคฌเคขเคผ เคธเคเคคเฅ เคนเฅเฅค
Infrastructure เคเฅ เคฌเคขเคผเฅ เคนเฅเค Workload เคเฅ เคฌเคฟเคจเคพ เค เคงเคฟเค Delay เคฏเคพ Failure เคเฅ Handle เคเคฐเคจเฅ เคฎเฅเค เคธเคเฅเคทเคฎ เคนเฅเคจเคพ เคเคพเคนเคฟเคเฅค
๐ 7. Production API Integration
Deployed Application เคเฅ Development เคฏเคพ Testing Endpoints เคเฅ เคฌเคเคพเคฏ เคเคเคชเคจเฅ เคเฅ Approved Production Services เคธเฅ Connect เคเคฐเคจเคพ เคเคพเคนเคฟเคเฅค
Production Credentials เคเคฐ Access Permissions เคเฅ Secure เคคเคฐเฅเคเฅ เคธเฅ Configure เคเคฐเคจเคพ เคเคพเคนเคฟเคเฅค
โก 8. Performance Optimization
Application เคเฅ Performance เคฌเฅเคนเคคเคฐ เคฌเคจเคพเคจเฅ เคเฅ เคฒเคฟเค Engineering Team เคจเคฟเคฎเฅเคจเคฒเคฟเคเคฟเคค เคเคพเคฐเฅเคฏ เคเคฐ เคธเคเคคเฅ เคนเฅ:
- Prompts Optimize เคเคฐเคจเคพเฅค
- เค เคจเคพเคตเคถเฅเคฏเค LLM Calls เคเคฎ เคเคฐเคจเคพเฅค
- Information Retrieval Improve เคเคฐเคจเคพเฅค
- API Requests Optimize เคเคฐเคจเคพเฅค
- เคเคชเคฏเฅเคเฅเคค AI Models Select เคเคฐเคจเคพเฅค
- เคเคชเคฏเฅเคเฅเคค Non-Sensitive Results เคเฅ Cache เคเคฐเคจเคพเฅค
- เคเคตเคถเฅเคฏเคเคคเคพ เคเฅ เค เคจเฅเคธเคพเคฐ Asynchronous Processing เคเคพ เคเคชเคฏเฅเค เคเคฐเคจเคพเฅค
- Expensive เคฏเคพ Slow Workflow Steps เคเฅ Monitor เคเคฐเคจเคพเฅค
๐ 10.3 Deployment เคเฅ เคฌเคพเคฆ Documentation
Engineering Team เคเฅ Operational Teams เคเฅ เคฒเคฟเค เคจเคฟเคฎเฅเคจเคฒเคฟเคเคฟเคค Documentation เคเคชเคฒเคฌเฅเคง เคเคฐเคพเคจเฅ เคเคพเคนเคฟเค:
- Application Documentation.
- Architecture Details.
- API Integration Details.
- Troubleshooting Instructions.
- Monitoring Guidelines.
- Security and Access Procedures.
- Operational Guidance.
เคเคธ Documentation เคเฅ เคฎเคฆเคฆ เคธเฅ เคเคเคชเคจเฅ Deployment เคเฅ เคฌเคพเคฆ เคญเฅ Application เคเฅ Maintain เคเคฐ เคธเคเคคเฅ เคนเฅเฅค
๐ 11. Complete Project Workflow โ Business Problem เคธเฅ AI Solution เคคเค
Complete E-commerce Customer Support AI Agent Project เคเฅ เคจเคฟเคฎเฅเคจเคฒเคฟเคเคฟเคค เคฎเฅเคเฅเคฏ เคเคฐเคฃเฅเค เคฎเฅเค เคฌเคพเคเคเคพ เคเคพ เคธเคเคคเคพ เคนเฅเฅค
| Step | Activity | Technologies and Skills |
|---|---|---|
| 1 | Business Requirement Analysis | Business Analysis |
| 2 | AI Architecture Design | Python, LLMs, RAG, FastAPI |
| 3 | RAG Implementation | Embeddings, Vector Database |
| 4 | AI Agent Development | LangGraph, Tool Calling |
| 5 | External Application Integration | REST APIs, MCP |
| 6 | Testing and Evaluation | AI Evaluation, Security Testing |
| 7 | Production Deployment | AWS / Azure / GCP, Docker, Monitoring |
๐ 11.1 Complete Customer Interaction
เคฎเคพเคจ เคฒเฅเคเคฟเค เคเคฟ Customer เคฏเคน Request เคญเฅเคเคคเคพ เคนเฅ:
“I want to return my recently purchased headphones.”
System เคเคธ Request เคเฅ เค เคฒเค-เค เคฒเค Components เคเฅ เคฎเคพเคงเฅเคฏเคฎ เคธเฅ Process เคเคฐเคคเคพ เคนเฅเฅค
1. ๐ค Customer Interface
Customer Website เคฏเคพ Mobile Application เคธเฅ Request Submit เคเคฐเคคเคพ เคนเฅเฅค
2. โก FastAPI Backend
Backend Request Receive เคเคฐเคคเคพ เคนเฅ เคเคฐ Authenticated Session Verify เคเคฐเคคเคพ เคนเฅเฅค
3. ๐ง LLM
LLM-Powered Application Customer เคเฅ Intent เคเฅ Product Return Request เคเฅ เคฐเฅเคช เคฎเฅเค เคชเคนเคเคพเคจเคคเคพ เคนเฅเฅค
4. ๐ RAG
RAG System เคธเคเคฌเคเคงเคฟเคค Headphone Return Policy Retrieve เคเคฐเคคเคพ เคนเฅเฅค
5. ๐ค LangGraph Agent
Workflow เคเคตเคถเฅเคฏเค Steps เคเฅ Coordinate เคเคฐเคคเคพ เคนเฅ เคเคฐ เคคเคฏ เคเคฐเคคเคพ เคนเฅ เคเคฟ เคเคฟเคจ Authorized Tools เคเฅ Invoke เคเคฐเคจเคพ เคนเฅเฅค
6. ๐ REST API / MCP Integration
Application Order Information Retrieve เคเคฐเคคเคพ เคนเฅ เคเคฐ เคเคตเคถเฅเคฏเค Business Conditions Check เคเคฐเคคเคพ เคนเฅเฅค
7. โ Business Rule Validation
Backend Verify เคเคฐเคคเคพ เคนเฅ เคเคฟ Order เคเคฐ Product Return Conditions เคเฅ เคชเฅเคฐเคพ เคเคฐเคคเฅ เคนเฅเค เคฏเคพ เคจเคนเฅเคเฅค
8. ๐จโ๐ผ Human Approval
เคฏเคฆเคฟ Company Policy เคเฅ เค เคจเฅเคธเคพเคฐ Approval เคเคตเคถเฅเคฏเค เคนเฅ, เคคเฅ Authorized Person เคเฅ Approve เคเคฐเคจเฅ เคคเค Workflow Pause เคนเฅ เคเคพเคคเคพ เคนเฅเฅค
9. ๐ฆ Return Management API
เคเคตเคถเฅเคฏเค Checks เคเคฐ Approvals เคชเฅเคฐเฅ เคนเฅเคจเฅ เคเฅ เคฌเคพเคฆ Application Return Request Create เคเคฐเคคเคพ เคนเฅเฅค
10. ๐ Final Response
Customer เคเฅ เคตเคพเคธเฅเคคเคตเคฟเค Result เคชเฅเคฐเคพเคชเฅเคค เคนเฅเคคเคพ เคนเฅเฅค
เคเคฆเคพเคนเคฐเคฃ:
“Your return request has been created successfully. Your Return ID is RET5001.”
เคเคธ Interaction เคธเฅ เคธเคฎเค เคเคคเคพ เคนเฅ เคเคฟ เคเค Generative AI Components เคฎเคฟเคฒเคเคฐ เคเค Real-World Business Problem เคเฅ เคเฅเคธเฅ เคนเคฒ เคเคฐเคคเฅ เคนเฅเคเฅค
๐ญ 12. Real-Time Industry Use Cases
เคเคธ E-commerce Project เคฎเฅเค เคเคชเคฏเฅเค เคเคฟเค เคเค Concepts เคเฅ เค เคจเฅเคฏ Industries เคฎเฅเค เคญเฅ Apply เคเคฟเคฏเคพ เคเคพ เคธเคเคคเคพ เคนเฅเฅค
| Industry | AI Application | Example |
|---|---|---|
| ๐ E-commerce | Customer Support AI Agent | Orders Track เคเคฐเคจเคพ เคเคฐ Eligible Returns Initiate เคเคฐเคจเคพ |
| ๐ฆ Banking | Banking Support Assistant | Authorized Systems เคธเฅ Account Information Retrieve เคเคฐเคจเคพ เคเคฐ Transaction Status Check เคเคฐเคจเคพ |
| ๐ฅ Healthcare | Hospital Assistance Agent | Appointments เคเคฐ Hospital Information เคเฅ เคฒเคฟเค เคธเคนเคพเคฏเคคเคพ เคเคฐเคจเคพ |
| ๐ก๏ธ Insurance | Insurance Support Assistant | Policy Information Retrieve เคเคฐเคจเคพ เคเคฐ Claim Procedures เคธเคฎเคเคพเคจเคพ |
| โ๏ธ Travel | Travel Support Agent | Booking เคเคฐ Cancellation Information Retrieve เคเคฐเคจเคพ |
| ๐ฑ Telecommunications | Customer Support Agent | Service Requests เคเคฐ Troubleshooting Instructions Check เคเคฐเคจเคพ |
| ๐ Education | Student Assistance Agent | Course Information Retrieve เคเคฐเคจเคพ เคเคฐ Administrative Questions เคเคพ เคเคคเฅเคคเคฐ เคฆเฅเคจเคพ |
เคชเฅเคฐเคคเฅเคฏเฅเค Industry เคฎเฅเค Application เคเฅ Organization เคเฅ Approved Knowledge Sources, Business Rules, Security Controls เคเคฐ Integration Mechanisms เคเคพ เคเคชเคฏเฅเค เคเคฐเคจเคพ เคเคพเคนเคฟเคเฅค
โ 13. Advantages and Business Benefits
E-commerce Customer Support AI Agent เคธเฅ เคเค Business Benefits เคชเฅเคฐเคพเคชเฅเคค เคเคฟเค เคเคพ เคธเคเคคเฅ เคนเฅเคเฅค
โก 13.1 Faster Customer Responses
Customers เคเฅ Routine Information Retrieve เคเคฐเคจเฅ เคเฅ เคฒเคฟเค เคเคฐเฅเคฎเคเคพเคฐเคฟเคฏเฅเค เคเฅ เคชเฅเคฐเคคเฅเคเฅเคทเคพ เคเคฟเค เคฌเคฟเคจเคพ Responses เคฎเคฟเคฒ เคธเคเคคเฅ เคนเฅเคเฅค
๐ 13.2 Reduced Repetitive Work
Order Status Queries, Policy Questions เคเคฐ เค เคจเฅเคฏ Repetitive Tasks เคเฅ Automate เคเคฟเคฏเคพ เคเคพ เคธเคเคคเคพ เคนเฅเฅค
๐ 13.3 Improved Operational Efficiency
Employees เค เคชเคจเคพ เค เคงเคฟเค เคธเคฎเคฏ เคเคจ Complex Customer Problems เคชเคฐ เคฆเฅ เคธเคเคคเฅ เคนเฅเค, เคเคฟเคจเคเฅ เคฒเคฟเค Human Judgment เคเฅ เคเคตเคถเฅเคฏเคเคคเคพ เคนเฅเคคเฅ เคนเฅเฅค
๐ 13.4 Consistent Policy Information
RAG เคเฅ เคฎเคพเคงเฅเคฏเคฎ เคธเฅ Application Approved Company Policy Information Retrieve เคเคฐ เคธเคเคคเคพ เคนเฅเฅค เคเคธเคธเฅ เคเฅเคตเคฒ Model เคเฅ Internal Knowledge เคชเคฐ เคจเคฟเคฐเฅเคญเคฐ เคฐเคนเคจเฅ เคเฅ เคเคตเคถเฅเคฏเคเคคเคพ เคเคฎ เคนเฅเคคเฅ เคนเฅเฅค
๐ 13.5 Business Application Integration
REST APIs เคเคฐ MCP Integrations เคเฅ เคธเคนเคพเคฏเคคเคพ เคธเฅ AI Application เคเฅ Existing Enterprise Systems เคเฅ เคธเคพเคฅ Connect เคเคฟเคฏเคพ เคเคพ เคธเคเคคเคพ เคนเฅเฅค
๐ 13.6 Scalable Customer Support
Cloud Infrastructure เคเคฐ เคเคเคฟเคค Application Scaling เคธเฅ เคฌเคขเคผเคคเฅ เคนเฅเค Customer Workloads เคเฅ Handle เคเคฟเคฏเคพ เคเคพ เคธเคเคคเคพ เคนเฅเฅค
๐ 13.7 Better Operational Visibility
Logging, Monitoring เคเคฐ Evaluation เคเฅ เคธเคนเคพเคฏเคคเคพ เคธเฅ Organizations Failures, Slow Responses เคเคฐ Application Costs เคเฅ เคชเคนเคเคพเคจ เคเคฐ เคธเคเคคเฅ เคนเฅเคเฅค
โ ๏ธ 14. Limitations and Implementation Challenges
AI Agents เคเค เคเคชเคฏเฅเคเฅ Capabilities เคชเฅเคฐเคฆเคพเคจ เคเคฐเคคเฅ เคนเฅเค, เคฒเฅเคเคฟเคจ Enterprise Implementations เคฎเฅเค เคเฅเค Challenges เคญเฅ เคนเฅเคคเฅ เคนเฅเคเฅค
| Challenge | Description | Possible Solution |
|---|---|---|
| โ ๏ธ Hallucinations | AI Unsupported Information Generate เคเคฐเคคเคพ เคนเฅ | Retrieval เคเคฐ Validation Improve เคเคฐเคจเคพ |
| ๐ Poor Retrieval | RAG Irrelevant Documents Retrieve เคเคฐเคคเคพ เคนเฅ | Chunking, Embeddings เคเคฐ Search Improve เคเคฐเคจเคพ |
| ๐ Security Risks | Unauthorized Access | Strong Authentication เคเคฐ Authorization |
| ๐ API Failures | External Systems เคเคชเคฒเคฌเฅเคง เคจเคนเฅเค เคนเฅเคคเฅ | Error Handling, Retries เคเคฐ Fallbacks |
| ๐ฐ High Costs | Model เคเคฐ Infrastructure Usage เค เคงเคฟเค เคนเฅเคคเคพ เคนเฅ | Prompts, Model Selection เคเคฐ Retrieval Optimize เคเคฐเคจเคพ |
| โฑ๏ธ High Latency | Multiple Components เคเฅ เคเคพเคฐเคฃ Response Delay | Workflow เคเคฐ API Calls Optimize เคเคฐเคจเคพ |
| ๐ ๏ธ Incorrect Tool Selection | AI เคเคฒเคค Tool Request เคเคฐเคคเคพ เคนเฅ | Tool Validation เคเคฐ Controlled Workflows |
| ๐ Duplicate Actions | เคฌเคพเคฐ-เคฌเคพเคฐ Request เคเคจเฅ เคธเฅ Duplicate Operations เคฌเคจเคคเฅ เคนเฅเค | Idempotency เคเคฐ Backend Checks |
| ๐ Policy Changes | เคชเฅเคฐเคพเคจเฅ Documents Knowledge Base เคฎเฅเค เคฌเคจเฅ เคฐเคนเคคเฅ เคนเฅเค | Document Versioning เคเคฐ Index Refresh |
| ๐งฉ Complex Requests | AI เคนเคฐ เคธเคฎเคธเฅเคฏเคพ เคเฅ เคตเคฟเคถเฅเคตเคธเคจเฅเคฏ เคคเคฐเฅเคเฅ เคธเฅ เคนเคฒ เคจเคนเฅเค เคเคฐ เคธเคเคคเคพ | Human Support เคคเค Escalate เคเคฐเคจเคพ |
๐ก๏ธ 14.1 Security Best Practices
Customer Support Applications เคฎเฅเค Sensitive Information เคเคฐ Business Operations Handle เคเคฟเค เคเคพเคคเฅ เคนเฅเคเฅค เคเคธเคฒเคฟเค Application เคเคฐ Infrastructure เคฆเฅเคจเฅเค Levels เคชเคฐ Security เคฒเคพเคเฅ เคเคฐเคจเคพ เคเคตเคถเฅเคฏเค เคนเฅเฅค
เคฎเคนเคคเฅเคตเคชเฅเคฐเฅเคฃ Security Practices:
- Private Records Retrieve เคเคฐเคจเฅ เคธเฅ เคชเคนเคฒเฅ Customers เคเฅ Authenticate เคเคฐเคจเคพเฅค
- เคชเฅเคฐเคคเฅเคฏเฅเค Order-Related Request เคชเคฐ Ownership Checks เคฒเคพเคเฅ เคเคฐเคจเคพเฅค
- API เคเคฐ MCP Tools เคเฅ Least-Privilege Permissions เคฆเฅเคจเคพเฅค
- Execution เคธเฅ เคชเคนเคฒเฅ Tool Arguments Validate เคเคฐเคจเคพเฅค
- API Credentials เคเฅ Secure Secret Management เคเฅ เคฎเคพเคงเฅเคฏเคฎ เคธเฅ Protect เคเคฐเคจเคพเฅค
- Network Communication เคเฅ Encrypt เคเคฐเคจเคพเฅค
- Sensitive Operations เคเฅ เคฒเคฟเค Audit Logs Maintain เคเคฐเคจเคพเฅค
- Payment เคเคฐ Refund Functionality เคคเค Access Restrict เคเคฐเคจเคพเฅค
- Retrieved Documents เคเคฐ Customer Messages เคฎเฅเค Prompt-Injection Risks เคเฅ เคเคพเคเค เคเคฐเคจเคพเฅค
- เคเคตเคถเฅเคฏเคเคคเคพเคจเฅเคธเคพเคฐ High-Impact Operations เคเฅ เคฒเคฟเค Human Approval เค เคจเคฟเคตเคพเคฐเฅเคฏ เคเคฐเคจเคพเฅค
โ ๏ธ เคฎเคนเคคเฅเคตเคชเฅเคฐเฅเคฃ: “Never reveal another customer’s information” เคเฅเคธเฅ Prompt Instructions เคเฅเคตเคฒ Security เคเฅ เคฒเคฟเค เคชเคฐเฅเคฏเคพเคชเฅเคค เคจเคนเฅเค เคนเฅเคเฅค Authorization เคเฅ LLM เคธเฅ เคธเฅเคตเคคเคเคคเฅเคฐ Backend Access Controls เคเฅ เคฎเคพเคงเฅเคฏเคฎ เคธเฅ Enforce เคเคฐเคจเคพ เคเคพเคนเคฟเคเฅค
๐ 15. Technical Clarifications
เคจเคฟเคฎเฅเคจเคฒเคฟเคเคฟเคค Points เคเฅ เคธเคนเคพเคฏเคคเคพ เคธเฅ Conceptual Project Demonstrations เคเคฐ Production Engineering Implementations เคเฅ เคฌเฅเค เค เคเคคเคฐ เคธเคฎเค เคธเคเคคเฅ เคนเฅเคเฅค
๐ง 15.1 LLM เคเฅ Business Data เคเฅ Automatic Access เคจเคนเฅเค เคนเฅเคคเฅ
LLM “Where is my order?” เคเฅเคธเฅ เคชเฅเคฐเคถเฅเคจ เคเฅ เคธเคฎเค เคธเคเคคเคพ เคนเฅ, เคฒเฅเคเคฟเคจ Authorized Integration เคเฅ เคฌเคฟเคจเคพ เคเคเคชเคจเฅ เคเฅ Private Order Information Retrieve เคจเคนเฅเค เคเคฐ เคธเคเคคเคพเฅค
เคเคธเคเฅ เคฒเคฟเค Application เคเฅ เคธเคเคฌเคเคงเคฟเคค Business System เคธเฅ Connect เคเคฐเคจเคพ เคเคตเคถเฅเคฏเค เคนเฅเฅค
๐ 15.2 RAG Transactional Operations Perform เคจเคนเฅเค เคเคฐเคคเคพ
RAG เคเคฟเคธเฅ Knowledge Source เคธเฅ Information Retrieve เคเคฐเคคเคพ เคนเฅเฅค
เคฏเคน เค เคชเคจเฅ เคเคช Return Request Create เคจเคนเฅเค เคเคฐเคคเคพ, Refund Issue เคจเคนเฅเค เคเคฐเคคเคพ เคเคฐ Order เคเฅ Modify เคจเคนเฅเค เคเคฐเคคเคพเฅค
Transactional Operations เคเฅ เคฒเคฟเค Authorized Application Tools เคฏเคพ APIs เคเคตเคถเฅเคฏเค เคนเฅเคเฅค
๐๏ธ 15.3 Vector Database เคเคฐ Traditional Database เคเค เคเฅเคธเฅ เคจเคนเฅเค เคนเฅเค
เคเค Traditional Relational Database เคธเคพเคฎเคพเคจเฅเคฏเคคเค Structured Records Store เคเคฐเคจเฅ เคคเคฅเคพ Filtering, Joins เคเคฐ Transactions เคเฅเคธเฅ Operations เคเฅ Support เคเคฐเคจเฅ เคเฅ เคฒเคฟเค เคเคชเคฏเฅเค เคเคฟเคฏเคพ เคเคพเคคเคพ เคนเฅเฅค
Vector Database เคฏเคพ Vector Search Index Numerical Vectors เคเฅ Store เคเคฐเคคเคพ เคนเฅ เคเคฐ Similarity เคเฅ เคเคงเคพเคฐ เคชเคฐ เคเคจเฅเคนเฅเค Retrieve เคเคฐเคคเคพ เคนเฅเฅค
เคเค Enterprise Application เคฎเฅเค เคฆเฅเคจเฅเค เคชเฅเคฐเคเคพเคฐ เคเฅ Databases เคเคพ เคเคชเคฏเฅเค เคเคฟเคฏเคพ เคเคพ เคธเคเคคเคพ เคนเฅเฅค
๐ 15.4 LangGraph เคเค Orchestration Framework เคนเฅ
LangGraph State, Nodes เคเคฐ Edges เคเคพ เคเคชเคฏเฅเค เคเคฐเคเฅ Stateful Multi-Step Workflows เคเฅ Organize เคเคฐเคจเฅ เคเฅ Mechanisms เคชเฅเคฐเคฆเคพเคจ เคเคฐเคคเคพ เคนเฅเฅค
เคฏเคน เคธเฅเคตเคฏเค เคเคเคชเคจเฅ เคเคพ Business Data เคเคชเคฒเคฌเฅเคง เคจเคนเฅเค เคเคฐเคพเคคเคพ เคเคฐ เคจ เคนเฅ External Applications เคเคพ Replacement เคนเฅเฅค
๐ 15.5 MCP เค เคชเคจเฅ เคเคช เคธเคญเฅ Applications เคเฅ Connect เคจเคนเฅเค เคเคฐเคคเคพ
MCP Integration เคเฅ เคฒเคฟเค Configured Host, Client, Server เคเคฐ Supported Backend Functionality เคเคตเคถเฅเคฏเค เคนเฅเฅค
Permissions เคเคฐ Security Rules เคเฅ เคญเฅ Implement เคเคฐเคจเคพ เคนเฅเคคเคพ เคนเฅเฅค
๐ ๏ธ 15.6 Function Calling เคเคพ เค เคฐเฅเคฅ เคฏเคน เคจเคนเฅเค เคนเฅ เคเคฟ Model เคธเฅเคงเฅ Code Execute เคเคฐเคคเคพ เคนเฅ
Model เคเคฟเคธเฅ Predefined Tool เคเฅ Execute เคเคฐเคจเฅ เคเคพ Request เคเคฐ เคธเคเคคเคพ เคนเฅเฅค Application เคเคธ Request เคเฅ Validate เคเคฐเคคเคพ เคนเฅ เคเคฐ Actual Function Execution เคเฅ Control เคเคฐเคคเคพ เคนเฅเฅค
๐ป 15.7 FastAPI เคฎเฅเค Request Body เคเฅ เคธเคนเฅ เคคเคฐเฅเคเฅ เคธเฅ Define เคเคฐเคจเคพ เคเคตเคถเฅเคฏเค เคนเฅ
JSON Data Receive เคเคฐเคจเฅ เคตเคพเคฒเฅ POST Endpoint เคเฅ เคฒเคฟเค Pydantic Model เคเคพ เคเคชเคฏเฅเค เคเคฐเคจเคพ เคเค เคเคชเคฏเฅเคเฅเคค เคคเคฐเฅเคเคพ เคนเฅเฅค
question: str เคเฅเคธเฅ Simple Unstructured Function Parameters เคเฅ เคธเคพเคฎเคพเคจเฅเคฏเคคเค Query Parameters เคเฅ เคฐเฅเคช เคฎเฅเค Interpret เคเคฟเคฏเคพ เคเคพเคคเคพ เคนเฅ, เคจ เคเคฟ เค
เคชเฅเคเฅเคทเคฟเคค JSON Request Body เคเฅ เคฐเฅเคช เคฎเฅเคเฅค
เคเคธเฅ เคเคพเคฐเคฃ เคเคธ Article เคเฅ FastAPI Example เคฎเฅเค BaseModel เคเฅ เคธเคพเคฅ ChatRequest เคเคพ เคเคชเคฏเฅเค เคเคฟเคฏเคพ เคเคฏเคพ เคนเฅเฅค
๐จโ๐ผ 15.8 AI เคเฅ Sensitive Business Transactions เคเฅ เคธเฅเคตเคคเคเคคเฅเคฐ เคฐเฅเคช เคธเฅ Approve เคจเคนเฅเค เคเคฐเคจเคพ เคเคพเคนเคฟเค
LLM เคเคฟเคธเฅ Request เคเฅ เคธเคฎเคเคเคฐ Workflow Coordinate เคเคฐ เคธเคเคคเคพ เคนเฅเฅค เคฒเฅเคเคฟเคจ Transaction Execute เคเคฐเคจเฅ เคธเฅ เคชเคนเคฒเฅ Trusted Backend Logic เคเฅ เคฎเคพเคงเฅเคฏเคฎ เคธเฅ Eligibility, Permissions, Financial Conditions เคเคฐ Approval Requirements Verify เคเคฐเคจเคพ เคเคตเคถเฅเคฏเค เคนเฅเฅค
๐ 16. GenAI Forward Deployed Engineer เคเฅ เคฒเคฟเค เคเคตเคถเฅเคฏเค Skills
เคเคธ Project เคฎเฅเค Enterprise Generative AI Applications Develop เคเคฐเคจเฅ เคเฅ เคฒเคฟเค เคเคตเคถเฅเคฏเค เคเค Skills เคถเคพเคฎเคฟเคฒ เคนเฅเคเฅค
| Skill | Why It Is Required |
|---|---|
| ๐ Python Programming | Application Logic เคเคฐ Integrations Develop เคเคฐเคจเคพ |
| ๐ REST APIs | Enterprise Applications Connect เคเคฐเคจเคพ |
| ๐ง LLM Fundamentals | Model Inputs, Outputs เคเคฐ Capabilities เคธเคฎเคเคจเคพ |
| โ๏ธ Prompt Engineering | Clear Model Instructions Design เคเคฐเคจเคพ |
| ๐ RAG | AI Applications เคเฅ Company Knowledge เคธเฅ Connect เคเคฐเคจเคพ |
| ๐ข Embeddings | Semantic Search เคเฅ เคฒเคฟเค Text เคเฅ Represent เคเคฐเคจเคพ |
| ๐๏ธ Vector Databases | Vector Representations Store เคเคฐ Retrieve เคเคฐเคจเคพ |
| ๐ค AI Agents | Tools เคเคพ เคเคชเคฏเฅเค เคเคฐเคเฅ Tasks Perform เคเคฐเคจเฅ เคตเคพเคฒเฅ Systems เคฌเคจเคพเคจเคพ |
| ๐ LangGraph | Multi-Step Stateful Workflows Orchestrate เคเคฐเคจเคพ |
| ๐ MCP | External Tools เคเคฐ Data Sources เคเคพ Integration เคเคฐเคจเคพ |
| โก FastAPI | Backend APIs Develop เคเคฐเคจเคพ |
| โ๏ธ Cloud Technologies | AI Applications Deploy เคเคฐ Operate เคเคฐเคจเคพ |
| ๐งช Testing and Evaluation | Application Quality Verify เคเคฐเคจเคพ |
| ๐ Security | Business เคเคฐ Customer Information Protect เคเคฐเคจเคพ |
๐ผ 16.1 Relevant Job Roles
เคเคธ Project เคฎเฅเค เคธเฅเคเฅ เคเคพเคจเฅ เคตเคพเคฒเฅ Skills เคจเคฟเคฎเฅเคจเคฒเคฟเคเคฟเคค Job Roles เคเฅ เคฒเคฟเค เคเคชเคฏเฅเคเฅ เคนเฅเค:
- Generative AI Engineer.
- GenAI Forward Deployed Engineer.
- LLM Application Developer.
- AI Agent Developer.
- RAG Engineer.
- AI Application Engineer.
- Python Backend Developer with GenAI Skills.
- AI Solutions Engineer.
๐ 16.2 เคเคเฅ เคธเฅเคเคจเฅ เคเฅ เคฒเคฟเค Practical Projects
E-commerce Customer Support AI Agent Project เคชเฅเคฐเคพ เคเคฐเคจเฅ เคเฅ เคฌเคพเคฆ เคตเคฟเคฆเฅเคฏเคพเคฐเฅเคฅเฅ เคจเคฟเคฎเฅเคจเคฒเคฟเคเคฟเคค Applications Develop เคเคฐ เคธเคเคคเฅ เคนเฅเค:
- ๐ PDF-Based Question Answering System.
- ๐ข Enterprise Knowledge Assistant.
- ๐ฆ AI-Powered Banking Customer Support.
- ๐ฅ Hospital Appointment Assistance Agent.
- ๐ก๏ธ Insurance Policy Question Answering Application.
- ๐ CRM APIs เคเฅ เคธเคพเคฅ Integrated AI Agent.
- โ๏ธ MCP-Based Enterprise Tool Integration.
- ๐ค LangGraph เคเคพ เคเคชเคฏเฅเค เคเคฐเคเฅ Multi-Step Business Workflow Automation.
โญ 17. Important Points to Remember
- ๐ Python: Backend Logic Develop เคเคฐเคจเฅ เคเคฐ เคตเคฟเคญเคฟเคจเฅเคจ Application Components เคเฅ Connect เคเคฐเคจเฅ เคเฅ เคฒเคฟเค เคเคชเคฏเฅเค เคเคฟเคฏเคพ เคเคพเคคเคพ เคนเฅเฅค
- ๐ง LLM: Customer Requests เคเฅ เคธเคฎเคเคจเฅ เคเคฐ Natural Language Responses Generate เคเคฐเคจเฅ เคฎเฅเค เคฎเคฆเคฆ เคเคฐเคคเคพ เคนเฅเฅค
- ๐ RAG: Company Information เคธเฅ Relevant Data Retrieve เคเคฐเคเฅ เคเคธเฅ LLM เคเฅ Context เคเฅ เคฐเฅเคช เคฎเฅเค เคเคชเคฒเคฌเฅเคง เคเคฐเคพเคคเคพ เคนเฅเฅค
- ๐ข Embeddings: Text เคเฅ Numerical Vectors เคเฅ เคฐเฅเคช เคฎเฅเค Represent เคเคฐเคคเฅ เคนเฅเคเฅค
- ๐๏ธ Vector Databases: Vector Representations เคเฅ Store เคเคฐ Search เคเคฐเคคเฅ เคนเฅเคเฅค
- ๐ Similarity Search: Semantically Related Information เคเฅ เคชเคนเคเคพเคจ เคเคฐเคคเคพ เคนเฅเฅค
- ๐ค AI Agents: Tools เคเคฐ Workflows เคเฅ Coordinate เคเคฐเคเฅ Tasks Complete เคเคฐเคคเฅ เคนเฅเคเฅค
- ๐ LangGraph: Stateful Multi-Step Agent Workflows เคเฅ Organize เคเคฐเคจเฅ เคฎเฅเค เคฎเคฆเคฆ เคเคฐเคคเคพ เคนเฅเฅค
- ๐ REST APIs: Enterprise Applications เคเฅ เคฌเฅเค Communication เคเคชเคฒเคฌเฅเคง เคเคฐเคพเคคเฅ เคนเฅเคเฅค
- ๐ ๏ธ Function Calling: LLM เคฆเฅเคตเคพเคฐเคพ Request เคเคฟเค เคเค Predefined Tools เคเฅ Application เคเฅ เคฎเคพเคงเฅเคฏเคฎ เคธเฅ Execute เคเคฐเคจเฅ เคฎเฅเค เคฎเคฆเคฆ เคเคฐเคคเคพ เคนเฅเฅค
- ๐ MCP: AI Applications เคเคฐ External Tools เคคเคฅเคพ Data Sources เคเฅ เคฌเฅเค Standardized Connections เคเคชเคฒเคฌเฅเคง เคเคฐเคพเคคเคพ เคนเฅเฅค
- โก FastAPI: Backend API Functionality เคชเฅเคฐเคฆเคพเคจ เคเคฐเคคเคพ เคนเฅเฅค
- ๐งช Testing and Evaluation: Application Accuracy, Security เคเคฐ Performance Verify เคเคฐเคจเฅ เคฎเฅเค เคธเคนเคพเคฏเคคเคพ เคเคฐเคคเฅ เคนเฅเคเฅค
- โ๏ธ Cloud Technologies: Application เคเฅ Production Environment เคฎเฅเค เคเคชเคฒเคฌเฅเคง เคเคฐเคพเคคเฅ เคนเฅเคเฅค
- ๐จโ๐ผ Human Approval: Sensitive Business Operations เคเฅ เคฒเคฟเค เคฎเคนเคคเฅเคตเคชเฅเคฐเฅเคฃ เคนเฅเฅค
โ 18. Frequently Asked Questions (FAQs)
1. ๐ E-commerce Customer Support AI Agent เคเฅเคฏเคพ เคนเฅ?
E-commerce Customer Support AI Agent เคเค AI-Powered Application เคนเฅ, เคเฅ Customer Requests เคเฅ เคธเคฎเคเคคเคพ เคนเฅ, Information Retrieve เคเคฐเคคเคพ เคนเฅ, Business Systems เคธเฅ Connect เคนเฅเคคเคพ เคนเฅ เคเคฐ Authorized Support Tasks Perform เคเคฐเคคเคพ เคนเฅเฅค
2. ๐ เคเคธ Project เคฎเฅเค Python เคเคพ เคเคชเคฏเฅเค เคเฅเคฏเฅเค เคเคฟเคฏเคพ เคเคพเคคเคพ เคนเฅ?
Python เคเคพ เคเคชเคฏเฅเค Backend Development, LLM Integration, RAG Implementation, API Communication, Business Logic เคเคฐ Agent Workflow Development เคเฅ เคฒเคฟเค เคเคฟเคฏเคพ เคเคพเคคเคพ เคนเฅเฅค
3. ๐ง LLM เคเฅ เคเฅเคฏเคพ เคญเฅเคฎเคฟเคเคพ เคนเฅ?
LLM Customer Questions เคเฅ Process เคเคฐเคคเคพ เคนเฅ, เคธเคเคญเคพเคตเคฟเคค Intent เคเฅ เคชเคนเคเคพเคจ เคเคฐเคคเคพ เคนเฅ, Context เคธเคฎเคเคคเคพ เคนเฅ เคเคฐ Natural Language Responses Generate เคเคฐเคคเคพ เคนเฅเฅค
4. ๐ RAG เคเฅ เคเคตเคถเฅเคฏเคเคคเคพ เคเฅเคฏเฅเค เคนเฅ?
RAG Company-Specific Knowledge Sources เคธเฅ Relevant Information เคเคชเคฒเคฌเฅเคง เคเคฐเคพเคคเคพ เคนเฅ, เคเคฟเคธเคธเฅ LLM Current เคเคฐ Approved Business Information เคเฅ เคเคงเคพเคฐ เคชเคฐ เคเคคเฅเคคเคฐ เคฆเฅ เคธเคเคคเคพ เคนเฅเฅค
5. ๐ข Embedding เคเฅเคฏเคพ เคนเฅ?
Embedding เคเค Numerical Representation เคนเฅ, เคเคฟเคธเฅ Embedding Model Generate เคเคฐเคคเคพ เคนเฅเฅค เคเคธเคเฅ เคธเคนเคพเคฏเคคเคพ เคธเฅ Text Passages เคเฅ เคฌเฅเค Semantic Relationships เคชเคนเคเคพเคจเฅ เคเคพ เคธเคเคคเฅ เคนเฅเคเฅค
6. ๐๏ธ Vector Database เคเฅ เคเคตเคถเฅเคฏเคเคคเคพ เคเฅเคฏเฅเค เคนเฅเคคเฅ เคนเฅ?
Vector Database เคฏเคพ Vector Index Embeddings เคเฅ Store เคเคฐเคคเคพ เคนเฅ เคเคฐ Similarity-Based Retrieval เคเฅ เคฎเคพเคงเฅเคฏเคฎ เคธเฅ Relevant Information เคเฅเคเคจเฅ เคฎเฅเค เคธเคนเคพเคฏเคคเคพ เคเคฐเคคเคพ เคนเฅเฅค
7. ๐ค Chatbot เคเคฐ AI Agent เคฎเฅเค เคเฅเคฏเคพ เค เคเคคเคฐ เคนเฅ?
เคเค Traditional Chatbot เคฎเฅเคเฅเคฏ เคฐเฅเคช เคธเฅ Questions เคเฅ เคเคคเฅเคคเคฐ เคฆเฅเคคเคพ เคนเฅเฅค AI Agent Tools เคเคฐ Authorized Operations เคเฅ Coordinate เคเคฐเคเฅ Multi-Step Tasks เคญเฅ Complete เคเคฐ เคธเคเคคเคพ เคนเฅเฅค
8. ๐ LangGraph เคเฅเคฏเคพ เคนเฅ?
LangGraph เคเค Orchestration Framework เคนเฅ, เคเคฟเคธเคเคพ เคเคชเคฏเฅเค AI Agents เคเฅ Stateful เคเคฐ Multi-Step Workflows เคฌเคจเคพเคจเฅ เคเฅ เคฒเคฟเค เคเคฟเคฏเคพ เคเคพเคคเคพ เคนเฅเฅค
9. ๐ MCP เคเฅเคฏเคพ เคนเฅ?
MCP เคเคพ Full Form Model Context Protocol เคนเฅเฅค เคฏเคน AI Applications เคเฅ External Tools เคเคฐ Data Sources เคธเฅ Connect เคเคฐเคจเฅ เคเฅ เคฒเคฟเค Standardized เคคเคฐเฅเคเคพ เคชเฅเคฐเคฆเคพเคจ เคเคฐเคคเคพ เคนเฅเฅค
10. ๐ REST API เคเคฐ MCP เคฎเฅเค เคเฅเคฏเคพ เค เคเคคเคฐ เคนเฅ?
REST APIs HTTP เคเฅ เคฎเคพเคงเฅเคฏเคฎ เคธเฅ Applications เคเฅ เคฌเฅเค Communication เคเคชเคฒเคฌเฅเคง เคเคฐเคพเคคเฅ เคนเฅเคเฅค MCP เคเค Standardized Protocol เคชเฅเคฐเคฆเคพเคจ เคเคฐเคคเคพ เคนเฅ, เคเคฟเคธเคเฅ เคฎเคพเคงเฅเคฏเคฎ เคธเฅ AI Applications External Tools เคเคฐ Context Providers เคเฅ เคธเคพเคฅ Interact เคเคฐ เคธเคเคคเฅ เคนเฅเคเฅค
11. ๐ฆ เคเฅเคฏเคพ RAG Return Request Create เคเคฐ เคธเคเคคเคพ เคนเฅ?
เคจเคนเฅเคเฅค RAG Relevant Information Retrieve เคเคฐเคคเคพ เคนเฅเฅค Return Request Create เคเคฐเคจเฅ เคเฅ เคฒเคฟเค เค เคฒเค Authorized Tool เคฏเคพ Backend API เคเฅ เคเคตเคถเฅเคฏเคเคคเคพ เคนเฅเคคเฅ เคนเฅเฅค
12. โก FastAPI เคเคพ เคเคชเคฏเฅเค เคเฅเคฏเฅเค เคเคฟเคฏเคพ เคเคพเคคเคพ เคนเฅ?
FastAPI เคเคพ เคเคชเคฏเฅเค Python Backend APIs Develop เคเคฐเคจเฅ เคเฅ เคฒเคฟเค เคเคฟเคฏเคพ เคเคพเคคเคพ เคนเฅเฅค เคฏเคน Customer Requests Receive เคเคฐเคจเฅ เคเคฐ เคตเคฟเคญเคฟเคจเฅเคจ Application Components เคเฅ Connect เคเคฐเคจเฅ เคฎเฅเค เคฎเคฆเคฆ เคเคฐเคคเคพ เคนเฅเฅค
13. โ ๏ธ AI Hallucination เคเฅเคฏเคพ เคนเฅ?
เคเคฌ AI Model เคเคธเฅ Information Generate เคเคฐเคคเคพ เคนเฅ, เคเคฟเคธเฅ เคเคชเคฒเคฌเฅเคง Evidence เคฏเคพ เคตเคพเคธเฅเคคเคตเคฟเค เคคเคฅเฅเคฏเฅเค เคฆเฅเคตเคพเคฐเคพ Support เคจเคนเฅเค เคเคฟเคฏเคพ เคเคพ เคธเคเคคเคพ, เคคเฅ เคเคธเฅ AI Hallucination เคเคนเคคเฅ เคนเฅเคเฅค
14. ๐จโ๐ผ Human-in-the-Loop เคเฅ เคเคตเคถเฅเคฏเคเคคเคพ เคเฅเคฏเฅเค เคนเฅเคคเฅ เคนเฅ?
Human-in-the-Loop เคเฅ เคฎเคพเคงเฅเคฏเคฎ เคธเฅ เคเฅเค เคตเฅเคฏเคเฅเคคเคฟ Sensitive, Uncertain เคฏเคพ High-Impact Operations เคเฅ Review, Approve เคฏเคพ เคเคตเคถเฅเคฏเคเคคเคพเคจเฅเคธเคพเคฐ Intervene เคเคฐ เคธเคเคคเคพ เคนเฅเฅค
15. โ๏ธ Cloud Deployment เคเคพ เคเคฆเฅเคฆเฅเคถเฅเคฏ เคเฅเคฏเคพ เคนเฅ?
Cloud Deployment Application เคเฅ เคตเคพเคธเฅเคคเคตเคฟเค Users เคเฅ เคฒเคฟเค เคเคชเคฒเคฌเฅเคง เคเคฐเคพเคคเคพ เคนเฅ เคเคฐ Hosting, Scaling, Monitoring เคคเคฅเคพ Operations เคเฅ เคฒเคฟเค Infrastructure เคชเฅเคฐเคฆเคพเคจ เคเคฐเคคเคพ เคนเฅเฅค
16. ๐ เคเฅเคฏเคพ AI Agent เคเฅ Database Access เคเฅ เคเคตเคถเฅเคฏเคเคคเคพ เคนเฅเคคเฅ เคนเฅ?
เคนเคฐ AI Agent เคเฅ Direct Database Access เคเฅ เคเคตเคถเฅเคฏเคเคคเคพ เคจเคนเฅเค เคนเฅเคคเฅเฅค Database เคคเค Direct Access เคฆเคฟเค เคฌเคฟเคจเคพ REST APIs เคฏเคพ MCP Tools เคเฅ เคฎเคพเคงเฅเคฏเคฎ เคธเฅ Approved Operations เคเคชเคฒเคฌเฅเคง เคเคฐเคพเค เคเคพ เคธเคเคคเฅ เคนเฅเคเฅค
17. ๐ก๏ธ Application เคฆเฅเคธเคฐเฅ Customer เคเฅ Order เคคเค Access เคเฅ เคเฅเคธเฅ เคฐเฅเคเคคเคพ เคนเฅ?
Backend เคเฅ User เคเฅ Authenticate เคเคฐเคจเคพ เคเคพเคนเคฟเค เคเคฐ Private Information Return เคเคฐเคจเฅ เคธเฅ เคชเคนเคฒเฅ Order Ownership Verify เคเคฐเคจเฅ เคเคพเคนเคฟเคเฅค เคเฅเคตเคฒ Customer เคฆเฅเคตเคพเคฐเคพ เคฆเคฟเคฏเคพ เคเคฏเคพ Order ID Access เคเฅ เคฒเคฟเค เคชเคฐเฅเคฏเคพเคชเฅเคค Authorization เคจเคนเฅเค เคนเฅเคจเคพ เคเคพเคนเคฟเคเฅค
18. ๐ เคฏเคฆเคฟ Order Management API Fail เคนเฅ เคเคพเค เคคเฅ เคเฅเคฏเคพ เคนเฅเคเคพ?
Application เคเฅ Error เคธเฅเคฐเคเฅเคทเคฟเคค เคคเคฐเฅเคเฅ เคธเฅ Handle เคเคฐเคจเคพ เคเคพเคนเคฟเค, Unverified Order Status Generate เคจเคนเฅเค เคเคฐเคจเคพ เคเคพเคนเคฟเค เคเคฐ เคเคเคฟเคค Error Message เคฆเฅเคจเคพ เคเคพเคนเคฟเค เคฏเคพ Request เคเฅ Human Support เคคเค Escalate เคเคฐเคจเคพ เคเคพเคนเคฟเคเฅค
๐ 19. Knowledge Check โ Multiple Choice Questions
E-commerce Customer Support AI Agent Project เคเฅ เคฌเคพเคฐเฅ เคฎเฅเค เค เคชเคจเฅ เคธเคฎเค เคเฅ เคเคพเคเคเฅเคเฅค
โ Question 1. E-commerce Company เคเฅ AI Customer Support System เคเฅ เคเคตเคถเฅเคฏเคเคคเคพ เคเฅเคฏเฅเค เคนเฅเคคเฅ เคนเฅ?
A. Manual Work เคฌเคขเคผเคพเคจเฅ เคเฅ เคฒเคฟเคเฅค
B. Repetitive Customer Support Tasks เคเฅ Automate เคเคฐเคจเฅ เคเฅ เคฒเคฟเคเฅค
C. เคธเคญเฅ Databases เคนเคเคพเคจเฅ เคเฅ เคฒเคฟเคเฅค
D. เคชเฅเคฐเฅ Website เคเฅ Replace เคเคฐเคจเฅ เคเฅ เคฒเคฟเคเฅค
โ Correct Answer: B
Explanation: Repetitive Customer Support Tasks เคเฅ Automate เคเคฐเคจเคพ เคเคฐ Operational Efficiency เคฌเฅเคนเคคเคฐ เคฌเคจเคพเคจเคพ เคเคธเคเคพ เคฎเฅเคเฅเคฏ เคเคฆเฅเคฆเฅเคถเฅเคฏ เคนเฅเฅค
โ Question 2. Company PDF Documents เคธเฅ Relevant Information Retrieve เคเคฐเคจเฅ เคเฅ เคฒเคฟเค เคเฅเคจ-เคธเฅ Technology เคเคชเคฏเฅเค เคเฅ เคเคพเคคเฅ เคนเฅ?
A. Docker
B. FastAPI
C. RAG
D. Git
โ Correct Answer: C
Explanation: RAG External Knowledge Sources เคธเฅ Relevant Information Retrieve เคเคฐเคเฅ LLM เคเฅ เคเคชเคฒเคฌเฅเคง เคเคฐเคพเคคเคพ เคนเฅเฅค
โ Question 3. Vector Database เคเคพ เคฎเฅเคเฅเคฏ เคเคฆเฅเคฆเฅเคถเฅเคฏ เคเฅเคฏเคพ เคนเฅ?
A. Vector Embeddings เคเฅ Store เคเคฐ Search เคเคฐเคจเคพเฅค
B. Python Applications Deploy เคเคฐเคจเคพเฅค
C. Web Pages Create เคเคฐเคจเคพเฅค
D. Customer Passwords Manage เคเคฐเคจเคพเฅค
โ Correct Answer: A
Explanation: Vector Databases Numerical Vector Representations เคเคพ เคเคชเคฏเฅเค เคเคฐเคเฅ Similarity-Based Retrieval เคฎเฅเค เคธเคนเคพเคฏเคคเคพ เคเคฐเคคเฅ เคนเฅเคเฅค
โ Question 4. Stateful AI Agent Workflows เคฌเคจเคพเคจเฅ เคเฅ เคฒเคฟเค เคเฅเคจ-เคธเฅ Technology เคเคชเคฏเฅเคเฅ เคนเฅ?
A. LangGraph
B. HTML
C. Excel
D. CSS
โ Correct Answer: A
Explanation: LangGraph State, Nodes เคเคฐ Edges เคเคพ เคเคชเคฏเฅเค เคเคฐเคเฅ Multi-Step Workflows เคเฅ Organize เคเคฐเคจเฅ เคฎเฅเค เคฎเคฆเคฆ เคเคฐเคคเคพ เคนเฅเฅค
โ Question 5. เคเคธ Project เคฎเฅเค REST API เคเคพ เคเฅเคฏเคพ เคเคฆเฅเคฆเฅเคถเฅเคฏ เคนเฅ?
A. Embeddings Generate เคเคฐเคจเคพเฅค
B. Applications เคเฅ Connect เคเคฐเคเฅ Information Exchange เคเคฐเคจเคพเฅค
C. LLM Train เคเคฐเคจเคพเฅค
D. PDF Documents Create เคเคฐเคจเคพเฅค
โ Correct Answer: B
Explanation: REST APIs เคเฅ เคฎเคพเคงเฅเคฏเคฎ เคธเฅ เค เคฒเค-เค เคฒเค Software Applications เคเค-เคฆเฅเคธเคฐเฅ เคเฅ เคธเคพเคฅ Communicate เคเคฐ Information Exchange เคเคฐ เคธเคเคคเฅ เคนเฅเคเฅค
โ Question 6. MCP เคเคพ Full Form เคเฅเคฏเคพ เคนเฅ?
A. Machine Control Program.
B. Model Context Protocol.
C. Multiple Chat Process.
D. Model Coding Platform.
โ Correct Answer: B
Explanation: MCP เคเคพ Full Form Model Context Protocol เคนเฅเฅค
โ Question 7. เคเคฌ AI เคตเคฟเคถเฅเคตเคธเคจเฅเคฏ เคเคคเฅเคคเคฐ เคฆเฅเคจเฅ เคฎเฅเค เคธเคเฅเคทเคฎ เคจเคนเฅเค เคนเฅเคคเคพ, เคคเคฌ Application เคเฅ เคเฅเคฏเคพ เคเคฐเคจเคพ เคเคพเคนเคฟเค?
A. เค เคจเฅเคฎเคพเคจ เคฒเคเคพเคเคฐ Answer เคฆเฅเคจเคพ เคเคพเคนเคฟเคเฅค
B. Private Information เคฆเคฟเคเคพเคจเฅ เคเคพเคนเคฟเคเฅค
C. Human Support เคคเค Escalate เคเคฐเคจเคพ เคเคพเคนเคฟเคเฅค
D. Customer Request Delete เคเคฐ เคฆเฅเคจเฅ เคเคพเคนเคฟเคเฅค
โ Correct Answer: C
Explanation: Uncertain เคฏเคพ Complex Requests เคเฅ Company Support Workflow เคเฅ เค เคจเฅเคธเคพเคฐ Human Support เคคเค Escalate เคเคฐเคจเคพ เคเคพเคนเคฟเคเฅค
โ Question 8. AI Hallucination เคเฅเคฏเคพ เคนเฅ?
A. Application Deployment Method.
B. Unsupported เคฏเคพ Fabricated AI Response.
C. Vector Database.
D. API Protocol.
โ Correct Answer: B
Explanation: เคเคชเคฒเคฌเฅเคง เคคเคฅเฅเคฏเฅเค เคฏเคพ Evidence เคฆเฅเคตเคพเคฐเคพ Support เคจเคนเฅเค เคเฅ เคเค Information เคเฅ AI เคฆเฅเคตเคพเคฐเคพ Generate เคเคฐเคจเคพ Hallucination เคเคนเคฒเคพเคคเคพ เคนเฅเฅค
๐ฏ 20. Summary โ เคธเคพเคฐเคพเคเคถ
E-commerce Customer Support AI Agent Project เคฏเคน เคชเฅเคฐเคฆเคฐเฅเคถเคฟเคค เคเคฐเคคเคพ เคนเฅ เคเคฟ เคเค Generative AI Technologies เคเฅ เคฎเคฟเคฒเคพเคเคฐ เคเค Practical Business Problem เคเฅเคธเฅ เคนเคฒ เคเคฟเคฏเคพ เคเคพ เคธเคเคคเคพ เคนเฅเฅค
เคเคธ Solution เคเฅ เคถเฅเคฐเฅเคเคค Business Requirement Gathering เคเคฐ Architecture Design เคธเฅ เคนเฅเคคเฅ เคนเฅเฅค
Python เคเคฐ FastAPI Application Foundation เคชเฅเคฐเคฆเคพเคจ เคเคฐเคคเฅ เคนเฅเคเฅค
LLMs Customer Requests เคเฅ เคธเคฎเคเคคเฅ เคนเฅเค เคเคฐ Responses Generate เคเคฐเคคเฅ เคนเฅเคเฅค
RAG Company Documents เคธเฅ Relevant Information Retrieve เคเคฐเคคเคพ เคนเฅเฅค
Embeddings เคเคฐ Vector Databases Semantic Retrieval เคฎเฅเค เคธเคนเคพเคฏเคคเคพ เคเคฐเคคเฅ เคนเฅเคเฅค
LangGraph Multi-Step AI Agent Workflows เคเฅ Coordinate เคเคฐเคคเคพ เคนเฅเฅค
REST APIs เคเคฐ MCP Integrations AI Application เคเฅ Enterprise Systems เคเฅ เคธเคพเคฅ Connect เคเคฐเคคเฅ เคนเฅเคเฅค
Testing, Evaluation, Authentication, Authorization, Monitoring เคเคฐ Production Deployment เคเคธ Solution เคเฅ Real Business Environments เคฎเฅเค เคเคชเคฏเฅเค เคเคฐเคจเฅ เคฏเฅเคเฅเคฏ เคฌเคจเคพเคคเฅ เคนเฅเคเฅค
VLR Training Generative AI เคธเฅเคเคจเฅ เคตเคพเคฒเฅ เคตเคฟเคฆเฅเคฏเคพเคฐเฅเคฅเคฟเคฏเฅเค เคเฅ เคฒเคฟเค เคฏเคน Project เคธเคฎเคเคจเฅ เคเคพ เคเค Practical Foundation เคชเฅเคฐเคฆเคพเคจ เคเคฐเคคเคพ เคนเฅ เคเคฟ เคเค GenAI Forward Deployed Engineer Enterprise AI Development เคเฅ เคเคฟเคธ เคชเฅเคฐเคเคพเคฐ Approach เคเคฐเคคเคพ เคนเฅเฅค
๐ Final Takeaway โ เคจเคฟเคทเฅเคเคฐเฅเคท
GenAI Forward Deployed Engineer เคเฅเคตเคฒ Chatbot Develop เคเคฐเคจเฅ เคตเคพเคฒเคพ เคตเฅเคฏเคเฅเคคเคฟ เคจเคนเฅเค เคนเฅเคคเคพเฅค
เคเคธ Role เคฎเฅเค เคตเคพเคธเฅเคคเคตเคฟเค Business Problems เคเฅ เคธเคฎเคเคจเคพ, Requirements Collect เคเคฐเคจเคพ, AI Architecture Design เคเคฐเคจเคพ, RAG Systems Implement เคเคฐเคจเคพ, AI Agents Develop เคเคฐเคจเคพ, APIs เคเคฐ External Tools Integrate เคเคฐเคจเคพ, Application Testing เคเคฐเคจเคพ เคเคฐ เค เคเคค เคฎเฅเค Reliable Solutions เคเฅ Production เคฎเฅเค Deploy เคเคฐเคจเคพ เคถเคพเคฎเคฟเคฒ เคนเฅเคคเคพ เคนเฅเฅค
๐ฏ เคตเคพเคธเฅเคคเคตเคฟเค Business Problems เคเฅ Practical, Secure, Scalable เคเคฐ Production-Ready AI Applications เคฎเฅเค เคฌเคฆเคฒเคจเคพ เคนเฅ เคเค GenAI Forward Deployed Engineer เคเคพ เค เคเคคเคฟเคฎ เคเคฆเฅเคฆเฅเคถเฅเคฏ เคนเฅเฅค
๐ Reference URLs
- LangGraph Official Documentation: https://docs.langchain.com/oss/python/langgraph/overview
- MCP Architecture Documentation: https://modelcontextprotocol.io/specification/2025-06-18/architecture
- FastAPI Request Body Documentation: https://fastapi.tiangolo.com/tutorial/body/