Senior AI Engineer, GreenNode

Ho Chi Minh City, Vietnam · On site · Senior · Full time

An OV member works here

Translated automatically from Vietnamese. Read the original

Research, design and optimize AI Agent architecture: planning, tool-use / function calling, memory, multi-agent orchestration for RAGEngine and GreenNode's AI products.
Build and optimize end-to-end Agentic RAG pipeline: ingestion, chunking, embedding, hybrid retrieval (dense/sparse), reranking, query rewriting/decomposition, iterative & self-reflective retrieval.
Design agent and RAG quality evaluation system: faithfulness, answer relevancy, retrieval precision/recall; build benchmark and automated evaluation process (LLM-as-a-judge, RAGAS or equivalent).
Optimize simultaneously quality – latency – cost: semantic caching, model routing, prompt optimization, context management/compression.
Coordinate with product and infrastructure teams to bring research results into production on GreenNode's self-host model platform.
Monitor research and new standards (agent frameworks, MCP, A2A, deep research patterns...) and propose application to products.

From 2 years (Middle) to 4+ years (Senior) AI/ML Engineering experience, of which minimum 1–2 years working directly with LLM applications.
Proficient in Python; experience with agent/RAG frameworks (LangChain/LangGraph, LlamaIndex, AutoGen, CrewAI...) or building agent systems from scratch.
Deep understanding of LLM in practice: prompt engineering, function calling, structured output, context window management.
Experience with embedding and vector database (Milvus, Qdrant, Weaviate, pgvector...), search/IR techniques: BM25, hybrid search, reranker (cross-encoder).
Deployed LLM systems to production: API design, monitoring, observability/tracing (Langfuse, OpenTelemetry or equivalent).
Good English reading comprehension for technical documentation and papers.

The original, in Vietnamese

Nghiên cứu, thiết kế và tối ưu kiến trúc AI Agent: planning, tool-use / function calling, memory, multi-agent orchestration cho RAGEngine và các sản phẩm AI của GreenNode.
Xây dựng và tối ưu pipeline Agentic RAG end-to-end: ingestion, chunking, embedding, hybrid retrieval (dense/sparse), reranking, query rewriting/decomposition, iterative & self-reflective retrieval.
Thiết kế hệ thống đánh giá chất lượng agent và RAG: faithfulness, answer relevancy, retrieval precision/recall; xây dựng benchmark và quy trình đánh giá tự động (LLM-as-a-judge, RAGAS hoặc tương đương).
Tối ưu đồng thời chất lượng – độ trễ – chi phí: semantic caching, model routing, prompt optimization, context management/compression.
Phối hợp với các team sản phẩm và hạ tầng để đưa kết quả nghiên cứu vào production trên nền tảng mô hình self-host của GreenNode.
Theo dõi các nghiên cứu và chuẩn mới (agent frameworks, MCP, A2A, deep research patterns...) và đề xuất áp dụng vào sản phẩm.

Từ 2 năm (Middle) đến 4+ năm (Senior) kinh nghiệm AI/ML Engineering, trong đó tối thiểu 1–2 năm làm việc trực tiếp với ứng dụng LLM.
Thành thạo Python; có kinh nghiệm với các framework agent/RAG (LangChain/LangGraph, LlamaIndex, AutoGen, CrewAI...) hoặc tự xây dựng hệ thống agent từ đầu.
Hiểu sâu về LLM trong thực tế: prompt engineering, function calling, structured output, quản lý context window.
Kinh nghiệm với embedding và vector database (Milvus, Qdrant, Weaviate, pgvector...), kỹ thuật search/IR: BM25, hybrid search, reranker (cross-encoder).
Đã đưa hệ thống LLM lên production: thiết kế API, monitoring, observability/tracing (Langfuse, OpenTelemetry hoặc tương đương).
Tiếng Anh đọc hiểu tốt tài liệu kỹ thuật và paper.

More at VNG

Free, with your email. New jobs that fit you, every Monday.

An OV member works at VNG. Members see who it is and can ask them for a short chat.

Hiring? Reach Overseas Vietnamese.Post jobs