Cloud Infra, Data & AI Platform
AI Apps
Aplikasi dan agen dengan retrieval, evaluasi, dan serah terima ke manusia sejak awal.
Membangun aplikasi dan agen sebagai satu rantai utuh, bukan satu mata rantainya saja: use case yang membenarkan pekerjaannya, pengetahuan dan data yang menjadi dasar jawaban, desain retrieval dan indeks di Azure AI Search, lalu agennya, tool-nya, dan kanal tempat ia dipakai. Evaluasi, content safety, dan alih tangan terkendali ke manusia dirancang di dalam alur kerja, bukan ditambahkan setelah pilot terlihat meyakinkan, sehingga perubahan model atau prompt diukur terhadap set pertanyaan tetap, bukan dinilai dari kesan. Pendekatannya Microsoft Foundry sebagai platform, dan Microsoft Agent Framework ketika pekerjaannya melintasi beberapa sistem dan satu langkah retrieval tidak cukup.
Microsoft FoundryAICopilot StudioProduk Microsoft di baliknya
Apa yang dilindungi atau dihasilkan tiap produk, cara kerjanya, dan persoalan yang dijawabnya.
- Microsoft Foundry
Tempat workload AI dibangun, dirilis, dan diawasi
Platform tempat aplikasi atau agen AI dibangun, dengan katalog model, evaluasi, dan tracing di satu tempat, bukan dirakit ulang tiap proyek.
- Model Catalogue
- Agent Service
- Prompt Engineering
- +3 lainnya
Azure OpenAI ServiceModel bahasa enterprise di dalam tenant Anda sendiri
Model bahasa, penalaran, dan embedding yang dipanggil workload, dirilis di dalam subscription dan jaringan Azure milik pelanggan sendiri.
- Language Models
- Reasoning
- Embeddings
- +3 lainnya
Azure AI SearchIndeks yang menjadi dasar sebuah jawaban
Lapisan retrieval di bawah asisten pengetahuan, memadukan pencarian keyword dan vektor dengan aturan akses yang menentukan sumber jawaban bagi tiap pengguna.
- Retrieval
- Vector Search
- Hybrid Search
- +3 lainnya
Azure AI Document IntelligenceMengubah dokumen menjadi data yang dapat dipakai workload
Ekstraksi yang membaca hasil pindai, tabel, dan formulir menjadi teks terstruktur, yang justru membuat sebuah arsip dokumen dapat di-retrieve.
- Document Extraction
- OCR
- Table Recognition
- +3 lainnya
Copilot StudioAgen yang bisa dibangun dan dirawat tim bisnis
Jalur low code menuju agen, tempat pemilik prosesnya merawat sendiri agen itu, bukan mengantre di belakang tim pengembang.
- Low Code Agents
- Topics and Triggers
- Knowledge Sources
- +3 lainnya
Microsoft Agent FrameworkOrkestrasi untuk pekerjaan yang tak selesai dengan satu prompt
Framework di balik workload multi agen: perencanaan, tool terdaftar, dan state yang bertahan pada tugas berjalan lama.
- Agent Orchestration
- Tool Calling
- Planning
- +3 lainnya
Enam tahap layanan, dari use case sampai workload di produksi
Asisten yang bagus saat didemokan dan asisten yang bertahan di produksi adalah dua pekerjaan berbeda. Enam tahap berikut adalah urutan kerjanya, dari pemilihan use case sampai pengoperasian workload dengan uji terhadap set evaluasi.
Perumusan Use Case dan Nilai
- Memilih proses tempat asisten atau agen benar-benar mengubah hasil, bukan sekadar demo
- Menetapkan keputusan atau tugas yang diambil alih workload, dan siapa yang tetap bertanggung jawab
- Menentukan seperti apa jawaban yang benar sebelum apa pun dibangun, agar keberhasilan terukur
Grounding Pengetahuan dan Data
- Memetakan dokumen, record, dan sistem yang menjadi sumber jawaban
- Ekstraksi dan chunking dengan Azure AI Document Intelligence, termasuk tabel dan hasil pindai
- Membawa serta hak akses sumbernya, agar dokumen yang tidak boleh dibaca pengguna tidak sampai kepadanya
Desain Retrieval dan Indeks
- Desain indeks dan field di Azure AI Search, keyword, vektor, dan hybrid
- Ranking, filter, dan security trimming yang menegakkan hak akses saat kueri berjalan
- Sitasi dikembalikan bersama jawaban, agar pembaca dapat memeriksa asalnya
Pembangunan Agen dan Orkestrasi
- Pemilihan model dan perancangan prompt di Microsoft Foundry
- Tool, perencanaan, dan agen spesialis dengan Microsoft Agent Framework
- Kanal tempat workload digunakan: web, Microsoft Teams, messaging, atau voice
Evaluasi dan Guardrail
- Set evaluasi dari pertanyaan nyata, dinilai sebelum rilis dan setelah tiap perubahan
- Groundedness, relevansi, dan keamanan diukur, bukan diklaim
- Penyaringan konten dan alih tangan terkendali ke manusia untuk hal yang tidak boleh dijawab workload
Operasi dan Peningkatan
- Pemantauan latensi, biaya per permintaan, dan pola kegagalan di produksi
- Peninjauan pertanyaan yang tidak terjawab dan berkeyakinan rendah sebagai backlog perubahan indeks berikutnya
- Perubahan model dan prompt digulirkan dengan uji terhadap set evaluasi, bukan berdasarkan kesan
Dua jalur arsitektur
Jalur bawaannya adalah asisten yang di-grounding: satu indeks retrieval, satu model, sitasi dikembalikan pada setiap jawaban. Jalur multi agen dipakai untuk pekerjaan yang melintasi beberapa sistem dan membutuhkan perencanaan serta tool, bukan satu langkah retrieval.
Asisten dengan grounding
Jalur utama- Dokumen sumber
- Ekstraksi dan chunking (Document Intelligence)
- Indeks (Azure AI Search)
- Retrieval dan ranking
- Grounding ke model (Microsoft Foundry)
- Jawaban dengan sitasi
Lapisan medallion
Orkestrasi multi agen
Alternatif- Permintaan
- Planner
- Agen spesialis
- Tool terdaftar
- Orkestrasi durable
- Memory bersama (Cosmos DB)
- Jawaban dengan sitasi
Jalur ini untuk pekerjaan yang melintasi beberapa sistem, ketika satu langkah retrieval tidak cukup dan workload harus merencanakan, memanggil tool, serta menjaga state pada tugas yang berjalan lama.
Stack produk per lapisan
Komponen yang dipakai pada kedua jalur, dikelompokkan menurut lapisan yang dilayaninya. Komponen yang memerlukan lisensi atau kapasitas tersendiri ditandai, agar lingkupnya jelas sejak awal.
Cloud: Intelligence
Cloud- Azure OpenAI in Foundry Models
- Model, model bahasa dan penalaran yang dipanggil workload
- Microsoft Foundry
- Platform, tempat agen dan aplikasi AI dibangun, dirilis, dan diamati
- Azure AI Search
- Retrieval, indeks yang menjadi dasar jawaban
- Microsoft Agent Framework
- Orkestrasi, perencanaan dan pemanggilan tool antaragen
- Azure AI Document Intelligence
- Ekstraksi, mengubah dokumen menjadi teks terstruktur yang siap dipotong
- Azure AI Speech
- Speech, transkripsi dan sintesis suara untuk kanal voice
- Azure AI Vision
- Vision, pemahaman gambar dan video
- Azure AI Language
- Language, klasifikasi, ekstraksi, dan terjemahan
- Azure AI Content Safety
- Safety, penyaringan prompt dan respons dengan ambang yang dapat diatur
- Azure Machine Learning
- Machine learning, siklus hidup model prediktif dan model kustom
- Microsoft Copilot Studio
- Low code, agen yang dibangun dan dirawat oleh tim bisnisPerlu kapasitas Fabric
Cloud: Experience
Cloud- Azure App Service
- Aplikasi, permukaan web atau API yang dihosting
- Azure Static Web Apps
- Aplikasi, front end statis dengan API terkelola
- Azure Container Apps
- Aplikasi, layanan dalam container dengan scale to zero
- Azure AI Bot Service
- Kanal, satu agen menjangkau Teams, web, dan messaging
- Azure Communication Services
- Kanal, voice dan telepon untuk asisten realtime
- Azure SignalR Service
- Transport, mengalirkan token dan event ke peramban
Cloud: Integration
Cloud- Azure Functions
- Compute, function berbasis event untuk tool dan ingestion
- Azure Durable Functions
- Compute, orkestrasi jangka panjang dengan checkpoint
- Azure Logic Apps
- Workflow, konektor ke sistem lini bisnis
- Azure Event Grid
- Event, perutean antara ingestion, indexing, dan evaluasi
- Azure Stream Analytics
- Streaming, sinyal berkelanjutan masuk ke workload
- Azure Container Registry
- Rantai pasok, image yang menjalankan layanan
Cloud: Data
Cloud- Azure Cosmos DB
- Penyimpanan, state percakapan, memory, dan vector search
- Azure AI Search
- Penyimpanan, indeks retrieval yang dikueri asisten
- Azure Blob Storage
- Penyimpanan, dokumen sumber dan artefak hasil
- Azure SQL Database
- Penyimpanan, data relasional terkelola yang dibaca dan ditulis agen
- Azure Database for PostgreSQL
- Penyimpanan, data relasional open source dengan dukungan vektor
- Microsoft Fabric
- Analitik, data terkelola yang dibaca workload AIPerlu kapasitas Fabric
Cloud: Foundation
Cloud- Microsoft Entra ID
- Identitas, siapa penggunanya dan apa yang boleh dilihat
- Azure Managed Identity
- Identitas, akses antarlayanan tanpa menyimpan secret
- Azure Key Vault
- Secret, kunci dan connection string disimpan di luar kode
- Azure Monitor
- Operasi, sinyal latensi, biaya, dan kegagalan
- Azure Log Analytics
- Operasi, permukaan kueri atas trace dan evaluasi
- Azure Virtual Network
- Jaringan, akses privat antarlayanan
Model pengerjaan
Lima cara pekerjaan ini dijalankan. Pilihannya mengikuti bentuk kebutuhan, bukan sebaliknya, dan bisa digabungkan dalam satu engagement.
Projects Based
Ruang lingkup, jadwal, dan hasil kerja ditetapkan di awal.
Cocok untuk
Workload pertama dibawa dari use case sampai produksi, dengan lingkup tetap dan set evaluasi yang ditentukan.
Man Month
Penyediaan sumber daya sebagai alokasi bulanan.
Cocok untuk
Pengembangan AI yang berjalan terus dengan tim khusus, dengan backlog yang ditentukan oleh temuan di produksi.
Quota Mandays
Kuota tenaga kerja yang ditarik sesuai kebutuhan.
Cocok untuk
Pekerjaan bertahap pada asisten yang sudah berjalan: sumber baru, tool baru, perubahan indeks dan prompt.
Training
Pembekalan untuk Microsoft Foundry, desain retrieval, agen, dan evaluasi.
Cocok untuk
Membangun kemampuan internal pelanggan sendiri agar mereka dapat menjalankan dan mengembangkan workload-nya.
Support dan Maintenance
Dukungan pascaimplementasi, preventif (pemantauan, eksekusi evaluasi, tinjauan biaya dan kualitas) dan korektif (penanganan masalah setelah terjadi).
Cocok untuk
Menjaga asisten yang aktif tetap ter-grounding dan menjawab benar seiring berubahnya dokumen dan model yang mendasarinya.
Bagaimana pekerjaannya dilingkupi
Layanan yang dikerjakan kapabilitas ini, masing-masing dengan modul, hasil kerja, dan jangka waktu yang jelas.
- Cloud Infra, Data & AI Platform
Asesmen Kesiapan AI
Asesmen yang mengubah eksperimen AI yang tersebar menjadi rencana menuju platform produksi yang terkelola.
- Modul pekerjaan
- 3
- Cara ruang lingkup disepakati
- Cakupan bergantung pada jumlah use case dan sistem yang ditinjau, disepakati bersama tim practice sebelum pekerjaan dimulai
- Cloud Infra, Data & AI Platform
Program Pilot Agent
Engagement pilot yang menerapkan satu alur kerja agentic ke dalam proses nyata di atas Azure OpenAI Service.
- Modul pekerjaan
- 3
- Cara ruang lingkup disepakati
- Cakupan bergantung pada kompleksitas proses yang dipilih, disepakati bersama tim practice sebelum pekerjaan dimulai