Azure AI Foundry für M365-Profis — der vollständige Einstieg
Du verwaltest M365-Tenants, kennst Entra ID im Schlaf, hast schon den ein oder anderen Copilot-Rollout begleitet — und jetzt taucht überall „Azure AI Foundry” auf. Was steckt dahinter, und was hat das mit deiner M365-Welt zu tun? Dieser Guide liefert dir die ehrliche Antwort.
Was ist Azure AI Foundry? (Und warum heißt es jetzt “Microsoft Foundry”?)
Azure AI Foundry — seit Januar 2026 offiziell in Microsoft Foundry umgetauft — ist Microsofts zentrale Plattform für den Aufbau, den Betrieb und die Governance von KI-Anwendungen und Agenten. Früher hieß die Oberfläche Azure AI Studio. Der Name wechselt, aber das Ziel bleibt: eine einzige Anlaufstelle für alles rund um KI-Entwicklung im Azure-Ökosystem.
Die offizielle Docs-URL dazu: learn.microsoft.com/en-us/azure/foundry/what-is-foundry
Die Kernkomponenten auf einen Blick
Microsoft Foundry besteht aus sechs Bausteinen:
| Komponente | Was es tut |
|---|---|
| Foundry Models | Modell-Katalog: GPT-5.4, Claude Opus 4.6, Grok 4.2, Llama, Mistral u.v.m. |
| Foundry Agent Service | Verwaltete Agents-Infrastruktur — seit März 2026 allgemein verfügbar (GA) |
| Foundry IQ | Evolution von Azure AI Search: RAG, Grounding, Wissensbasis |
| Foundry Tools | Evaluierung, Red Teaming, Tracing, MCP-Integration |
| Foundry Control Plane | Governance, Monitoring, Azure Monitor-Integration |
| Foundry Local | Sovereign-Betrieb: Volle Plattform ohne Cloud-Verbindung (On-Prem, GPU) |
Der Einstiegspunkt ist immer ai.azure.com — dort findest du das Portal.
Abgrenzung: Foundry vs. Azure OpenAI vs. Copilot Studio
Das ist die Frage, die uns in jedem Beratungsgespräch begegnet. Drei Produkte, ein Microsoft-Logo — und doch ganz unterschiedliche Ansatzpunkte.
Microsoft Foundry / Azure AI Foundry
Für wen: Entwickler, IT-Pros, KI-Engineers
Was es ist: Die Entwickler-Plattform. Du baust hier eigene Agenten, wählst Modelle frei aus einem Katalog mit 1.800+ Modellen, integrierst via SDK oder REST-API in deine Anwendungen und steuerst alles über ein einheitliches Control Plane.
Stärke: Maximale Flexibilität. Bring-Your-Own-Model, Multi-Modell-Orchestrierung, Enterprise-Governance.
Azure OpenAI Service
Für wen: Entwickler, die ausschließlich OpenAI-Modelle (GPT-4o, GPT-5.4, DALL-E, Whisper) brauchen
Was es ist: Der API-Zugang zu OpenAI-Modellen auf Azure-Infrastruktur. Token-basiertes Pay-as-you-go, VNET-Integration, Private Endpoint.
Stärke: Direkter, schlanker API-Zugang. Wer nur GPT braucht und keine Plattform-Features benötigt, ist hier schneller. Azure OpenAI ist seit dem Foundry-Rebrand auch Teil von Foundry — du kannst Azure OpenAI-Deployments direkt im Foundry-Portal verwalten.
Copilot Studio
Für wen: Power User, Fachabteilungen, M365-Admins ohne Programmierkenntnisse
Was es ist: Der No-Code/Low-Code-Baukasten für Chatbots und Agenten, direkt integriert in M365 und Power Platform.
Stärke: Rollout ohne Entwickler. Teams-Bot in zwei Stunden, SharePoint-Wissensbasis anbinden, Power Automate-Flows triggern — alles per Klick.
Kurzfassung: Foundry = Developer-Plattform. Azure OpenAI = Model-API. Copilot Studio = No-Code-Bot-Builder. In der Praxis ergänzen sich alle drei.
Kernkomponenten für M365-Profis
Als M365-Admin oder Consultant interessieren dich vor allem die Integrationspunkte zwischen Microsoft Foundry und deiner bestehenden M365-Infrastruktur.
1. M365 Agents SDK
Seit 2026 ermöglicht das M365 Agents SDK, einen in Foundry entwickelten Agenten direkt in Microsoft 365 Copilot einzubinden. Dein Custom-Agent erscheint dann als Plugin in Teams, Copilot Chat oder der Microsoft 365 App — mit Zugriff auf Foundry Models, Foundry IQ und MCP-Tools.
Konkret heißt das: Du entwickelst Unternehmenslogik in Foundry (eigene Wissensbasis, Custom-Modell, definierte Tools), und M365-Nutzer greifen darauf über die gewohnte Copilot-Oberfläche zu. Kein separates App-Deployment notwendig.
2. Foundry IQ + SharePoint / M365-Daten
Foundry IQ (die Weiterentwicklung von Azure AI Search) lässt sich direkt mit SharePoint Online und M365-Datenquellen verbinden. Du definierst, welche Dokumente, Listen oder Datenbanken dein Agent als Wissensbasis nutzen darf — alles grounding-basiert, keine Halluzinationen aus dem blauen Himmel.
3. Entra ID & Berechtigungen
Microsoft Foundry-Projekte sind vollständig in Azure Entra ID integriert. Du verwaltest Rollen (Owner, Contributor, Reader) wie überall in Azure — RBAC, Conditional Access, Managed Identity. Kein separates Benutzermanagement.
4. Foundry Local für sensible Umgebungen
Für Organisationen mit Datensouveränitätsanforderungen (Gesundheit, Behörden, Finanz) bietet Foundry Local seit Februar 2026 eine vollständig desconnected betriebene Variante: KI-Plattform auf eigener GPU-Hardware, APIs spiegeln die Cloud-Oberfläche.
Erste Schritte: Setup (Schritt-für-Schritt)
Du brauchst: Ein Azure Subscription (Free Tier reicht zum Testen), Entra ID-Berechtigung für Ressourcen-Erstellung.
Schritt 1: Microsoft Foundry-Projekt anlegen
- Gehe zu ai.azure.com und melde dich mit deinem Azure-Account an.
- Klicke auf “Create project”.
- Vergib einen Projektnamen und wähle eine Region. Empfehlung für DACH: West Europe (Amsterdam) oder Switzerland North (für Datensouveränitätsanforderungen).
- Optional: Neuen Azure AI Hub erstellen oder vorhandenen nutzen. Der Hub ist das Sicherheits- und Governance-Dach über mehreren Projekten.
Schritt 2: Modell deployen
- Im Projekt: “Model catalog” öffnen.
- Modell suchen (z.B.
gpt-4o) und auf “Deploy” klicken. - Deployment-Typ wählen: Serverless API (Pay-per-Token, kein Idle-Kosten) oder Dedicated (reservierte Kapazität, günstiger bei hohem Volumen).
Schritt 3: Ersten Agenten bauen
- Im Foundry-Portal: “Agents” → “Create agent”.
- Modell auswählen (z.B.
gpt-4oodergpt-5.4-minifür schlanke Use Cases). - System Prompt definieren: Wer ist der Agent, was darf er, was nicht.
- Tools hinzufügen: Bing Grounding (Web-Suche), Azure AI Search (Dokumente), Azure Functions (Code ausführen), MCP-Tools.
- Im Playground testen — direkt im Browser, kein Code nötig.
Schritt 4: SDK-Integration (optional, für Entwickler)
from azure.ai.projects import AIProjectClient
from azure.identity import DefaultAzureCredential
client = AIProjectClient(
endpoint="https://<your-project>.services.ai.azure.com",
credential=DefaultAzureCredential()
)
# Agent ausführen
response = client.agents.run(agent_id="<agent-id>", messages=[...])Das Python SDK azure-ai-projects ist seit März 2026 in Version 2.0.0 (GA) verfügbar.
Praxisbeispiel: KI-gestütztes Dokumentenmanagement im Mittelstand
Ein produzierendes Unternehmen aus dem Ruhrgebiet (150 Mitarbeiter, M365 Business Premium) stand vor einem klassischen Problem: Die technische Dokumentation — Wartungshandbücher, Prüfprotokolle, Zertifikate — lag in SharePoint verteilt über 12 Dokumentenbibliotheken. Die Servicetechniker verbrachten durchschnittlich 20 Minuten pro Einsatz mit der Suche nach den richtigen Unterlagen.
Lösung mit Microsoft Foundry:
- Foundry IQ als Wissensbasis aufgesetzt, verbunden mit den SharePoint-Bibliotheken. Alle Dokumente werden automatisch indiziert und für RAG (Retrieval Augmented Generation) aufbereitet.
- Foundry Agent konfiguriert: GPT-4o als Modell, Foundry IQ als Knowledge Source, klare Anweisungen zur Quellenangabe in jeder Antwort.
- Copilot Studio als Frontend: Der Agent als Plugin in Microsoft Teams eingebunden — die Techniker nutzen das, was sie bereits kennen.
Ergebnis nach 8 Wochen Pilotbetrieb: Suchzeit von 20 auf 3 Minuten reduziert. Keine Halluzinationen dank vollständiger Quellenreferenzierung. Compliance-Team zufrieden, weil alle Antworten auf geprüften internen Dokumenten basieren.
Kosten: Serverless GPT-4o-Deployment, ca. 150–200€/Monat bei diesem Nutzungsvolumen. Foundry Hub und Projekt selbst sind kostenlos.
Typische Fehler und Stolperfallen
Diese Probleme begegnen uns immer wieder — damit du sie nicht selbst entdecken musst:
1. Region falsch gewählt
Nicht alle Modelle sind in allen Regionen verfügbar. GPT-4o und GPT-5.4 sind in West Europe verfügbar, aber neuere Open-Source-Modelle manchmal zunächst nur in East US. Lösung: Im Model Catalog vor dem Deploy die Regional Availability prüfen.
2. Private Endpoint nach Foundry-Rebrand gebrochen
Nach der Umstellung von alten Azure AI Studio-Ressourcen auf das neue Foundry-Ressourcenmodell (kind: AIServices) funktionieren bestehende Private Endpoints nur noch für *.openai.azure.com. Die neuen Foundry-FQDNs brauchen eigene IP-Konfigurationen. Lösung: Private Endpoint neu erstellen mit zusätzlichen IP-Konfigurationen für alle Foundry-Endpoints.
3. Kosten-Überraschungen bei Dedicated-Deployments
Dedicated Capacity läuft 24/7 — auch wenn kein Request kommt. Für Pilotprojekte und Testumgebungen immer Serverless API wählen. Committed Use lohnt sich erst ab konstantem Produktions-Traffic.
4. Zu viele Tools im Agent
Ein Agent mit 12 gleichzeitig aktiven Tools und einem vagen System Prompt wird unzuverlässig. Faustregel: Pro Agent maximal 3–5 klar definierte Tools, präziser System Prompt, klarer Scope. Lieber mehrere spezialisierte Agenten orchestrieren als einen Alleskönner.
5. AzureML SDK v1 ignorieren
Achtung: Das AzureML SDK v1 (Python) läuft am 30. Juni 2026 aus. Wenn du noch azureml-core verwendest, jetzt auf azure-ai-projects v2 + Azure ML SDK v2 migrieren. Der Countdown läuft.
Fazit: Wann lohnt sich Microsoft Foundry für M365-Umgebungen?
Microsoft Foundry lohnt sich, wenn du über Copilot Studio hinauswillst. Wenn die Fachabteilung No-Code-Bots braucht — nimm Copilot Studio. Wenn du aber eigene Unternehmenslogik, eigene Modelle oder komplexe Multi-Agenten-Workflows brauchst, die tief in deine Systemlandschaft integriert sind, dann ist Foundry die richtige Wahl.
Für M365-Profis im DACH-Mittelstand ist der konkrete Mehrwert klar: Du kannst bestehende M365-Datenquellen (SharePoint, Teams, Exchange) als Wissensbasis für leistungsfähige KI-Agenten nutzen — mit Enterprise-Governance, Entra ID-Integration und EU-Datenspeicherung. Kein Wild-West, kein Shadow IT.
Der erste Schritt ist einfach: Ein kostenloses Foundry-Projekt anlegen, den Playground ausprobieren, erste Eindrücke sammeln. Das kostet kein Budget und keine Entwickler.
Du willst wissen, ob Microsoft Foundry in deiner M365-Umgebung sinnvoll ist?
Wir schauen uns gemeinsam an, wo KI-Agenten in deiner bestehenden Infrastruktur einen konkreten ROI bringen — und wo du lieber die Finger davon lässt.
→ Kostenloses M365-Erstgespräch buchen
Quellen & Links: