Het Model Context Protocol is inmiddels ingeburgerd als communicatiemiddel voor LLM’s met externe systemen. Solo.io lanceert hiervoor MCP Gateway binnen kgateway. Deze nieuwe gateway maakt de integratie en het beheer van AI-agents met MCP-compatibele toolchains aanzienlijk eenvoudiger voor het leveren van moderne, cloud-native applicaties.
Solo.io benadrukt de wijde adoptie van de eigen tool. Bedrijven zoals Domino’s Pizza, ParkMobile en Vonage gebruiken kgateway al in productieomgevingen voor API-verkeersbeheer, stabiliteit en beveiliging. Met de nieuwe MCP Gateway kunnen organisaties nu eenvoudig geavanceerde AI-gateway-toepassingen implementeren. Door de groei van AI-workloads en de toenemende behoefte aan verkeersbeheer voor LLM-providers, spelen gateways een steeds crucialere rol in het controleren en beveiligen van verkeer in alle richtingen.
Standaardprotocol voor AI-tools
MCP is oorspronkelijk ontwikkeld door Anthropic, maar wordt ook door OpenAI en open-source AI-spelers gebruikt. Het biedt een gestandaardiseerde methode om LLM’s te verbinden met verschillende databronnen en tools. Het protocol ontwikkelt zich snel tot de standaard voor interoperabiliteit tussen AI-agents en tools. De laag bovenop MCP lijdt echter aan een wildgroei aan opties. AI-clients en -agents hebben in de bewoording van Solo.io te maken met ’tool sprawl’, waarbij er duizenden opties zijn die elk de standaard willen worden voor de connectiviteit tussen systemen.
Met MCP Gateway kunnen ontwikkelaars en platformteams meerdere MCP-tools en toolservers ontdekken, beveiligen en federeren in een gevirtualiseerde MCP-server. Dit biedt ontwikkelaars een enkele, beveiligde MCP-toolregistratie en -toegangspunt, ongeacht het aantal tools dat door AI-agents en -applicaties wordt gebruikt.
Voordelen van MCP Gateway
“Hoewel MCP zich snel heeft ontwikkeld tot het de facto standaardprotocol voor het toegang krijgen tot tools vanuit agents, is het inbouwen van MCP-integratiecapaciteiten in elke applicatieclient en agent foutgevoelig en omslachtig voor AI-ontwikkelingsteams,” aldus Keith Babo, Chief Product Officer bij Solo.io. “MCP Gateway elimineert de noodzaak om deze agents en tools handmatig te verbinden door MCP-servers op één plek te consolideren, wat teams talloze uren bespaart en onnodige complexiteit vermindert.”
Belangrijke use cases
MCP Gateway biedt verschillende belangrijke use cases, waaronder:
● Vereenvoudiging van tool-onboarding met geautomatiseerde detectie en registratie van MCP-toolservers.
● Een gecentraliseerd register van MCP-tools voor ontwikkelaars, ongeacht de locatie van de heterogene toolservers.
● Toegang tot elke MCP-tool via één enkel endpoint met innovatieve MCP-multiplexing die een heel ecosysteem van duizenden tools omvormt tot een gevirtualiseerde MCP-toolserver.
● Direct beveiligen van MCP-toolserver-implementaties voor consistente authenticatie- en autorisatiecontroles voor multi-tenant gebruik.
● Diepgaande inzichten en observability in AI-agent- en toolintegraties met gecentraliseerde metrics, logging en tracing voor alle toolaanroepen.
MCP Gateway maakt deel uit van kgateway en is volledig open source als Sandbox-project onder de Cloud Native Computing Foundation.