Kong heeft een nieuwe versie van de AI Gateway gelanceerd met verbeterde functies voor AI-governance.
Een van de grootste uitdagingen bij het werken met LLM’s is hun neiging tot ‘hallucineren’, oftewel het genereren van onjuiste informatie. Kong pakt dit probleem aan met een AI RAG Injector. Deze functie maakt automatisch verbinding met een vectordatabase om relevante data aan een prompt toe te voegen voordat deze naar het model wordt gestuurd.
Door de verantwoordelijkheid voor RAG-pijplijnen naar de AI Gateway te verplaatsen, wordt de vectordatabase achter een extra beveiligingslaag geplaatst. Dit verbetert de security en naleving van regelgeving. Ontwikkelaars profiteren van een low-code/no-code aanpak, waardoor ze minder tijd kwijt zijn aan het handmatig bouwen van deze pijplijnen.
Verbeterde bescherming van persoonlijke gegevens
De nieuwe PII-sanitizationfunctie beschermt persoonlijke gegevens, wachtwoorden, codes en meer dan 20 categorieën PII in 12 verschillende talen. Platformeigenaren kunnen deze sanitization (het proces van het identificeren, maskeren of verwijderen van PII) op platformniveau afdwingen, waardoor ontwikkelaars dit niet voor elke applicatie apart hoeven te implementeren.
Een belangrijk voordeel is dat, in tegenstelling tot andere sanitazationproducten die gevoelige gegevens eenvoudigweg verwijderen, Kong AI Gateway 3.10 optioneel de originele data weer kan invoegen in het antwoord voordat het de eindgebruiker bereikt. Dit zorgt voor een naadloze en gepersonaliseerde gebruikerservaring.
Tip: Nieuwe update voor Kong Konnect maakt API’s kijken nog makkelijker