Hugging Face heeft vorige week een mogelijke inbreuk ontdekt op zijn AI-hubplatform. Meer specifiek ging het om misbruik van zogenoemde Spaces-secrets of inlogsleutels voor toegang tot persoonlijke accounts, tools, en ontwikkel-ruimtes. Inmiddels zijn uitgebreide maatregelen genomen.
Volgens Hugging Face werd recent niet-geautoriseerde toegang ontdekt tot het Spaces-platform, een hosting-platform voor AI-modellen. Iemand zou zichzelf toegang hebben verleend tot een subset van secrets. Deze toegang zou zijn geforceerd door een niet nader genoemde ‘derde partij’.
De platformaanbieder voor het maken, delen en hosten van AI-modellen geeft aan dat het meteen heeft ingegrepen om eventuele schade of verdere inbreuken te voorkomen. Hierbij zijn een aantal zogenoemde HF-tokens voor deze specifieke secrets ingetrokken.
Extra maatregelen
Daarnaast zijn extra maatregelen getroffen om de veiligheid van de Spaces-infrastructuur verder te verstevigen. Onder andere door het volledig verwijderen van zogenoemde org-tokens, het implementeren van key management service (KMS) voor Spaces secrets, het verstevigen en uitbreiden van de mogelijkheden voor Hugging Face om gelekte tokens te identificeren en deze proactief ongeldig te maken en de algemene security verder te verbeteren. Verder is de AI-hub van plan binnenkort klassieke read & write tokens volledig uit te faseren, wanneer meer gedetailleerde toegangstokens dezelfde functionaliteit bieden.
Hugging Face heeft klanten waarvan de Spaces-tokens zijn ingetrokken via e-mail op de hoogte gesteld. Het roept verder alle klanten op iedere key of token te verversen en raadt aan over te stappen naar meer gedetailleerde tokens, omdat die meer veiligheid bieden.
Eerdere security-incidenten
Het is niet de eerste keer dat de security van Hugging Face in opspraak komt. In de maand april van dit jaar ontdekten onderzoekers een -inmiddels opgeloste- kwetsbaarheid dat hackers in staat stelde willekeurige code te draaien tijdens een op het platform gehoste build-time van applicaties. Hiermee kregen zij inzicht in de netwerkverbindingen van de getroffen machines
Nog eerder in het jaar ontdekte securitybedrijf JFrog dat naar het platform geüploade code onontdekt backdoors en andere malware installeerde op de machines van eindgebruikers. Verder signaleerde securityspecialist HiddenLayer nog mogelijkheden voor het misbruiken van het ogenschijnlijk zeer veilige ‘serialization format’ Safetensors om gesaboteerde AI-modellen aan te maken.
Lees ook: Grootschalige aanval op Ray-framework legt AI-securityrisico’s bloot