GitHub heeft een publieke bètaversie gepresenteerd van GitHub Models. Hiermee krijgen ontwikkelaars in een interactieve sandbox-testomgeving gratis toegang tot verschillende AI-modellen. Deze zijn uit te testen met het oog op een introductie in ontwikkelomgevingen.
Microsofts ontwikkelplatform GitHub heeft recent een gelimiteerde bèta van GitHub Models geïntroduceerd. Het platform geeft hen in een sandbox-omgeving toegang tot verschillende LLM’s, om ze veilig te testen en uiteindelijk in productie te gebruiken. Het aanbod bestaat uit zowel open-source opties zoals Llama 3.1 als closed-source modellen zoals OpenAI’s GPT-4o.
Eenvoudige toegang
De doelstelling van het platform is om alle ontwikkelaars de kans te geven eenvoudiger toegang te krijgen tot deze vaak gebruikte LLM’s. Volgens GitHub hebben veel developers vaak nog geen toegang tot deze modellen. Dit ondanks dat zij steeds vaker GenAI-applicaties willen bouwen op basis van een full stack van backend- en frontend-code en onderliggende LLM’s.
Via GitHub Models krijgen ontwikkelaars toegang tot LLM’s als die van Meta, Cohere, A121 Labs, Mistral AI, Azure OpenAI Service en Microsoft. Het aanbod bestaat onder meer uit Meta’s Llama 3.1, OpenAI’s GPT-4o- en GPT-4o mini, Cohere Command, A121 Jamba, Mistral Large 2 en Phi 3-medium van Microsoft.
Features
Ontwikkelaars kunnen deze LLM’s via een ingebouwde “playground” uitrollen, verschillende prompts en model-parameters testen en deze uiteindelijk in ontwikkelomgevingen integreren. Compatibele IDE’s zijn onder andere GitHub Codespaces of Visual Studio Code van Microsoft. Ook kunnen zij hierin GitHub Copilot inzetten.
Op deze manier is het bijvoorbeeld mogelijk te ontdekken hoe bepaalde LLM’s werken in nieuwe applicaties of welke LLM hiervoor het meest geschikt is. Ook kunnen zij ‘spelen’ met diverse integratietechnieken, zoals RAG. Dit alles kan wordt ondersteund met cloudresources. GitHub Codespaces helpt hierbij met de benodigde inference die lokale machines vaak niet aankunnen en cloudtoegang te duur is.
Registratie voor de publieke bèta van GitHub Models is nu via de site beschikbaar. Het ontwikkelplatform wordt in de komende tijd, voordat het algemeen beschikbaar, verder uitgebreid met andere modellen.
Lees ook: GitHub Copilot Workspace: gaat AI software engineers vervangen?