LLMs lokal auf der Kommandozeile ausführen mit Docker Desktop 4.40 from Heise's blog

Mit dem Docker Model Runner lassen sich KI-Modelle direkt aus Docker Desktop heraus starten – mit GPU-Beschleunigung und verpackt als OCI-Artefakt.


Source: https://www.heise.de/news/LLMs-lokal-auf-der-Kommandozeile-ausfuehren-mit-Docker-Desktop-4-40-10337421.html?wt_mc=rss.red.ho.ho.rdf.beitrag.beitrag


Previous post     
     Next post
     Blog home

The Wall

No comments
You need to sign in to comment