LM Studio ist eine Gratis plattform um LLM lokal, also zb auf einem laptop , zu betreiben. Die einfache installation bedienung und das schlichte design macht es auch anfängern möglich aktuelle sprachmodelle ohne abomodell und spezialhardware ohne abokosten zu betreiben.

Sämtliche konverstionen mit dem Modell werden in den pfaden gespeichert. Man hat die volle kontrolle über seine Daten und kann diese auch für etwaige dokumentationszwecke aufbewahren.

Mac / Linux:
~/.lmstudio/conversations/

Windows:
%USERPROFILE%\.lmstudio\conversations

Mein spezieller Infosec usecase ist das lokale LMstudio zu verwenden um Skripte für die Analyse von Incidents zu erstellen oder um IOCs (Indicators of compromize) aus logfiles zu finden und extrahieren.

Ab besten man nutzt Systemprompts um das LLM auf gewisse parameter und Ziele zu trimmen.