Beiträge von o-mobil

    Moin,

    X11 in neu, ja das find ich gut. Zumal ich wayland gegenüber eher Skeptisch bin. Ob sich Phoenix durchsetzen kann, steht auf einem anderen Blatt, aber ich würde es gut finden. Ich hab z.B. eine KI Kiste welche normalerweise überhaupt nicht an die Conole gehe, und da läuft auch kein X-Server. Deshalb liebe ich X11, wenn ich mal eine Programm starten möchte / muss , dass eben kurzfristig eine GUI haben will, bevor es sich Headless konfigurieren lässt. Das war z.B. in den ersten Versionen von Pinokio Einer Sammlung von KI Frameworks so. Das Ding wollte ganz am Anfang einen X-Server zum starten, und kackte einfach so ab, wenn ich es starten wollte. Und zu Glück kann man ja mit ssh -X einfach ein X umleiten, und so lies sich das ganze einfach auf meinem Leptop anzeigen, dorrt die GUI auf "web" umgeschaltet und schon hat es mit den vielen Tolls und deren Verwaltung über ein Webinterface funktioniert :smiling_face:

    LG

    Olav

    Moin,

    ein Terminal ist mir zu 80 % lieber, weil ich eben dann die Kontrolle über das System habe, und es so konfigurieren kann wie ich will. Das gilt insbesondere wenn ich remote auf ein System zugreife. Dabei spielen tools, wie screen und Temux eine wichtige rolle. Und was super ist, wenn ich wirklich mal Probleme mit einem System habe, kann man inzwischen eine KI hinzuziehen, und sich gut bei debiggen helfen lassen. Mit einer Gui würde das zwar auch gehen, aber da ist der Aufwand viel viel größer. Und da wo es zu umstädlich wird wiederholende Kommandos zu tippen, baue ich mir den passenden alias, oder gleich ein passendes Script.

    LG Olav

    PS: Eine Gui ist da praktisch wenn ich z.B. nur ein wenig Filmchen gucken will, Netflix und co lassen sich nunmal über die GUI gut benutzen :smiling_face:

    IInsbesondere das Thema Datenschutz, da bleibe ich sensibel.

    Ich nutze Perplexity oder Gemini. Privat wenn Probleme

    Das ist dann aber genau nicht für den Datenschutz optimal. Dann würde sich ja eher das selber hosten von den LLM anbieten, sprich locale LLM. Und da gibt es reichtlich Modelle, welche in einigen Bereichen sogar Gemini in der Cloud überlegen sind. Ich hab einen simplen Text als Markdown von Gemini erzeugen wollen, das gab immer wieder Fehler. Zum Schluss habe ich reinen ASCII Text bekommen, und hab dann einfach das lokale gpt-oss:latest damit beauftragt den Markdown Text zu erzeugen, nach dem 2. Versuch hatte ich ein Super Ergebnis. Fazit es kommt nicht immer auf die Größe vom Modell an :smiling_face:

    LG Olav

    Trotzem würde ich es probieren. Bin gerade an KI Agenten dran. Möchte vieles automatisieren. Ich finde es super, wenn du zum Beispiel bei wordpress posten willst und die KI macht es

    Ja, sowas wie Agenten interessieren mich auch. - Und dazu benutzt du dann auch die China Cloud oder hostest du dein deepseek selber ? Das geht ja ja nachdem was man an Speicher hat :smiling_face:

    Ich bin ständig auf der Suche nach guten passenden Modellen, und stelle inzwischen fest, dass es nicht DAS Modell für alles gibt, sondern der Mix aus vielen Modellen eher praktikabler sein könnte. Und es hillft nur selber testen. Als Plattform nutze ich derzeit 2 alte Rechner mit GPU, einmal eine Gforce GPU mit 6GB VRAM nutze ich für Ollama und Vision Modelle, , und ein Rechner mit GPU und 16GB VRAM wo ich auch mal größere Modelle laufen lassen kann, Bilder generieren und den ganzen anderen Spaß :smiling_face: Und als weitres Experiment lasse ich Ollama auch noch auf einem Raspberry PI5 laufen, und da läuft sogar ein Tool welche über das LLM die Temperatur der CPU abfragen kann, nur leider noch sehr langsam, aber da muss ich nur noch ein passendes LLM finden...:-)

    LG OLav

    Moin,

    alte Hardware ist bei mir sehr relativ zu sehen, da ich Retro Computing betreibe, und das echt alte Zeug sammle. Mein ältester Rechner auf dem Linux noch flüssig läuft in ein IBM Thinkpad X41 mit bunsenlabs Linux. Der Laptop läuft aber eher nur bei Retro Veranstaltungen, als im normalen Altag. Als Arbeitstier läuft bei mir ein Lenovo T450. Mit dem bin ich zufrieden. KI (LLM) laufen auf dem nicht mehr lokal, aber das muss auch nicht sein. Für meine ersten Experimente reicht noch ein Raspberry 5 :smiling_face:

    LG Olav

    Moin,

    früher konnte man recht einfach mit cat /dev/mem >/dev/mem den Rechner abschießen, das wird aber in der Regel offenbar geblockt. AUsprobieren würde ich solche bösen Sachen auch nur in einer VM, weil cie Chance mal die Hardware zu killen nicht gerade gering ist. In den 80er hab ich das mit einem Atari (= XL im Kaufhaus geschafft, wild im SpEicher i rum gepoked, und dann war die Kiste plötzlich richtig tot :-O

    LG Olav

    Was mich selbst an Podman interessiert hat, war die Möglichkeit Systemdienste und GUIs zu starten. Wobei man bei letzterem die Ausgabe umleiten und auf dem Host das Umleiten zulassen muss. Ist aber kein Hexenwerk. Wenn du aber gleich einen ganzen Desktop dort rein zimmern willst, gibt es Probleme. In aller Regel können die Container nicht vollständig oder gar nicht auf die Hardware zugreifen. Also wenn, dann alles im Softwarerendering.

    Moin,

    naja, eine kleine GUI ist nun auch kein Hexenwerk im Kontainer. dazu brauchst du nicht unbedingt den Podman. Ich habe mir das z.B. einfach einen Ubuntu Desktop mit LXDE in einen LXC Container unter Proxmox installiert. Das einzige was man guvcken muss, dass ein Kontainer normalerweise unprivilegiert läuft, also root im Kontainer ist nicht automatisch gleich auch root im Host. Deshalb ist es dann auch nicht so simpel ein Netzlaufwerk per NFS oder so einzubinden. Aber das Problem lässt sich mit Fuse umschiffen. Ich mounte deshalb meistens per sshfs. Da gibt es dann keine Probleme unter Linux.

    LG Olav

    Moin,

    ich habe Virtualbox nur mal probeweise getestet, und fand das Userinterface im Verhältniss zu Vmare nicht so dolle. Jeweils immer ein komplettes OS für eine VM mitschleppen zu müssen, fand ich auch nicht so gut, daher hab ich dannn Proxmox (kvm/qemu) getestet und als gut befunden. Inzwischen werkeln in meinem Homelab 3 Nodes in einem Cluster zusammen, und das ist echt cool, und läuft super stabil :smiling_face: Für einige alte Spiele hab ich noch vmware am Start. , aber nutze ich auch nur sehr sehr selten.