Beiträge von o-mobil

  • DeepSeek ist für mich die BESTE AI auf dem Markt - kostenlos - fair und erstaunlich

    Zitat von void69

    IInsbesondere das Thema Datenschutz, da bleibe ich sensibel.

    Ich nutze Perplexity oder Gemini. Privat wenn Probleme

    Das ist dann aber genau nicht für den Datenschutz optimal. Dann würde sich ja eher das selber hosten von den LLM anbieten, sprich locale LLM. Und da gibt es reichtlich Modelle, welche in einigen Bereichen sogar Gemini in der Cloud überlegen sind. Ich hab einen simplen Text als Markdown von Gemini erzeugen wollen, das gab immer wieder Fehler. Zum Schluss habe ich reinen ASCII Text bekommen, und hab dann einfach das lokale gpt-oss:latest damit beauftragt den Markdown Text zu erzeugen, nach dem 2. Versuch hatte ich ein Super Ergebnis. Fazit es kommt nicht immer auf die Größe vom Modell an :smiling_face:

    LG Olav

  • DeepSeek ist für mich die BESTE AI auf dem Markt - kostenlos - fair und erstaunlich

    Zitat von Linuxanwender

    Trotzem würde ich es probieren. Bin gerade an KI Agenten dran. Möchte vieles automatisieren. Ich finde es super, wenn du zum Beispiel bei wordpress posten willst und die KI macht es

    Ja, sowas wie Agenten interessieren mich auch. - Und dazu benutzt du dann auch die China Cloud oder hostest du dein deepseek selber ? Das geht ja ja nachdem was man an Speicher hat :smiling_face:

    Ich bin ständig auf der Suche nach guten passenden Modellen, und stelle inzwischen fest, dass es nicht DAS Modell für alles gibt, sondern der Mix aus vielen Modellen eher praktikabler sein könnte. Und es hillft nur selber testen. Als Plattform nutze ich derzeit 2 alte Rechner mit GPU, einmal eine Gforce GPU mit 6GB VRAM nutze ich für Ollama und Vision Modelle, , und ein Rechner mit GPU und 16GB VRAM wo ich auch mal größere Modelle laufen lassen kann, Bilder generieren und den ganzen anderen Spaß :smiling_face: Und als weitres Experiment lasse ich Ollama auch noch auf einem Raspberry PI5 laufen, und da läuft sogar ein Tool welche über das LLM die Temperatur der CPU abfragen kann, nur leider noch sehr langsam, aber da muss ich nur noch ein passendes LLM finden...:-)

    LG OLav

  • Welche wie alten und ausgestatteten Hardware mit welcher Distro benutzt ihr aktuell

    Moin,

    alte Hardware ist bei mir sehr relativ zu sehen, da ich Retro Computing betreibe, und das echt alte Zeug sammle. Mein ältester Rechner auf dem Linux noch flüssig läuft in ein IBM Thinkpad X41 mit bunsenlabs Linux. Der Laptop läuft aber eher nur bei Retro Veranstaltungen, als im normalen Altag. Als Arbeitstier läuft bei mir ein Lenovo T450. Mit dem bin ich zufrieden. KI (LLM) laufen auf dem nicht mehr lokal, aber das muss auch nicht sein. Für meine ersten Experimente reicht noch ein Raspberry 5 :smiling_face:

    LG Olav

  • Wir schiessen unser Linux ab?!^^

    Moin,

    früher konnte man recht einfach mit cat /dev/mem >/dev/mem den Rechner abschießen, das wird aber in der Regel offenbar geblockt. AUsprobieren würde ich solche bösen Sachen auch nur in einer VM, weil cie Chance mal die Hardware zu killen nicht gerade gering ist. In den 80er hab ich das mit einem Atari (= XL im Kaufhaus geschafft, wild im SpEicher i rum gepoked, und dann war die Kiste plötzlich richtig tot :-O

    LG Olav

  • Kann Podman Desktop (Container) eine Alternative zu Virtuellen Maschinen (VM) sein?

    Zitat von diabolusUmarov

    Was mich selbst an Podman interessiert hat, war die Möglichkeit Systemdienste und GUIs zu starten. Wobei man bei letzterem die Ausgabe umleiten und auf dem Host das Umleiten zulassen muss. Ist aber kein Hexenwerk. Wenn du aber gleich einen ganzen Desktop dort rein zimmern willst, gibt es Probleme. In aller Regel können die Container nicht vollständig oder gar nicht auf die Hardware zugreifen. Also wenn, dann alles im Softwarerendering.

    Moin,

    naja, eine kleine GUI ist nun auch kein Hexenwerk im Kontainer. dazu brauchst du nicht unbedingt den Podman. Ich habe mir das z.B. einfach einen Ubuntu Desktop mit LXDE in einen LXC Container unter Proxmox installiert. Das einzige was man guvcken muss, dass ein Kontainer normalerweise unprivilegiert läuft, also root im Kontainer ist nicht automatisch gleich auch root im Host. Deshalb ist es dann auch nicht so simpel ein Netzlaufwerk per NFS oder so einzubinden. Aber das Problem lässt sich mit Fuse umschiffen. Ich mounte deshalb meistens per sshfs. Da gibt es dann keine Probleme unter Linux.

    LG Olav

  • Virtualbox Problem Linux-Maschinen

    Moin,

    ich habe Virtualbox nur mal probeweise getestet, und fand das Userinterface im Verhältniss zu Vmare nicht so dolle. Jeweils immer ein komplettes OS für eine VM mitschleppen zu müssen, fand ich auch nicht so gut, daher hab ich dannn Proxmox (kvm/qemu) getestet und als gut befunden. Inzwischen werkeln in meinem Homelab 3 Nodes in einem Cluster zusammen, und das ist echt cool, und läuft super stabil :smiling_face: Für einige alte Spiele hab ich noch vmware am Start. , aber nutze ich auch nur sehr sehr selten.