Ich hab es jetzt auf !DACH gepostet und nicht auf !kintelligenz, weil ich glaube, dass es mehr Menschen interessiert, als nur die KI Bubble.

  • Sibbo@sopuli.xyz
    link
    fedilink
    arrow-up
    9
    arrow-down
    2
    ·
    edit-2
    15 days ago

    Laut Karner dreht sich der wichtigste Konflikt zwischen Community und Anbietern um den Wunsch, „die KI von der Firma zu befreien“. Technisch geht das nicht, emotional ist der Wunsch trotzdem da.

    Befreien nicht, aber ich kann zumindest empfehlen, sowas wie OpenClaw oder diese “role-playing AIs” zu benutzen, die man lokal laufen lassen kann, und auch an ollama cloud anschließen kann. Wenn man wirklich einen virtuellen Partner haben möchte, ist man damit zumindest unabhängiger.

    Ist natürlich für die meisten Menschen aufgrund mangelnder technischer versiertheit keine Möglichkeit.

    • Majoran@feddit.org
      link
      fedilink
      arrow-up
      9
      ·
      15 days ago

      Naja und lokale KIs sind auch noch eine Stufe holpriger, sofern du nicht gerade 4 Grafikkarten hast. Ich frage mich sowieso selbst bei den Cloud-Anbietern, wie die Leute eigentlich ihre Immersion hochgehalten kriegen. Man merkt ja dann doch irgendwann immmer, dass ein Mensch so nicht schreiben würde, oder es gehen Erinnerungen verloren, von denen man es nicht erwartet, etc. Dass hier sex sells, kann ich ja noch nachvollziehen, aber um damit eine echte Beziehung zu ersetzen, muss man schon ein sehr oberflächliches Bild von Beziehungen haben.

      • kossa@feddit.org
        link
        fedilink
        arrow-up
        1
        ·
        13 days ago

        muss man schon ein sehr oberflächliches Bild von Beziehungen haben.

        Leute, die zu sowas tendieren, haben aber halt vermutlich auch wenige Erfahrungen mit Beziehungen. Dann ist es halt “the next best thing”, ohne dass man weiß, was einem entgeht.

      • Sibbo@sopuli.xyz
        link
        fedilink
        arrow-up
        3
        ·
        15 days ago

        Aber eine ordentliche Karte für lokale KI kostet doch nur so viel wie ein Kleinwagen 😄

        Naja ernsthaft, wenn Hardware wieder billiger wird, dann kann man sich sowas hoffentlich auch nach Hause stellen. Vielleicht sogar als Komplettpaket für Leute mit weniger technischen Kenntnissen, so wie eine Playstation, nur eben als KI Assistent oder Therapeut.

        • SubArcticTundra@lemmy.ml
          link
          fedilink
          arrow-up
          3
          ·
          14 days ago

          Wenn es da die Wille gäbe könnte sogar Sony ihr Playstation so verändern, dass man da eine lokale KI vertreiben könnte. Ich glaube der Hardware sollte davon fähig sein

          • aksdb@lemmy.world
            link
            fedilink
            arrow-up
            1
            ·
            edit-2
            13 days ago

            Konsolen waren noch nie mit exzessiv viel RAM ausgestattet. Eher extrem wenig, im Vergleich zu äquivalenten Gaming PCs, weil sie ja viel fokussierter arbeiten. LLMs brauchen aber absurd viel und schnellen Speicher.

            • SubArcticTundra@lemmy.ml
              link
              fedilink
              arrow-up
              1
              ·
              12 days ago

              Du hast recht, ich hab mir das jetzt angeschaut und die PS5 hat keine VRAM und nur 16GB der normalen RAM. Darauf wär es schwer ein richtiges LLM zum Laufen zu bringen

              • aksdb@lemmy.world
                link
                fedilink
                arrow-up
                1
                ·
                12 days ago

                Auch das wäre eher ein schlechter Vergleich. Die Konsolen haben sehr schnellen RAM (für ihre Verhältnisse) und brauchen schlicht keinen dedizierten VRAM.