Framework 12 kommt im Yoga Style

Das ist verdammt geil. Mal sehen, wie das ganze finanziell aussieht, aber - das könnte tatsächlich mein nächster Laptop werden. Die Tastatur ist semi (das Layout vor allem). Aber - naja, so ist es halt. Bin gespannt, was für ein Stylus das ist, ich hoffe sehr auf Wacom EMR.

Und krass, die Seite ist ja völlig überrannt :D. 1h Wartezeit um auf ne Website zu kommen ist crazy.
 
Auf notebookcheck sind die ersten Artikel (Pressetext) abrufbar:


 
Der Desktop hat mich vom Hocker gehauen, hätte nicht gedacht dass wir Strix Halo je im Desktop Formfaktor sehen. Wird auf jeden Fall mein nächster LLM Server. Hat auch das Potenzial meinen mobilen Desktop mit 8700G zu ersetzen.
 
Hier gibt es einige Einblicke in das Framework 12 (und auch den PC):

Ein paar Sachen sind so Semi. Der PC kann hinsichtlich Ram nicht aufgerüstet werden. Ist wohl mit der CPU nicht anders möglich, aber dennoch nicht schön.

Der Laptop hat nur Single-Channel-Ram & scheinbar nur ne kurze SSD.

Dafür ist die Reparierbarkeit echt krass.

Jetzt fehlt nur noch ne Tastatur mit Trackpoint.
 
Ich seh es schon etwas kritisch, dass Framework jetzt auf 12 und 16 Zoll ausgebaut wurde. Die Grundidee war ja Serviceability, und eigentlich macht man sich die mit jeder zueinander inkompatiblen Produktklasse schwerer. 13 und 16 Zoll, OK, das sind wirklich zwei Geräteklassen, auch wenn ich den 16"-Markt für relativ klein halte. Aber gerade 12 und 13 finde ich jetzt echt nicht so divers, dass ich diesen Split nachvollziehen kann.

Beim Desktop bin ich völlig ratlos, was ich davon halten soll. Einerseits ist das Ding natürlich total schick, kompakt und cool gemacht. Andererseits ist es ziemlich teuer (geht bei 1400€ in der Basiskonfiguration mit 32 GB RAM los...) und eigentlich ist es nur ein einheitlich abgestimmtes Prebuilt-ITX-Gerät mit Kompaktnetzteil und nicht-aufrüstbarer Laptophardware auf einem Desktop-Mainboard. Einen Mini-Desktop mit 8700G und sonst ähnlichen Leistungsparametern kann man für die Hälfte bauen. Die Performance mit den neuen Ryzen-Mobile-Chips ist höher, schon klar, aber ich weiß nicht so recht, ob der ganze Ansatz noch der Grundidee von Framework folgt.
 
Ich seh es schon etwas kritisch, dass Framework jetzt auf 12 und 16 Zoll ausgebaut wurde. Die Grundidee war ja Serviceability, und eigentlich macht man sich die mit jeder zueinander inkompatiblen Produktklasse schwerer. 13 und 16 Zoll, OK, das sind wirklich zwei Geräteklassen, auch wenn ich den 16"-Markt für relativ klein halte. Aber gerade 12 und 13 finde ich jetzt echt nicht so divers, dass ich diesen Split nachvollziehen kann.

Beim Desktop bin ich völlig ratlos, was ich davon halten soll. Einerseits ist das Ding natürlich total schick, kompakt und cool gemacht. Andererseits ist es ziemlich teuer (geht bei 1400€ in der Basiskonfiguration mit 32 GB RAM los...) und eigentlich ist es nur ein einheitlich abgestimmtes Prebuilt-ITX-Gerät mit Kompaktnetzteil und nicht-aufrüstbarer Laptophardware auf einem Desktop-Mainboard. Einen Mini-Desktop mit 8700G und sonst ähnlichen Leistungsparametern kann man für die Hälfte bauen. Die Performance mit den neuen Ryzen-Mobile-Chips ist höher, schon klar, aber ich weiß nicht so recht, ob der ganze Ansatz noch der Grundidee von Framework folgt.
12 und 13 sollen zwei verschiedene Preisklassen sein, macht also schon irgendwie Sinn. Allerdings ist der genaue Preis noch nicht bekannt. Wenn der zu hoch angesetzt wird, dann sehe ich das auch kritisch. Meiner Meinung müssen die mindestens auf 499 runterkommen. Mal sehen. Weil ich inzwischen fast nie Laptops nutze hat mich der Framework Preis auch immer abgeschreckt, aber manchmal ist es doch gut ein privates Gerät zu haben, und nicht nur den Arbeitslaptop. Daher bin ich sehr gespannt auf das 12.

Beim Desktop, da kann man für den gleichen Preis nicht mal annähernd etwas vergleichbares bauen. Um die 96GB VRAM zu erreichen, braucht es schon 3x eine RTX 5090. Das alleine fängt bereits bei über 6k an, angenommen man bekommt die Teile für MSRP, was an sich ebenfalls nicht möglich ist.

Als reine mobile Gaming Maschine würde ich das auch nicht kaufen, vor allem weil mein 8700G Build fast halb so klein ist vom Volumen her (2,6L vs. 4,5L). Aber wenn man zuhause große LLMs laufen lassen will, sehe ich grade keine Alternative. Ich bin grad selber dabei einen budget LLM Server zu bauen und hab mich für 2x Intel B580 entschieden. Sind immerhin 24GB für 600€. Aber ist halt bei weitem nicht so kompakt und wenn ich mehr als 24GB will, bleibt nur die Doppelkombo aus 3090/4090/5090, was den Preisrahmen sofort sprengt, viel Platz braucht, und krass viel Strom zieht.

Ich denke wenn DDR6 erhältlich wird, wird es etwas vergleichbares im klassischen Sockelformat mit austauschbaren RAM geben, aber Leute brauchen eben jetzt solche Maschinen und ich bin echt froh dass Framework da eine Lösung bietet. Selbst für den 8700G mussten wir ja ewig auf AMD warten.
 
Zuletzt bearbeitet:
inkompatiblen Produktklasse schwerer
Ich kann den Unterschied zwischen dem 12er und dem 13er schon sehen - das eine ist halt ein normaler Laptop, das andere u.a. für Schulen etc. gedacht. Aber ich kann auch nicht so recht nachvollziehen, warum man nicht z.B. geschaut hat, dass die Mainboards kompatibel sind. Und auch die Teile sahen jetzt nicht so super kompatibel aus. Wobei ich z.B. die Variante mit Pogo-Pins für die Tastatur echt geil finde - so spart man sich diese Flachbandkabel.

Die Performance mit den neuen Ryzen-Mobile-Chips
Das Teil ist mMn eine Maschine, primär für KI-Entwicklung. Da machen die kleinen Konfigs auch nicht sonderlich viel Sinn - aber so viel "Grafikspeicher" bekommt man in handelsüblichen Grakas einfach nicht. Mit 4 Stück im Verbund bekommt man das vollständige Deepseek-Modell zum Laufen - da müsste man mit traditionellen Grafikkarten viel, viel mehr Geld in die Hand nehmen. Und es ist halt eines der ganz wenigen Geräte, die es gibt, mit dieser CPU. Und das einzige Desktopmainboard. Ich vermute, die meisten gehen eh nur auf das Mainboard^^.

Passt aber mMn auch nicht wirklich so richtig in die Philosophie der Reparierbarkeit, das stimmt.

Ach ja: Das Gerät wird übrigens für 1279€ Einstieg verkauft.
Meiner Meinung müssen die mindestens auf 499 runterkommen.
Ist wohl eher knapp unter 1000€.
 
Der Desktop hat mich vom Hocker gehauen, hätte nicht gedacht dass wir Strix Halo je im Desktop Formfaktor sehen. Wird auf jeden Fall mein nächster LLM Server. Hat auch das Potenzial meinen mobilen Desktop mit 8700G zu ersetzen.
Wenn ich das richtig gelesen habe, hat der Ryzen AI Max "nur" 250 GB/sec Speicherbandbreite. Zum Vergleich: ich lasse LLMs auf einem M3 Max laufen, der hat das doppelte, und das wird auf größeren (>= 70b) Modellen (das ist ja der Hauptvorteil bei dem großen shared Memory) schon ziemlich, ziemlich zäh. Insofern würde ich da erstmal Benchmarks für abwarten, ob das tatsächlich dafür taugt
 
Wenn ich das richtig gelesen habe, hat der Ryzen AI Max "nur" 250 GB/sec Speicherbandbreite. Zum Vergleich: ich lasse LLMs auf einem M3 Max laufen, der hat das doppelte, und das wird auf größeren (>= 70b) Modellen (das ist ja der Hauptvorteil bei dem großen shared Memory) schon ziemlich, ziemlich zäh. Insofern würde ich da erstmal Benchmarks für abwarten, ob das tatsächlich dafür taugt
Verglichen mit einer 4090 soll die 8060S 2.2x mehr tokens/s liefern.

Wie viel RAM hat dein M3 Max? Du wirst schon 96GB brauchen, um die 70b Modelle laufen zu lassen.

Mein M2 Pro schafft auch nur das, was der RAM zulässt.
 
Ich habe 128GB.

Eine bessere Leistung als 4090 halte ich für *äußerst* unwahrscheinlich, außer es ist ein Modell, das nicht mehr in die 24GB VRAM passt.
Ich habe ein altes P53 mit RTX 5000 und 16GB VRAM. Für Modelle, die in das VRAM passen, ist die RTX deutlich schneller als mein M3 Max.
 
Ich hab den Preis nur bei Linus aufgeschnappt, es war sehr allgemein gefasst. Aber ja, so richtig Sinn macht es tatsächlich nicht, was den Preis angeht. Vllt. müssen erstmal die Forschungssachen rein.

außer es ist ein Modell, das nicht mehr in die 24GB VRAM
Richtig, das ist das Ding. 24 GB ist halt ziemlich wenig inzwischen.
 
Ja klar, aber bei den größeren Sachen ist es halt auch auf dem M3 Max nicht so, dass es wirklich Spaß macht.
Und Speicherbandbreite macht einiges aus, wahrscheinlich wäre es für den Anwendungsfall sinnvoller, sich einen alten Mac Studio mit M1 Ultra (800GB/s) zu holen als den Ryzen AI Max.
 
Ich seh es schon etwas kritisch, dass Framework jetzt auf 12 und 16 Zoll ausgebaut wurde. Die Grundidee war ja Serviceability, und eigentlich macht man sich die mit jeder zueinander inkompatiblen Produktklasse schwerer. 13 und 16 Zoll, OK, das sind wirklich zwei Geräteklassen, auch wenn ich den 16"-Markt für relativ klein halte. Aber gerade 12 und 13 finde ich jetzt echt nicht so divers, dass ich diesen Split nachvollziehen kann.

Beim Desktop bin ich völlig ratlos, was ich davon halten soll. Einerseits ist das Ding natürlich total schick, kompakt und cool gemacht. Andererseits ist es ziemlich teuer (geht bei 1400€ in der Basiskonfiguration mit 32 GB RAM los...) und eigentlich ist es nur ein einheitlich abgestimmtes Prebuilt-ITX-Gerät mit Kompaktnetzteil und nicht-aufrüstbarer Laptophardware auf einem Desktop-Mainboard. Einen Mini-Desktop mit 8700G und sonst ähnlichen Leistungsparametern kann man für die Hälfte bauen. Die Performance mit den neuen Ryzen-Mobile-Chips ist höher, schon klar, aber ich weiß nicht so recht, ob der ganze Ansatz noch der Grundidee von Framework folgt.
Ich glaub auch die beissen mehr ab, als sie verdauen können!
 
Ich schaue grade und ein M1 Ultra 128GB ist immer noch deutlich teurer und lässt sich wohl nur im Hub and Spoke Design als Cluster einsetzen.
Billiger ist der Ryzen, ist halt am Ende die Frage, wie gut das auf der reduzierten Speicherbandbreite läuft.

Spätestens wenn Du solche Teile auch noch clustern willst ist aber irgendwann die Frage, ob es nicht schlauer ist, das als gehosteten Dienst zu nutzen. Die Vorabkosten gehen dann doch ziemlich durch die Decke und je nachdem, wie sich die Modelle in der Zukunft entwickeln, ist es vielleicht schon bald auch nicht mehr das richtige.
 
Billiger ist der Ryzen, ist halt am Ende die Frage, wie gut das auf der reduzierten Speicherbandbreite läuft.

Spätestens wenn Du solche Teile auch noch clustern willst ist aber irgendwann die Frage, ob es nicht schlauer ist, das als gehosteten Dienst zu nutzen. Die Vorabkosten gehen dann doch ziemlich durch die Decke und je nachdem, wie sich die Modelle in der Zukunft entwickeln, ist es vielleicht schon bald auch nicht mehr das richtige.
Klar, denke der Vorteil ist halt dass es überhaupt läuft und vor allem zu dem Preis. Was bis vor kurzem für meisten Hobbybastler/Entwickler undenkbar war, ist halt jetzt potenziell für viele im Budget. Die 128GB Version erreicht bei llama3.3:70b "conversational speed", was für den vorgesehen Zweck zumindest meiner Meinung nach ausreicht. Hab auch schon Kommentare von Kleinfirmen gesehen, die sich gleich mehrere kaufen wollen um sie als Cluster einzusetzen.

Dass ein Mac Studio bisher die beste Wahl war (und je nach Einsatz immer noch die beste Alternative darstellt) ist auch klar, der wurde ja in der Framework Präsentation extra als Benchmark/Ziel erwähnt. Dass es jetzt eine weitere Option gibt, mit der man auch weitere Dinge machen kann (Linux, x86, Gaming etc.) ist an sich eine gute Sache.

Server time kaufen ist halt genau das, wo die Framework Philosophie ins Spiel kommt. Selbst wenn man den Datenklau vielleicht privat vertragen kann, ist es in vielen Firmen legal unmöglich, solche Dienste zu nutzen. Die Zielgruppe, die sowas lokal laufen lassen will, ist aus meiner Sicht auch eine ähnliche Zielgruppe, die Framework grundsätzlich anstrebt (wo neben Reparierbarkeit auch Datenschutz und Privatssphäre wichtig ist).

Jedenfalls bin ich sehr gespannt auf das Teil. Wird aber wohl leider noch dauern bis wir reviews dazu sehen.
 
  • ok1.de
  • ok2.de
  • thinkstore24.de
  • Preiswerte-IT - Gebrauchte Lenovo Notebooks kaufen

Werbung

Zurück
Oben