Testbericht online ThinkPad P14s Gen 6 AMD 21RV0017GE

Bitte amd_s2idle ausführen (https://git.kernel.org/pub/scm/linux/kernel/git/superm1/amd-debug-tools.git/) mit einem aktuellen Kernel, und testen ob der tiefe Schlafzustand auch wirklich erreicht wird
Das erkenn ich woran? Wenn ich's mit den Standard-Parametern ausführe, kommt am Ende ein Log raus, das was von ~40% Hardware Sleep sagt.
Ob Suspend bzw. Hibernate Zyklus grundsätzlich funktioniert (bei den Qualcomm Geräten funktioniert Hibernate seit ~2J nicht!)
Grundsätzlich (also mit einem relativ frisch gebooteten System, bei dem noch nicht viel kaputt gehen konnte, einmal ausprobiert) funktioniert beides.
 
Das erkenn ich woran? Wenn ich's mit den Standard-Parametern ausführe, kommt am Ende ein Log raus, das was von ~40% Hardware Sleep sagt.

sleep_ok.png

sleep_65.pngsleep_30.pngsleep_nope.png

Von oben nach unten:
1) Suspend funktioniert wie es soll, quasi 100% schlafend und minimaler Akku Verbrauch.
2+3) Suspend ist irgendwo zwischen 0%-100%, je "wacher" das Gerät desto mehr Strom wird verbraucht.
4) Schlechtester Fall: 0% Sleep, Gerät tut so als ob es schläft (schwarzer Bildschirm), schläft aber in Wirklichkeit nicht.

Es sollte eigentlich immer zuverlässig Fall 1 sein.
Vielen fällt Fall 2-3 nicht auf, weil sie nur kurz unterwegs sind (z.B. daheim zu Uni) und das etwas mehr an Akku fehlt, stört sie nicht.

Aber der Punkt ist, bei den Qualcomm Wifi AMD Geräten bekommt man per Zufall Fall 2-4, noch immer, es nicht konsistent reproduzierbar was die Ursache ist.
Praktisch, wenn man im Arbeitsalltag diese Geräte einsetzt, ist es eine Wundertüte ob man mit vollem Akku oder warmer Tasche und deutlich leererem Akku beim Geschäftstermin ankommt.

Und manchmal hat man einfach keine Steckdose unterwegs - Bahn (alte Garnitur, Regionalverkehr) oder Flug - und dann nervt es schon sehr wenn man deutlich weniger Akkulaufzeit hat.


Grundsätzlich (also mit einem relativ frisch gebooteten System, bei dem noch nicht viel kaputt gehen konnte, einmal ausprobiert) funktioniert beides.

Hibernate ging am Anfang überhaupt nicht (hard crash), dann ging es - aber Wifi war nach dem Aufwachen kaputt (workaround: ath11k kernel module manuell per script entfernen und wieder laden), und letztens gab's Hoffnung für einen Fix: https://bugzilla.kernel.org/show_bug.cgi?id=214649#c48 - vielleicht ist der Fix mittlerweile in den Distributionen gelandet?

Der Punkt ist, die Geräte werden als zertifizierte Workstations verkauft, sind aber in den Kernfunktionen Wifi+Suspend buggy. Ok, dann sagt das halt und zertifiziert sie nicht, oder merkt das bei der Zertifizierung an was (noch) nicht 100% funktioniert. Aber die Situation der letzten ~2J, man kauft das Gerät und es funktioniert nach ~2J noch immer nicht zuverlässig, ist halt Käse.


Um zum Thema des Threads zurückzukommen:
Bitte bei den Gen 6 Geräten mal 50 Zyklen Suspend/Hibernate testen, aus verschiedenen Arbeitssituationen (also nicht nur nach frischem Boot), und beobachten ob mit Mediatek Wifi immer Suspend (~99% hardware sleep state, über mehrere Minuten gemessen) robust erreicht wird und Wifi nach dem Aufwachen noch funktioniert.

Die zukünftigen Kunden danken :-)
 
Ah, die Ausgabe sieht bei mir (Version 0.2.0) minimal anders aus, aber dann hab ich ja schon auf den richtigen Wert geguckt. Wenn ich ihn statt zehn Sekunden drei Minuten schlafen lasse, komm ich auf ~93% Hardware Sleep, allerdings nur im angesteckten Zustand. Steck ich alles ab und lass ihn im Batteriebetrieb aufgeklappt auf dem Tisch stehen, kommt er nicht in den Hardware Sleep und verbraucht 1-2W.
Praktisch, wenn man im Arbeitsalltag diese Geräte einsetzt, ist es eine Wundertüte ob man mit vollem Akku oder warmer Tasche und deutlich leererem Akku beim Geschäftstermin ankommt.
Hatte ich auch ab und zu mal, hatte aber immer den Eindruck, dass die Geräte anfangs korrekt schliefen und dann irgendwann später aufgewacht sind. Besonders nervig ist's, wenn man das Gerät in den Suspend schickt, den Deckel schon zugeklappt hat, aber der Strom noch dransteckt, und es dann beim Abstecken direkt wieder aufwacht. War früher mein ich nicht so, machen neuere Geräte (dieses auch) jedes Mal. Wenn man das dann nicht weiß oder nicht auf die LED achtet, packt man das Gerät auch im laufenden Zustand ein.
Hibernate ging am Anfang überhaupt nicht (hard crash), dann ging es - aber Wifi war nach dem Aufwachen kaputt (workaround: ath11k kernel module manuell per script entfernen und wieder laden)
Stimmt, ich erinner mich, sowas hatte ich bei einem älteren Thinkpad auch eingerichtet.
Und mit Hibernate hatte ich bei dem Gerät gelegentlich das Problem, dass der ganze Prozess zwar wunderbar durchläuft, er es am Ende aber nicht schafft das Gerät auch auszuschalten. Musste man dann manuell über den Power-Button abschalten.
Aber die Situation der letzten ~2J, man kauft das Gerät und es funktioniert nach ~2J noch immer nicht zuverlässig, ist halt Käse.
Jup, wobei ich damit noch leben kann, solang es zumindest zuverlässig funktionierende Workarounds gibt, die man halt noch manuell einrichten muss.
Zumindest der Ersteindruck war bei dem aktuellen Gerät eigentlich ganz angenehm: SSD aus dem alten raus, ins neue rein, und alles scheint auf Anhieb zu funktionieren, ohne dass man noch irgendwelche Workarounds einrichten müsste. Langzeit-Aussagen kann ich natürlich noch keine treffen, hab's erst seit gestern. Und manche Probleme, wie die 1-2W Standby-Verbrauch, sieht man dann auch nur, wenn man explizit danach guckt, sonst wär mir das vermutlich nie aufgefallen.
Bitte bei den Gen 6 Geräten mal 50 Zyklen Suspend/Hibernate testen, aus verschiedenen Arbeitssituationen (also nicht nur nach frischem Boot)
Nachdem ich ein großer Fan von Hibernate bin, werd ich das mit meiner normalen Nutzung sicherlich ausprobieren. Tests mit längerer Uptime scheitern aktuell allerdings daran, dass irgendein Update (Kernel? Mesa? Gnome?) seit etwa März/April ein massives Memory-Leak verursacht (im Extremfall nach einem Tag intensiver Nutzung abmelden (also alle Anwendungen aus), dann sind immer noch ~20GB RAM belegt, ohne dass ich direkt erkennen könnte von was). Ohne Reboot geht dann irgendwann der RAM aus. Nachdem das neue Gerät jetzt aber deutlich mehr RAM hat, hält's evtl. was länger durch.
 
lass ihn im Batteriebetrieb aufgeklappt auf dem Tisch stehen, kommt er nicht in den Hardware Sleep und verbraucht 1-2W.
Hinweis: ob mit offenen Deckel oder geschlossenem Deckel schlafen/suspend macht auch einen Unterschied.
Mit geschlossen Deckel schläft er tendenziell schlechter.

dass die Geräte anfangs korrekt schliefen und dann irgendwann später aufgewacht sind.
Es gibt auch einen Bug, wenn das Gerät im Suspend einfach bewegt wird, wacht es von selbst auf: https://forums.lenovo.com/t5/Other-...nterrupted-when-pysically-handled/m-p/5354089
Merken auch viele nicht, weil normal die Standardkonfiguration ist wenn Deckel geschlossen soll er sich automatisch (wieder) schlafen legen, d.h. er wacht auf im Gepäck und nach 30s oder so geht er wieder von selbst schlafen.
Merkt man dann danach das Akku fehlt und wenn man bewusst immer im Log nachsieht ob er inzwischen aufgewacht und wieder schlafen gegangen ist.
Dieser Bug existiert auch seit mindestens 2023.

aber der Strom noch dransteckt, und es dann beim Abstecken direkt wieder aufwacht.
Klingt auch wie bekannter Bug, an/abstecken weckt auf, hier z.B. mit dem T14s G6 AMD:
Um diese Inhalte anzuzeigen, benötigen wir die Zustimmung zum Setzen von Drittanbieter-Cookies.
Für weitere Informationen siehe die Seite Verwendung von Cookies.
...hab' ich persönlich mit G4 noch nicht erlebt, wäre aber auch interessant auf aktuellen Geräten zu testen.


Um zum Thread Thema zurückzukehren:
Wir warten alle gespannt auf Testberichte ob die G6 T/P Geräte endlich wieder als 100% verlässliche "Arbeitstiere" einzustufen sind. Sonst müssen halt noch ein Jahr warten...
 
Klingt auch wie bekannter Bug, an/abstecken weckt auf, hier z.B. mit dem T14s G6 AMD:
Um diese Inhalte anzuzeigen, benötigen wir die Zustimmung zum Setzen von Drittanbieter-Cookies.
Für weitere Informationen siehe die Seite Verwendung von Cookies.
...hab' ich persönlich mit G4 noch nicht erlebt, wäre aber auch interessant auf aktuellen Geräten zu testen.
Bei mir scheinen alle Geräte betroffen zu sein, die s2idle nutzen (siehe /sys/power/mem_sleep), auch ein G4. Was hilft ist den Kernel-Parameter "acpi.ec_no_wakeup=1" zu setzen, dann wacht das System beim Abstecken nicht mehr auf. Das ArchWiki ist wie immer eine gute Quelle für solche Infos: https://wiki.archlinux.org/title/Power_management/Wakeup_triggers

Auch für mein Hibernate-Problem gäbe es dort eine Lösung: https://wiki.archlinux.org/title/Po...te#System_does_not_power_off_when_hibernating Ich werde mal beobachten, ob das beim G6 auch notwendig wird.
Es gibt auch einen Bug, wenn das Gerät im Suspend einfach bewegt wird, wacht es von selbst auf: https://forums.lenovo.com/t5/Other-...nterrupted-when-pysically-handled/m-p/5354089
Danke für den Hinweis, das G6 scheint davon (als einziges meiner Geräte) auch betroffen zu sein. Schläft wunderbar zusammengeklappt auf dem Tisch, aber nimmt man es hoch und hält es senkrecht, wacht es sofort auf. Ganz toll.
Bislang konnte ich nicht rausfinden, wodurch es aufgeweckt wird, das Deaktivieren sämtlicher Trigger in /proc/acpi/wakeup hat jedenfalls nicht geholfen.
Merken auch viele nicht, weil normal die Standardkonfiguration ist wenn Deckel geschlossen soll er sich automatisch (wieder) schlafen legen, d.h. er wacht auf im Gepäck und nach 30s oder so geht er wieder von selbst schlafen.
Hab ich bei mir deaktiviert, da ist das Verhalten also extra nervig.
Um zum Thread Thema zurückzukehren:
Wir warten alle gespannt auf Testberichte ob die G6 T/P Geräte endlich wieder als 100% verlässliche "Arbeitstiere" einzustufen sind.
Wenn man Wert auf vernünftiges Standby-Verhalten legt, dann wohl momentan nicht. Immerhin ist das bislang das einzige gravierende Problem, das ich feststellen konnte.
 
Schläft wunderbar zusammengeklappt auf dem Tisch, aber nimmt man es hoch und hält es senkrecht, wacht es sofort auf. Ganz toll.
Sehr seltsam. Außer einem Ultraschall-Anwesenheitssensor (je nach Modell) besitzt das P14s Gen 6 (AMD) laut PSREF keine Sensoren. - Ich gehe davon aus, dass Du dabei keine externen Geräte (z.B. Maus) angeschlossen hast.
 
Sehr seltsam. Außer einem Ultraschall-Anwesenheitssensor (je nach Modell) besitzt das P14s Gen 6 (AMD) laut PSREF keine Sensoren.
Haben die ganzen neueren Geräte nicht Lap-Detection? Das muss doch auch irgendeine Art Bewegungssensor sein. Wäre meine erste Vermutung was hier anspringt.
Allerdings kann ich das Verhalten jetzt auch schon nicht mehr nachstellen: Vorhin ließ es sich mehrfach reproduzieren, sodass ich dann schließlich Hibernate statt Standby genutzt habe, und nachdem ich das Gerät jetzt wieder eingeschaltet hab, bleibt es auch bei Bewegung im Standby. Muss ich mal weiter beobachten.
Ich gehe davon aus, dass Du dabei keine externen Geräte (z.B. Maus) angeschlossen hast.
Korrekt, für den Test war nichts angeschlossen, kein Strom und auch sonst keine Geräte.

Aber wo du es schon ansprichst: dass eine Maus bereits bei Bewegung (und nicht erst bei Klick) das Gerät aufweckt, ist auch eher nervig, lässt sich aber über /proc/acpi/wakeup für den jeweiligen USB-Port oder über udev-Regeln für das konkrete Gerät deaktivieren (https://wiki.archlinux.org/title/Power_management/Wakeup_triggers#Event-driven_with_udev).
 
Allerdings kann ich das Verhalten jetzt auch schon nicht mehr nachstellen: Vorhin ließ es sich mehrfach reproduzieren, sodass ich dann schließlich Hibernate statt Standby genutzt habe, und nachdem ich das Gerät jetzt wieder eingeschaltet hab, bleibt es auch bei Bewegung im Standby. Muss ich mal weiter beobachten.
Ist das ein T14s G6 AMD - das hat noch problematisches Qualcomm Wifi?
Oder ein P14s G6 AMD - das müsste dann schon neues Mediatek Wifi haben?
 
Oder ein P14s G6 AMD - das müsste dann schon neues Mediatek Wifi haben?
Genau dieses, mit Mediatek 7925.

Und hat noch einen schönen Bug: deaktiviert man Pluton im BIOS, wacht es gar nicht mehr aus dem Standby auf. amd-s2idle meldet dann einen Fehler mit der IOMMU-Konfiguration.
 
Ok, danke für das aktuelle Feedback.
D.h. Aktuell sind G6 auch Bananengeräte.... reifen beim Kunden... erstmal ignorieren und dann Ende des Jahres vielleicht.
 
Kurzes Update zur Lieferzeit, aktuell steht der 26/05/2025 als "voraussichtlicher Wareneingang" beim Großhändler, kann somit bald losgehen mit dem Test.
 
Hi, wie schlägt sich das Teil unter Linux, sprich: Laufzeit, Grafik, Wifi, Fingerprint?

Kurz gesagt: super.

Die Akkulaufzeit hängt, soweit ich das nach wenigen Tagen sagen kann, sehr vom Nutzungsprofil ab. Die Kiste hat ordentlich Leistung, wenn man die abruft, saugt das schnell den Akku leer. Beim Webbrowsen habe ich zwischen 11 und 15W Verbrauch (11 bei dunklem Screen, 15 bei 100% Helligkeit), aber ich habe das OLED-Display. Ich vermute mal, dass unter Windows der Verbrauch auch noch etwas niedriger ist, ich habe jetzt noch nichts hinsichtlich Energieverbrauch optimiert.

Grafik funktioniert einwandfrei und bringt auch Leistung. Auch mehrere externe Monitore gehen einwandfrei.

WiFi ist von MediaTek, also keine Qualcomm-Probleme zu erwarten, hatte bisher auch nichts festgestellt in die Richtung.

Fingerprint habe ich nicht und konnte es daher nicht testen, zum Rest siehe hier.


Mich würde interessieren, ob das Gerät nur einseitig bestückte SSDs unterstützt oder ob auch doppelseitig bestückte SSDs verbaut werden können. 8 TB große SSDs gibt es aktuell ja nur doppelseitig bestückt.

Falls möglich, würde mich zum Thema Linux auch die Akkulaufzeit interessieren.
Ich habe das Gerät aufgeschraubt, für mich sieht es so aus als würden da nur einseitig bestückte NVMes reinpassen. Die unbestückte Seite liegt auf einer Art Polster auf, vermutlich zur Abführung der Wärme.

Evtl. kann man ja in den WWAN-Slot noch eine zweite SSD reinstecken.

Ich denke, Intel will vermutlich nicht, dass es die AMD-Variante mit Intel Wi-Fi gibt...
Es gab in der Vergangenheit bereits AMD-Thinkpads mit Intel WiFi, z.B. das T14s Gen1.
Beitrag automatisch zusammengeführt:

Genau dieses, mit Mediatek 7925.

Und hat noch einen schönen Bug: deaktiviert man Pluton im BIOS, wacht es gar nicht mehr aus dem Standby auf. amd-s2idle meldet dann einen Fehler mit der IOMMU-Konfiguration.
Interessant, ich habe Pluton im BIOS deaktiviert und mein P14s wacht einwandfrei aus dem Standby auf. Meine Aussage bezieht sich auf Linux.
Beitrag automatisch zusammengeführt:

Lautstärke und Energieverbrauch im Idle bzw. beim Browsen oder Textverarbeitung, also quasi ohne Last ist mir sehr wichtig.
Und auch wichtig: Wie sieht genau das aus, wenn 1-2 externe Monitore angeklemmt sind? Da hat man schon oft Lüfterprobleme mit provoziert.
Beim Browsen bleibt bei mir der Lüfter eigentlich dauerhaft aus, auch mit 2 externen Monitoren (davon einer 4K).
 
Zuletzt bearbeitet:
Hab den Standby-Test mit amd-s2idle jetzt nochmal wiederholt und etwas länger laufen lassen. Anders als vorher kommt er nun auch zugeklappt im Batteriebetrieb in den Hardware-Sleep (~99,5% bei einer Stunde Testzeit) und verbraucht dabei gut 0,5W. Also irgendwie geht alles, aber noch nicht so richtig zuverlässig.
D.h. Aktuell sind G6 auch Bananengeräte.... reifen beim Kunden... erstmal ignorieren und dann Ende des Jahres vielleicht.
Meinst du es würde den Bananen beim Reifen helfen, wenn man die Bugs (zumindest soweit sie gut reproduzierbar sind) an Lenovo meldet? Falls ja, was wäre dafür der erfolgsversprechendste Kanal?
Fingerprint habe ich nicht und konnte es daher nicht testen, zum Rest siehe hier.
Fingerprint-Sensor hab ich, funktioniert problemlos.
Ich habe das Gerät aufgeschraubt, für mich sieht es so aus als würden da nur einseitig bestückte NVMes reinpassen. Die unbestückte Seite liegt auf einer Art Polster auf, vermutlich zur Abführung der Wärme.
Ich hab wie gesagt eine doppelseitige drin, aber natürlich ohne Wärmeleitpads & Co., sonst passt's nicht.
Es gab in der Vergangenheit bereits AMD-Thinkpads mit Intel WiFi, z.B. das T14s Gen1.
Ja, gab es, aber es liegt nicht in AMDs Interesse hier ihren großen Konkurrenten zu unterstützen, daher sind sie davon mittlerweile abgekommen und unterstützen das nicht mehr.
Interessant, ich habe Pluton im BIOS deaktiviert und mein P14s wacht einwandfrei aus dem Standby auf. Meine Aussage bezieht sich auf Linux.
Mit dem aktuellen BIOS 1.10? Vielleicht war's bei mir auch nur wieder ein sporadisches Problem, ähnlich dem fehlenden Hardware-Sleep im Standby, so oft hab ich's nicht ausprobiert.
Bei Reddit hat es einer nicht auf einem P14s Gen 5 zum laufen gebracht. Leider hat der User nicht geschrieben, ob er eine B-M-Key SSD versucht hatte.
Soweit ich weiß geht das seit dem Gen 2 nicht mehr. Da hätte ich's gerne genutzt, aber das war das erste bei dem Lenovo da eine Whitelist implementiert hat, eigentlich mit dem Ziel, dass man nur freigegebene WWAN-Karten einsetzen kann, aber es blockiert halt auch SSDs. Es gibt wohl ein paar mögliche Workarounds dafür (BIOS patchen, langsame SSD einsetzen, die sich erst meldet, sobald das BIOS den Check schon übersprungen hat, etc.), hab ich aber bislang nicht ausprobiert, so wichtig war's mir dann doch nicht.
 
Mit dem aktuellen BIOS 1.10? Vielleicht war's bei mir auch nur wieder ein sporadisches Problem, ähnlich dem fehlenden Hardware-Sleep im Standby, so oft hab ich's nicht ausprobiert.
Ich habe BIOS Version 1.03, das könnte der Grund sein. Interessanterweise zeigt mir der fwupdmgr noch keine neuere Version an.
 
Interessanterweise zeigt mir der fwupdmgr noch keine neuere Version an.
Scheint dort noch nicht hinterlegt zu sein, ich hab's manuell runterladen müssen. Für andere Komponenten wurden Updates angeboten, das für die WWAN-Karte schlägt allerdings immer fehl und bleibt auf dem alten Stand.
 
Meinst du es würde den Bananen beim Reifen helfen, wenn man die Bugs (zumindest soweit sie gut reproduzierbar sind) an Lenovo meldet? Falls ja, was wäre dafür der erfolgsversprechendste Kanal?
Das englischsprachige Lenovo-Forum, dort lesen auch die Entwickler mit und schalten sich bei größeren Problemen auch ein. Ich halte es nicht für ausgeschlossen, dass es dort schon entsprechende Threads gibt, an die Du Dich anhängen könntest.
 
Ganz gesund sieht's nicht aus, korrekt. Hat aber zumindest bei mir ~4 Jahre im P14s Gen 2 durchgehalten.
Beitrag automatisch zusammengeführt:


CPU-only, limitiert auf 29W (STAPM):
Code:
model_name =    phi4:14b
prompt = Write a step-by-step guide on how to bake a chocolate cake from scratch.
eval rate:            7.05 tokens/s
prompt = Develop a python function that solves the following problem, sudoku game
eval rate:            7.02 tokens/s
prompt = Create a dialogue between two characters that discusses economic crisis
eval rate:            7.03 tokens/s
prompt = In a forest, there are brave lions living there. Please continue the story.
eval rate:            7.03 tokens/s
prompt = I'd like to book a flight for 4 to Seattle in U.S.
eval rate:            7.03 tokens/s
--------------------
Average of eval rate:  7.032  tokens/s
----------------------------------------

model_name =    deepseek-r1:14b
prompt = Summarize the key differences between classical and operant conditioning in psychology.
eval rate:            7.11 tokens/s
prompt = Translate the following English paragraph into Chinese and elaborate more -> Artificial intelligence is transforming various industries by enhancing efficiency and enabling new capabilities.
eval rate:            7.16 tokens/s
prompt = What are the main causes of the American Civil War?
eval rate:            7.06 tokens/s
prompt = How does photosynthesis contribute to the carbon cycle?
eval rate:            7.09 tokens/s
prompt = Develop a python function that solves the following problem, sudoku game.
eval rate:            6.66 tokens/s
--------------------
Average of eval rate:  7.016  tokens/s
----------------------------------------

model_name =    deepseek-r1:32b
prompt = Summarize the key differences between classical and operant conditioning in psychology.
eval rate:            3.19 tokens/s
prompt = Translate the following English paragraph into Chinese and elaborate more -> Artificial intelligence is transforming various industries by enhancing efficiency and enabling new capabilities.
eval rate:            3.21 tokens/s
Weiter hab ich's nicht laufen lassen, Ergebnis ist ja recht eindeutig.
Hier ähnliche Daten vom P14s G5 AMD unter Arch Linux mit ollama-rocm:

-------Linux----------

Code:
No GPU detected.
Total memory size : 54.57 GB
cpu_info: AMD Ryzen 7 PRO 8840HS w/ Radeon 780M Graphics
gpu_info: no_gpu
os_version: Arch Linux
ollama_version: 0.7.1
----------
LLM models file path:/home/sifff/.local/share/pipx/venvs/llm-benchmark/lib/python3.13/site-packages/llm_benchmark/data/
benchmark_models_32gb_ram.yml
Checking and pulling the following LLM models
phi4:14b
deepseek-r1:14b
deepseek-r1:32b
----------
model_name =    phi4:14b
prompt = Write a step-by-step guide on how to bake a chocolate cake from scratch.
eval rate:            6.19 tokens/s
prompt = Develop a python function that solves the following problem, sudoku game
eval rate:            5.99 tokens/s
prompt = Create a dialogue between two characters that discusses economic crisis
eval rate:            5.82 tokens/s
prompt = In a forest, there are brave lions living there. Please continue the story.
eval rate:            5.84 tokens/s
prompt = I'd like to book a flight for 4 to Seattle in U.S.
eval rate:            5.90 tokens/s
--------------------
Average of eval rate:  5.948  tokens/s
----------------------------------------
model_name =    deepseek-r1:14b
prompt = Summarize the key differences between classical and operant conditioning in psychology.
eval rate:            6.18 tokens/s
prompt = Translate the following English paragraph into Chinese and elaborate more -> Artificial intelligence is transfo
rming various industries by enhancing efficiency and enabling new capabilities.
eval rate:            6.37 tokens/s
prompt = What are the main causes of the American Civil War?
eval rate:            6.28 tokens/s
prompt = How does photosynthesis contribute to the carbon cycle?
eval rate:            6.27 tokens/s
prompt = Develop a python function that solves the following problem, sudoku game.
eval rate:            5.87 tokens/s
--------------------
Average of eval rate: 6.194 tokens/s

Zwinge ich ihn zum Einsatz der GPU (export HSA_OVERRIDE_GFX_VERSION="11.0.2")
sinkt die Leistung:
-------Linux----------

Code:
No GPU detected.
Total memory size : 54.57 GB
cpu_info: AMD Ryzen 7 PRO 8840HS w/ Radeon 780M Graphics
gpu_info: no_gpu
os_version: Arch Linux
ollama_version: 0.7.1
----------
LLM models file path:/home/sifff/.local/share/pipx/venvs/llm-benchmark/lib/python3.13/site-packages/llm_benchmark/data/
benchmark_models_32gb_ram.yml
Checking and pulling the following LLM models
phi4:14b
deepseek-r1:14b
deepseek-r1:32b
----------
model_name =    phi4:14b
prompt = Write a step-by-step guide on how to bake a chocolate cake from scratch.
eval rate:            4.30 tokens/s
prompt = Develop a python function that solves the following problem, sudoku game
eval rate:            4.56 tokens/s
prompt = Create a dialogue between two characters that discusses economic crisis
eval rate: 4.80 tokens/s
 
  • ok1.de
  • IT Refresh - IT Teile & mehr
  • thinkstore24.de
  • Preiswerte-IT - Gebrauchte Lenovo Notebooks kaufen

Werbung

Zurück
Oben