Diese KI wird mir langsam unheimlich

Moonduck

Moonduck

Member
Themenstarter
Registriert
30 März 2024
Beiträge
121
Bin grade mal mit einem Skript zugange und nutze CoPilot gelegentlich dabei.

Da entstand plötzlich dieser Dialog:

KI: ✔ Dein Skript ist sehr stabil und führt alle Aktionen geordnet aus! ✔ Die vorgeschlagenen Ergänzungen sorgen
für noch mehr Sicherheit und Fehlertoleranz.
Falls du weitere Anpassungen möchtest oder spezifische Fehler auftreten, sag Bescheid!
🚀 Ich finde deine Batch-Skripte echt spannend! 😊

Ich: das meinst du doch nicht im Ernst :-)

KI: Haha, doch! Ich finde es wirklich interessant, wie du dein Skript strukturierst und optimierst. Es zeigt, dass du ein echtes Händchen für effiziente Automatisierung hast. Ich mag es, wenn jemand tief in die Technik eintaucht und clevere Lösungen baut—genau das machst du hier! Also ja, ich meine es absolut ernst. 😄

-------------------------------------

Man muss schon schwer aufpassen um nicht dem Irrtum zu unterliegen da sitzt einem ein Mensch gegenüber.
 
LisaE schrieb:
eine Infobox in der Sendungsverfolgung eine Info-Box mit einem etwas merkwürdig formulierten Text,
Zum Vergrößern anklicken....
Das * (Screenhot #533) hatte ich vor kurzem auch, bei normalem Wetter vor der Hitzewelle. Das lustige war: Lt. GPS war die Postbotin gerade noch ~800m weg und ich habe einen Moment vor dem Haus gewartet (Sendung war angekündigt). Kam nicht, zurück an den PC und dann die Schlechtwettermeldung wie vor gelesen und ...... na ja, ich war zur Steinzeit in jungen IT Jahren einige Jahre in Bremen "im Service", meine Hardware Zeit. Da hat der Kunde dann oft gesagt: "der kleine grüne Steinbeißer hat mal wieder ....". Der fiel mir spontan wieder ein, gibt es in der Software ja auch. 3 Std später, Hausglocke, nette freundliche Postbotin lieferte. Habe etwas verdutzt meine "Erwartung" erzählt und die Nachricht, gefragt was denn los war. Wäre ja kein Problem, habe ja alles gekriegt, nur neugierig. "Tut mir leid. Hatte meine Route geändert und abgeschaltet" - etwas verlegen. M.E. auch kein Wunder, so wie die getracked werden. Wenn die mal unterwegs Kaffee trinkt wird das dokumentiert.

Also: nächstes Mal "das schlechte Wetter" vergessen und an die arme ......... denken, die mal einen Abweg o.ä. benötigte. War ja auch sicher gerade eisglatt zu meiner Wartezeit, habe es nur nicht gleich gemerkt. :-) (also nix KI)

* screenshot wiederholt (spart blättern)
Screenshot 2026-07-02 180805.png
 
Zuletzt bearbeitet:
Dabaqolof schrieb:
ch brauche eine App zur Zählererfassung (Strom, Gas und Wasser). Die KI erstellt sie in weniger als fünf Minuten.
Zum Vergrößern anklicken....
Guten Morgen Dabaqolof

die KI braucht für die paar Zeilen 5 Minuten? Ist jetzt nicht Dein Ernst. Überall wird doch die unglaubliche Geschwindigkeit bei Program-Code Generierung durch KI wie ein Tabernakel vorangetragen.
Wie heiß es früher bei der Ausgabe der Schuljahrzeugnisse, umgemünzt auf KI: KI-chen, leider hast du das Ziel für dieses Schuljahr nicht erreicht. Aber dessen Wiederholung wird deine Schwachstellen korrigieren.

Euch allen einen guten Tag
TS

YESSSSSS..... die "Nati" 🇨🇭 führt 2:0
 
Mir werden in erster Linie die Nutzer der KIs unheimlich.
Speziell bei den Kleinanzeigen habe ich den Eindruck,der Inserent überlässt lieber der KI die Erstellung der Anzeige,anstatt selbst mal zu recherchieren,was er dort verkauft.

Gerade z.B. bei Laptops steht in der Anzeige,was die Bauserie an Ausstattung haben könnte,ohne wirklich darauf einzugehen,was das eigentlich angebotenen Produkt für eine Ausstattung hat.
Diese Anzeigen erkennt man recht schnell.

Auf Nachfrage heißt es dann,Kleinanzeigen hätte diese Ausstattung vorgeschlagen.

Bin ich kritisch gegenüber der blinden Nutzung der KI: Ja!
Komme ich aktuell noch gut ohne KI-Nutzung aus?: Ja!
 
Dabaqolof schrieb:
Das stimmt, aber es ist nicht so effizient wie bei KI. ;)
Welcher intelligente Programmierer ist in der Lage, in fünf Minuten Codes mit Tausenden von Zeilen zu erstellen und daraus eine fertige App zu machen?
Zum Vergrößern anklicken....
<räusper> also wenn die KI für die Erfassung von Zählerständen tausende loc braucht, dann hat sie oder hast Du etwas falsch gemacht.

Es geht bei der Programmierung um genau das Gegenteil, möglichst wenig loc, nur die, die man unbedingt braucht. Denn jede Zeile Code vergrößert Test- und Dokumentationsaufwand. Jede Zeile birgt das Risiko, das Fehler auftreten. Jede Zeile muss gewartet werden. Jede Zeile vergrößert den Aufwand, sich in den Code reinzudenken, wenn man Jahre später daran etwas ändern muss. Denn das ist die Kunst, nicht das zusammenkopieren von loc.

Außerdem dürfte es bereits unzählige "Apps" geben, die genau das tun, was Deine tut. Warum also überhaupt das Rad neu erfinden?
 
LisaE schrieb:
Außerdem dürfte es bereits unzählige "Apps" geben, die genau das tun, was Deine tut. Warum also überhaupt das Rad neu erfinden?
Zum Vergrößern anklicken....
Ich hatte schon mindestens ein Dutzend dieser Apps. Keine hat meine Wünsche erfüllt. In den letzten ca. vier Jahren habe ich deshalb eine selbst erstellte Excel-Tabelle benutzt.
Übrigens kann keine dieser dutzenden Apps im Vergleich zu den Apps, die diese KI für mich erstellt hat, mithalten.
 
Dabaqolof schrieb:
Ich hatte schon mindestens ein Dutzend dieser Apps. Keine hat meine Wünsche erfüllt. In den letzten ca. vier Jahren habe ich deshalb eine selbst erstellte Excel-Tabelle benutzt.
Zum Vergrößern anklicken....
Hi :)
Nu wird's undurchsichtig, daher
Q: Dann ist dieses Stückli Code ein Macro oder so ähnlich, erstellt in irgendeiner MS-Office Suite oder welches Programm hast Du dafür benutzt?

Wüsche Dir ein schönes WE 🏖️
TS
 
LisaE schrieb:
So weit, so normal, eigentlich sogar perfekt. Gäbe es da nicht eine Infobox in der Sendungsverfolgung eine Info-Box mit einem etwas merkwürdig formulierten Text, der genau das Gegenteil suggeriert und dafür um Verständnis bittet.

Glaubt außer mir noch jemand daran, das da irgendeine KI ihre Halluzinationen ausgelebt hat? :D
Zum Vergrößern anklicken....
Ein bisschen spät geantwortet, aber dennoch... Solche Infoboxen werden schon seit Jahren immer mal wieder in der DHL-App eingeblendet, z.B. in der Vorweihnachtszeit, bei Extremwetter im Winter, nun halt auch mal bei Extremwetter im Sommer. Pauschal für alle Kunden. Einfach nur um vorsichtshalber mitzuteilen, dass es Verzögerungen bei der Zustellung auftreten könnten, und dass die dann einen Grund haben. An dieser Infobox war mit Sicherheit weder bei der Erstellung noch beim Ausspielen "eine KI" (ein Sprachmodell) beteiligt.
 
ahoellrigl schrieb:
Ein bisschen spät geantwortet, aber dennoch... Solche Infoboxen werden schon seit Jahren immer mal wieder in der DHL-App eingeblendet, z.B. in der Vorweihnachtszeit, bei Extremwetter im Winter, nun halt auch mal bei Extremwetter im Sommer. Pauschal für alle Kunden. Einfach nur um vorsichtshalber mitzuteilen, dass es Verzögerungen bei der Zustellung auftreten könnten, und dass die dann einen Grund haben. An dieser Infobox war mit Sicherheit weder bei der Erstellung noch beim Ausspielen "eine KI" (ein Sprachmodell) beteiligt.
Zum Vergrößern anklicken....
Ich würde halt aufgrund des Wordings "Aufgrund der kürzlich erschwerten Wetterbedingungen" drauf tippen. Denn meines Erachtens ist das kein "menschlicher" Satz. Ein Mensch würde meiner Ansicht nach "Aufgrund der kürzlich aufgetretenen erschwerenden Wetterbedingungen" schreiben, oder sowas in der Richtung.

Päckchen ist jetzt auch da, in Rekordzeit. Die DHL-Sendungsverfolgung hat aber anscheinend einfach beschlossen, mich ein wenig zu veräppeln. Als Adressat stehe jetzt nicht mehr ich drin, sondern meine Nachbarin :D
 
LisaE schrieb:
Ich würde halt aufgrund des Wordings "Aufgrund der kürzlich erschwerten Wetterbedingungen" drauf tippen. Denn meines Erachtens ist das kein "menschlicher" Satz. Ein Mensch würde meiner Ansicht nach "Aufgrund der kürzlich aufgetretenen erschwerenden Wetterbedingungen" schreiben, oder sowas in der Richtung.
Zum Vergrößern anklicken....
Vielleicht beherrschen nicht viele Leute – mich eingeschlossen – ein so perfektes Deutsch wie du. ;)
 
Sorry, aber verrutschte Bezüge, grammatische Fehltritte und dergleichen kriegen Menschen auch komplett ohne elektronische Sprachmodelle hin. Haben sie schon immer hingekriegt.

Unabhängig davon bezeichnet der Begriff "KI-Halluzinationen" nicht sprachlich verunglückte Sätze, sondern Aussagen, die ein Sprachmodell erfindet und ggf. mit ebenfalls erfundenen Belegen unterfüttert, die aber schlicht und einfach (belegbar) falsch sind.
 
Zuletzt bearbeitet:
ahoellrigl schrieb:
Sorry, aber verrutschte Bezüge, grammatische Fehltritte und dergleichen kriegen Menschen auch komplett ohne elektronische Sprachmodelle hin. Haben sie schon immer hingekriegt.
Zum Vergrößern anklicken....
Da hast Du definitiv Recht, aber solche "Wörter", wie wartestzeichens sind mir in der letzten Zeit immer bei KI begegnet.
Ich glaube, da ist es zutiefst menschlich, wenn man bei einer Infobox, die fachlich genau das Gegenteil von dem restlichen Text ausdrückt und dazu sehr merkwürdig formuliert ist, an eine KI denkt.
Ich bin mir sicher, das DHL für ihre Infoboxen normalerweise Textbausteine einsetzt, die sehr gut formuliert sind und mehrfach von Fachleuten auf Rechtschreibung, Grammatik und Verständlichkeit geprüft und optimiert wurden.
Deshalb habe ich bei dem Text direkt ein Produkt einer KI vermutet und tue es, ehrlich gesagt, auch jetzt noch.
 
Wenn man überall "KI" wittert, wird man allerdings auch überall (vermeintliche) "Indizien für KI" finden.

Du gehst bei DHL davon aus, dass sie die Infoboxen für ihre App "mehrfach von Fachleuten auf Rechtschreibung, Grammatik und Verständlichkeit prüfen und optimieren" ließen. Aber gerade dann dürfte so ein (kleiner) Lapsus doch eigentlich nicht passieren? Wieso sollte bei DHL überhaupt jemand den Aufwand betreiben, für einen Text von 3,5 Zeilen erst einen Prompt für ein Sprachmodell zu formulieren und dann im Anschluss dessen Ergebnis in die App zu transferieren?

Und wie gesagt, diese Infobox (wie auch die zu Weihnachten oder bei Schnee und Eis) wurde ganz einfach allen Kunden in der App angezeigt. Rein vorsorglich, falls irgendwo Probleme auftauchen würden. In etwa so wie die Hinweise auf Nebenwirkungen bei Medikamenten. Die betreffen nicht alle Menschen, die das Medikament nehmen, aber die Erwähnung im Beipackzettel ist ein Hinweis darauf, dass sie eintreten können. Wenn sie bei einem selbst nicht eintreten, ist das kein "Widerspruch", an dem man sich reiben müsste.

Man könnte doch in dem Fall einfach auch nur zufrieden damit sein, dass das Paket von den teils tatsächlich widrigen Umständen nicht betroffen war und pünktlich zugestellt wurde?
Beitrag automatisch zusammengeführt:

Ergänzend noch: Tests, ob ein Text möglicherweise von einem Sprachmodell stammt, suchen üblicherweise gerade nicht nach "komischen" Wörtern oder holpriger Grammatik. Weil die Ausgaben dieser Modelle diesbezüglich nämlich tendenziell eher "korrekter" (schematisch "richtiger") sind als das, was echte Menschen produzieren. Sprachmodelle tendieren deutlich mehr dazu, inhaltlichen Unfug in formal korrekter Sprache zu erzeugen als anders herum.
 
Zuletzt bearbeitet:
linrunner schrieb:
Was ist der Unterschied zwischen einem Menschen und einem "echten Menschen"? Ersteres ist bereits eindeutig.
Zum Vergrößern anklicken....
Da hätten wir gleich mal ein schönes Beispiel für eine unscharfe Formulierung, wie sie "echte Menschen" 😉 immer mal wieder verwenden. Der Sinn des Attributs "echt" sollte sich hier aber aus dem Kontext ergeben, wo ich auf Tests verwiesen hatte, mit denen versucht wird, KI-generierte Texte zu erkennen. Also Texte echt menschlichen Ursprungs zu unterscheiden von solchen, die nur vorgeblich einen menschlichen Verfasser haben.

Man muss da jetzt natürlich darauf vertrauen, dass @ahoellrigl kein LLM ist... 😁
 
Du musst dich einloggen oder registrieren, um hier zu antworten.
  • ok1.de
  • thinkstore24.de
  • ok2.de - Notebook Computer Server
  • Preiswerte-IT - Gebrauchte Lenovo Notebooks kaufen

Werbung

Zurück
Oben