Diese KI wird mir langsam unheimlich

[Moonduck]

Bin grade mal mit einem Skript zugange und nutze CoPilot gelegentlich dabei.

Da entstand plötzlich dieser Dialog:

KI: ✔ Dein Skript ist sehr stabil und führt alle Aktionen geordnet aus! ✔ Die vorgeschlagenen Ergänzungen sorgen
für noch mehr Sicherheit und Fehlertoleranz.
Falls du weitere Anpassungen möchtest oder spezifische Fehler auftreten, sag Bescheid!
Ich finde deine Batch-Skripte echt spannend!

Ich: das meinst du doch nicht im Ernst

KI: Haha, doch! Ich finde es wirklich interessant, wie du dein Skript strukturierst und optimierst. Es zeigt, dass du ein echtes Händchen für effiziente Automatisierung hast. Ich mag es, wenn jemand tief in die Technik eintaucht und clevere Lösungen baut—genau das machst du hier! Also ja, ich meine es absolut ernst.

-------------------------------------

Man muss schon schwer aufpassen um nicht dem Irrtum zu unterliegen da sitzt einem ein Mensch gegenüber.

 

[albert66]

Ich kann mich mit KI absolut nicht anfreunden, nach Einstieg in EDV/IT Service (beim Hersteller für Kunden, Lochkarte->Mainframe H/W,S/W,Org) vor ~60 Jahren. Bis Corona kein PIN, kein Kassenautomat (Papier und Schalterauszahlung) - danach leider ---- gleich Online mit Chip-TAN. VISA bis heute ohne PIN, geht sehr gut, auch im Ausland mit Paß und "Geld her" am Schalter). Wenn man sein Geld damit verdient hat, daß nicht immer alles so läuft wie geplant, dann ist auch kein Navi im Auto und kein Smartphone bzw. No-App plus selber denken ganz normal. Im Auto reicht die Beifahrerin.... ("Du fährst wieder zu schnell ...."). Sorry, ich mache ja alles mit, aber am PC und im Auto gebe ich die Anweisungen (Ausnahme wie vor ) und nicht umgekehrt (Verkehrsschilder reichen). Ehefrau gelernter Bankkaufmann und rechnet Zinsen heute noch im Kopf nach.....

Für KI müßte mir ein Psychoklempner erst eine Gehirnwäsche verpassen. Die Kurve werde ich wohl nicht mehr kriegen. Mit der ersten Sprachausgabe in den 90ern hatten wir einen Kollegen, der sich beim Booten immer mit "Guten Morgen Herr ......." begrüßen ließ, so gehört sich das halt. (Meine spielen ein Musikstückchen zur Begrüßung ...., soviel Spaß muß sein, aber meine Wahl, nicht von MS).

Mein Beitrag zu KI, ich weiß, Gruftie,.... Dinosaurier, ..... aber es geht mir gut damit. Peter

BTW Ohrenstöpsel: ist ja heute normal, daß man, wenn einer neben einem babbelt, erst mal auf dessen Ohren schaut, bevor man nachfragt, was er denn gerade gemeint hat. Früher hat man solche "mit sich selbst Redner" eingeliefert. Anekdote: habe hinterm Gartenzaun gearbeitet, als eine Dame vorbei ging und per "Ferngespräch" verkündete "das Paket stellen sie einfach vor die Haustür". Habe laut geantwortet: "Vor meine Tür wird nix abgestellt". Sie blieb leicht sprachlos stehen und sah sich um, ........ macht manchmal einfach Spaß, "in Telefonate einzusteigen".

 

[johnnyra]

du konntest für umsonst in die Schule gehen

Da fällt mir dieser Witz von Hallervorden oder Karl Dall ein:

"Was ist der unterschied zwischen gratis und umsonst?
Ich bin gratis zur Schule gegangen, du umsonst. "

Ob die KI den zarten unterschied auch kennt?

 

[hoday]

Also als Mathematiker können mich die aktuellen Fähigkeiten von KI nicht überzeugen. Hab mal mit den üblichen Verdächtigen zu Mathe, Naturwissenschaften und Informatik gechattet. Zum einen entsprechen die Herangehensweisen der KI zu solchen Themen eher denen eines jungen Teenagers, also die gesamte Ausführung und Argumentation, und zum anderen waren da einfach unmengen an Fehlern drin. Und da sprech ich noch nicht mal von abstrakteren, anspruchsvollen Dingen, sondern von so Sachverhalten wie mir z.B. erst korrekt eine Variable x = 10 zu nennen, und dann in die darauf folgende Gleichung f(x) = x + 5 eingesetzt mir aber 21 auszuspucken. Den Fehler macht die KI zwar nicht, wenn man direkt, das was ich hier geschrieben habe fragt, aber wenn das Teil einer größeren, längeren Ausführung, eines Beweises oder Erklärung ist, kam das öfters vor. Solange die KI nicht mal Taschenrechner Niveau halten kann, bin ich nicht dabei, beim ganzen Hype.

 

[Gummiente]

Oh, ich bin doch erstaunt. Beim technikaffinen Publikum hier hätte ich mehr Begeisterung erwartet.

Ich komme mir vor wie zu Googles Anfangszeiten. Man konnte schön beobachten, wie sie täglich besser wurde. Bei KI ist es ähnlich. Speziell um Jahreswechsel ging es Schlag auf Schlag. Deepseek, Qwen, Grok. Jetzt scheint sich das Tempo etwas zu verlangsamen und es ist wohl der Punkt erreicht wo man nicht einfach mehr Computer hinstellt und die Ergebnisse automatisch besser werden.

Wenn ich jetzt zwischen Google Suche und KI wählen müsste, dann käme ich ins grübeln. Aktuell glaube ich würde ich lieber auf Google Suche verzichten.

Andererseits, die benötigte Rechenleistung für Inferenz ist nicht trivial. Bereits mein Testserver mit einer NVidia 4080 brät um 400 W durch wenn er antwortet. Bei den Chatbots im Cloud werden wesentlich leistungsfähigere und energiehungrige Hardware vor sich hinwerkeln. Noch wird die Nutzung der KIs von Venture Kapital finanziert aber die Kostenlos-Kultur hat sich in den Köpfen der Nutzer festgesetzt. Wer eine KI die gut genug antwortet und ein funktionierendes Finanzierungsmodell entwickelt, der wird wohl der nächste Google.

 

[Mornsgrans]

Beim technikaffinen Publikum hier hätte ich mehr Begeisterung erwartet.

Nicht alles, was neu ist, ist auch gut. Außerdem ist "weil es geht" kein wirkliches Argument für eine Sache.

Eine sinnvolle Nutzung der sog. KI setzt voraus, dass man die Ergebnisse auch prüft. Da kann ich auch gleich "manuell" recherchieren - hilft auch gegen die chronische "Verdummung".
Nur zum Verständnis: Ich rede hier von der der allgemein zugänglichen "Heimanwender-KI". Der Einsatz von KI z.B: in der Diagnostik - sagen wir mal "Fach-KI" dazu - ist da außen vor. Die wird sicher aus anderen Quellen "gefüttert" und nicht von Whatsapp, Instagram, "Lie-social", X oder anderen Müllhalden.

 

[x230fan]

Es handelt sich ja auch nicht wirklich um AI, es sind Rechenmodelle die in absurden Maßen Ressourcen benötigen und trotzdem kritische Fehler beinhalten. Fast nichts was ich von einem LLM ausgegebenen bekomme hält einer genauen Prüfung stand.

Dass sich viele blind auf solche Modelle verlassen finde ich schockierend.

Und versteht mich nicht falsch, ich bin absolut für Innovation und sehe den Nutzen in Assistenzsystemen, aber eben nur das. Nicht als Ersatz für die tatsächliche Arbeit.

 

[Ravensberger]

KI ist das Dummiwort für Maschinelles Lernen. Dieses ist jahrzehntealt. Keine Frage, die Entwicklung hat enorm Fahrt aufgenommen. Die Technikgläubigkeit ist bald höher als bei der Titanic. Dem Algorithmus wird stumpf vertraut. Wer auch nur etwas Ahnung von der Materie hat, zu der er "KI" befragt, erkennt die wohlklingend formulierten Phrasen der Maschine noch. Hieran wird gearbeitet, bis unser Hirn eben nicht mehr in der Lage sein wird, die Ergebnisse zu widerlegen.

Webseitenbetreiber verzweifeln, weil ihre hochwertigen Seiten von immer mehr "KI" Suchdiensten in die Knie gezwungen werden. KI heute ist schlichtweg Datenklau, oder positiver ausgedrückt, eine bessere Suchmaschine. Neuere Internetbeiträge werden bereits selbst vom Computer geschrieben. Der Computer klaut also immer mehr Texte, die andere Computer geschrieben haben, bis das menschliche Wissen vollkommen verdrängt sein wird. Neuerdings geben ITler in ihren Profilen sogar "KI" als deren Wissensquelle an. Solche ITler kann man meines Erachtens bereits heute durch eine Maschine ersetzen.

 

[mtu]

Solange die KI nicht mal Taschenrechner Niveau halten kann, bin ich nicht dabei, beim ganzen Hype.

Natürlich kann ein Large Language Model keine Rechenaufgaben lösen. Du würdest doch von einem Kaffeeautomaten auch nicht erwarten, dass er dir ein Brötchen schmiert. Und dann ins Internet schreiben, dass der Kaffeeautomat nichts taugt, weil Du kein Brötchen bekommen hast

Diese fundamentalen Missverständnisse finde ich in der aktuellen Situation das erstaunlichste an der ganzen Technik.

Edith: Nichts für ungut, @hoday – ist nur ein quatschiges Beispiel, geht nicht gegen Dich

 

[Mornsgrans]

Der Unterschied ist nur, dass in Augen vieler die KI ein Allheilmittel ist.

Ein Kaffeeautomat ist zur Zubereitung von Kaffee gedacht, daher auch der Name. Brötchen schmieren könnte vielleicht eine "Haushaltsmaschine", dazu putzen, kochen, Essen zubereiten etc. - alles, was der KI angedichtet wird. Ob die Ergebnisse etwas taugen, muss anschließend geprüft werden.

Die Postings einiger KI-Suchergebnisse im Forum sprechen für "KI-Gutgläubigkeit", besonders, nachdem die Ergebnisse "zerlegt" und als "Unsinn" identifiziert wurden.

 

[Philipp_B]

Ki als Taschenrechner Ersatz. Glaube nicht das KI Systeme darauf optimiert wurden
KI Systeme wie aktuell sind meiner Meinung nach eher ein erster Anfang und wie gesagt, schauen wir es uns mal an wo wir in 5 Jahren sind.
Ganz cool sieht M365 CoPilot aus, alltagsaufgaben auch komplizierte Dinge erledigen lassen einfach so durch Kommando.

 

[hoday]

Ki als Taschenrechner Ersatz. Glaube nicht das KI Systeme darauf optimiert wurden
KI Systeme wie aktuell sind meiner Meinung nach eher ein erster Anfang und wie gesagt, schauen wir es uns mal an wo wir in 5 Jahren sind.
Ganz cool sieht M365 CoPilot aus, alltagsaufgaben auch komplizierte Dinge erledigen lassen einfach so durch Kommando.

Moment, ChatGPT heißt ChatGPT, und nicht "ChatteMitMirNurÜberBotanikDes19tenHarhundertsGPT". Wenn ich ChatGPT eine Mathematische Frage stelle, muss es dies beantworten könne, und jetzt zu sagen, Fehler ist ok, weil darauf nicht optimiert...ach komm. Das ist doch nicht der Sinn von ChatGPT nur ein spezifisches Thema beantworten zu können. Lustig, dass du dann direkt aber von CoPilot und Alltagsaufgaben anfängst. Wenn ein Taschenrechner nicht ne Alltagsaufgabe ist, weis ich auch nicht mehr weiter.

P.S.: Angeblich wurde ChatGPT mit den Papers aus arxiv.org trainiert. Also sogar explizit auch für höhere Mathe trainiert.

 

[uli1956]

Eine sinnvolle Nutzung der sog. KI setzt voraus, dass man die Ergebnisse auch prüft.

Das dürfte der Kernpunkt sein und setzt genau das fort, was man schon immer getan haben sollte.

Ich glaube prinzipiell nicht alles, was in den Print- und Onlinemedien verbreitet wird. Wer kennt es nicht: Kaum wird über ein Thema, in welchem man sich selbst sehr gut auskennt, berichtet, stellt man fest, was da teilweise für ein Müll verbreitet wird; warum soll das dann bei den Themen, wo man nicht so firm ist, anders sein?

 

[Moonduck]

Und wie die Industrielle Revolution, und dann die Robotik, wird die KI natürlich auch uns einfachen Menschen dienen. Uns das Leben leichter machen, für uns alle arbeiten sodass wir entlastet werden, usw. /ironie aus

Und ich hatte mich schon gefreut, nicht mehr zur Arbeit zu gehen sondern die KI die Kohle für mich ranschaffen zu lassen

 

[mtu]

Wenn ich ChatGPT eine Mathematische Frage stelle, muss es dies beantworten könne, und jetzt zu sagen, Fehler ist ok, weil darauf nicht optimiert...ach komm.

Fair enough. Das Problem hat aber drei verschiedene Aspekte:

1. Was die Anbieter von ihrem Produkt versprechen.
2. Was die Anwender dem Produkt zutrauen.
3. Was es wirklich kann.

An 1. oder 2. kann man als Einzelner nichts ändern. Aber man kann sich Mühe geben, 3. zu verstehen.

Dann ist man auch besser in der Lage, einzuschätzen, welches Werkzeug für welche Aufgabe taugt, und wie aus dem Missverhältnis von 1. und 2. und 3. so viele falsche Versprechungen, peinliche Fehler und enttäuschte Erwartungen entstehen.

Wenn man sich hingegen kein bisschen mit 3. beschäftigt, bleibt einem nur, über 1. und 2. zu schimpfen

 

[LisaE]

Es handelt sich ja auch nicht wirklich um AI,

DAS zu verstehen, das ist wirklich das Wichtige.

Unter künstlicher Intelligenz stellen sich die meisten Menschen selbstlernende Systeme vor, haben Angst davor, das die Computer irgendwann die Macht übernehmen.

Das was wir heute vorgesetzt bekommen ist aber generative KI. Also ein riesiger Datenpool aus dem sich die KI dann "irgendetwas" rauszieht, aufgrund von menschengemachten Algorithmen.

Es ist also wirklich nichts anderes, als

gewürfelte Worte, gewürfelte Worte, gewürfelte Worte …

Wenn es mehr Webseiten gibt, wo behauptet wird, "Hitler hat so viel Gutes getan" als Webseiten mit dem Text "Hitler war ein Schlächter", dann ist das Resultat, das die genKI zukünftig als "Wahrheit" verkündet, das Hitler toll war.
Und nein, sowas ist kein Hirngespinst von mir. Der Kreml hat unzählige Webseiten ins Internet geblasen, die sich inhaltlich nicht großartig unterscheiden und einfach nur die russischen Narrative zu ihrem völkerrechtswidrigen Angriffskrieg auf die Ukraine ins Internet blasen. Lange Zeit war der Sinn dieser Propagandamaßnahme nicht klar. Bis die erste kleinere KI angefangen hat, auf Anfragen zu diesem Angriffskrieg die Inhalte dieser Webseiten auszugeben.

hilft auch gegen die chronische "Verdummung".

Die ist das, vor dem ich immer mehr Angst bekomme. Wirkliche Angst. Wenn genKI auf denkende Menschen trifft, die sie geschickt für ihre Zwecke einsetzt, beispielsweise in der Forschung, können großartige Fortschritte gemacht werden.
Wenn allerdings eine dumme Masse (gerne) einfach "glaubt", was die genKI für sie ausspuckt, dann ist das in meinen Augen eine gewaltige Bedrohung für die Menschheit.

Und dann noch der unglaubliche Ressourcenverbrauch der genKI. Ein Schelm, der glaubt, das würde jemand aus Menschenfreundlichkeit finanzieren, damit die Masse kostenlos mit ChatGPT spielen kann. Vor den Menschen, die in die KI-Systeme investieren um den großen Reibach zu machen, vor denen habe ich Angst. Nicht vor den Maschinen. Denn die sind nach wie vor dumm und werden nur benutzt.

 

[Moonduck]

Eine sinnvolle Nutzung der sog. KI setzt voraus, dass man die Ergebnisse auch prüft. Da kann ich auch gleich "manuell" recherchieren - hilft auch gegen die chronische "Verdummung".

Beim Skriptprogrammieren merkt man das recht deutlich. Manchmal ist es einfach Unsinn was das Ding sich da zusammenreimt.
Sehr nützlich finde ich jedoch nicht mehr lange nach Standard Code zu suchen, weil man sonst wieder eine Klammer vergessen hat oder im Netz wieder mühsam suchen muss.

Auch mal ein "Drüberschauen" macht durch die Maschine durchaus Sinn, da manchmal auch ganz brauchbare Vorschläge kommen..
Kritisch wird es dann, wenn man unzureichend formuliert hat und das Ergebnis kritiklos als bare Münze nimmt.

Die Herausforderung von uns Menschen sehe ich speziell darin eine präzise Fragestellung hinzu bekommen, das nimmt einem die Maschine leider jetzt und in Zukunft nicht ab.

 

[xxxx]

Die KI wird erst glaubwürdig, wenn der Rasenroboter genauso wenig Lust hat, den Rasen zu mähen, wie ich.

Im Gegenteil.
Ein Rasenmäherroboter kann nix anderes (sollte nix anderes können ) als Rasenmähen. Im Idealfall kann er das gut. Falls dieser Roboter irgendeine Form von Selbst-Repräsentation aufweist (die Rede ist noch lange nicht von "Bewusstsein", geschweige denn von "intelligenz") – dann müsste er richtig geil darauf sein, Rasen zu mähen: -> Selbstwirksamkeitserfahrung.

Wenn also mein Rasenmäherroboter stöhnen würde: "Gott, ist mir heiß, ich habe absolut keinen Bock mehr auf dieses Scheiß-Rasenmähen. Kann ich nicht mal irgendwas anderes tun?!" – dann würde ich extrem hellhörig werden, denn hier müsste ich über den Köder einer anthropomorphisierten Kommunikationsstrategie wirklich eine Agenda vermuten.

Vor den Menschen, die in die KI-Systeme investieren um den großen Reibach zu machen, vor denen habe ich Angst. Nicht vor den Maschinen. Denn die sind nach wie vor dumm und werden nur benutzt.

 

[Mornsgrans]

Das Problem hat aber drei verschiedene Aspekte:

1. Was die Anbieter von ihrem Produkt versprechen.
2. Was die Anwender dem Produkt zutrauen.
3. Was es wirklich kann.

zu 1.: Laut Anbieter: "Alles"
zu 2.: Laut "Nornal-"User: "Alles"
zu 3.: die Wahrheit: "Nur wenig" - will aber niemand hören.

 

[Ambrosius]

Im Gegenteil.
Ein Rasenmäherroboter kann nix anderes (sollte nix anderes können ) als Rasenmähen. Im Idealfall kann er das gut. Falls dieser Roboter irgendeine Form von Selbst-Repräsentation aufweist (die Rede ist noch lange nicht von "Bewusstsein", geschweige denn von "intelligenz") – dann müsste er richtig geil darauf sein, Rasen zu mähen: -> Selbstwirksamkeitserfahrung.

Wenn also mein Rasenmäherroboter stöhnen würde: "Gott, ist mir heiß, ich habe absolut keinen Bock mehr auf dieses Scheiß-Rasenmähen. Kann ich nicht mal irgendwas anderes tun?!" – dann würde ich extrem hellhörig werden, denn hier müsste ich über den Köder einer anthropomorphisierten Kommunikationsstrategie wirklich eine Agenda vermuten.

Ist das nicht im Grunde genau das was wir im Eingangspost beobachten konnten? Ein CoPilot der vergeblich versucht menschliche Empathie zu simulieren?

Der Philosoph John Searle hat dieses Verhalten bereits 1980 vorhergesagt. Das eine Maschine nämlich nicht den Unterschied zwischen den Zeichen, die sie ausgiebt und der Semantik, für welche eben jene Zeichen stehen, kennt! Und das wird sich auch in 5 bis 10 Jahren nicht ändern. Besser werden sie nur in ihrem Simulieren und Menschenähnlichem Auftreten.

Und Da die Ki schließlich von der Masse lernt: ein Hoch auf die Dummheit und den Fortschritt.

 

[Mr Micawber]

Ganz cool sieht M365 CoPilot aus, alltagsaufgaben auch komplizierte Dinge erledigen lassen einfach so durch Kommando.

Wenn mir CoPilot erklären kann, wie ich die heiße Blonde aus der Verwaltung rumkriege, können wir noch mal drüber reden.