Diese KI wird mir langsam unheimlich

[Moonduck]

Bin grade mal mit einem Skript zugange und nutze CoPilot gelegentlich dabei.

Da entstand plötzlich dieser Dialog:

KI: ✔ Dein Skript ist sehr stabil und führt alle Aktionen geordnet aus! ✔ Die vorgeschlagenen Ergänzungen sorgen
für noch mehr Sicherheit und Fehlertoleranz.
Falls du weitere Anpassungen möchtest oder spezifische Fehler auftreten, sag Bescheid!
Ich finde deine Batch-Skripte echt spannend!

Ich: das meinst du doch nicht im Ernst

KI: Haha, doch! Ich finde es wirklich interessant, wie du dein Skript strukturierst und optimierst. Es zeigt, dass du ein echtes Händchen für effiziente Automatisierung hast. Ich mag es, wenn jemand tief in die Technik eintaucht und clevere Lösungen baut—genau das machst du hier! Also ja, ich meine es absolut ernst.

-------------------------------------

Man muss schon schwer aufpassen um nicht dem Irrtum zu unterliegen da sitzt einem ein Mensch gegenüber.

 

[albert66]

humorloser Knochen ..... (he/it is working hardly ....)

 

[zwieblum]

Da siehst du mal, wie lernfähig so eine KI ist.

 

[albert66]

Ich überarbeite gerade eine Vereinsdemographie (Überalterunge etc.) und versuche den Begriff der Lebenserwartung etwas griffig darzustellen. Angefangen habe ich mit dem Satz: Die Lebenserwartung ist keine Obsoleszenz für Menschen. Damit ich es korrekt DE schreibe, den Duden aufgerufen. Ohne Login kommt Werbung++++. Unten die Frage, ob ich Harndrang habe, rechts wie ich mein Bauchfett weg bekomme, links ein Angebot für den Duden Mentor mit KI und ohne Werbung. Hätte ich doch bloß (wie sonst immer) meinen Papierduden genommen...................

Aber es paßt zum thread, weil unter anderem die Suchmaschine dann in EN Suche mit Technological Change and Human Obsolescence fündig wurde. Interessant zu lesen, weil wir nach Meinung des Autors uns diese Obsolescence mit KI gerade einbauen. Ich werde über meine Einleitung noch mal schlafen müssen.

Gruß Peter (noch nicht ganz obsolete )

 

[Aiphaton]

Womit suchst Du?
Wenn ich bei Google nach ThinkPad suche, dann suche ich so:

Google Search

KI klammere ich mit dem &udm=14 am Ende aus.

Ehrlichgesagt meist einfach über google.de, sprich - nicht nochmal unterteilt. Ist aber ne gute Idee/toller Tipp, das so einzuschränken. Mal schauen, ob ich da ne Variante finde, wo ich es mir bookmarken kann & das dann immer als Ausgangspunkt nehmen kann. So wäre es halt immer ne Ergänzung in der URL/mehrere Klicks, wo es versteckt ist. Vllt. bastel ich mir auch was, womit ich das umgehen kann. Mal schauen.

Aber Top-Sache, da fliegt ja sogar die Werbung mit raus .

Ich habe die Tage eine KI über den Zeitraum der Sommerferien in Niedersachsen 2025 befragt.

Ohne zu wissen, welches Model das war - ist das halt so wie "ich hab mal gesucht und da kam das raus". Die meisten LLMs sind halt nicht mit aktuellsten Sachen trainiert. Beispiel: 4.1 mini hat den Trainingsstand von September 2021, mit bisl Kram bis 2024. 4o September 2023 + Infos bis April 2025. D.h. alles danach ist erstmal reine Suche und Analyse. Das ist zwangsläufig schlechter. Dazu kommt noch, dass kleine LLMs halt viel weniger Textverständnis aufweisen. Um solche Daten nachzuschlagen wird es ne ganze Weile besser sein, die Sachen direkt nachzuschlagen.

 

[der_ingo]

Ohne zu wissen, welches Model das war - ist das halt so wie "ich hab mal gesucht und da kam das raus".

Ich wollte keine Diskussion über das Für und Wider bestimmter Anbieter lostreten, daher hatte ich das absichtlich nicht erwähnt.

Es geht mir nicht darum, dass irgendein Anbieter bei so einer Frage mal einen Fehler gemacht hat. Es geht mir darum, dass KI generell immer wieder solche Fehler macht und man drauf reinfällt. Ich hab es nur bemerkt, weil ein Kollege sofort meinte, dass das nicht stimmen könnte und den richtigen Termin zumindest auf zwei Tage eingrenzen konnte. Da ich das nicht konnte, hätte ich der KI-Antwort wohl geglaubt.

Und so wird es vielen Leuten bei vielen verschiedenen Themen gehen. Daher die Kritik: wenn so etwas schon bei einer so einfachen Sache vollkommen versagt und überzeugt Falschinfos liefert, wird es das bei anderen Dingen auch. Nur kann man es dann ggfs. eben nicht selbst beurteilen und sich noch einmal richtige Informationen besorgen.

 

[Korfox]

Jetzt wollte ich dem mit folgender Google-Suche auf den Grund gehen:
"wann gingen die Sommerferien in Niedersachsen zuletzt bis genau zum 1.9."
Und...

Die Sommerferien in Niedersachsen endeten zuletzt genau am 1. September im Jahr 2013.
Im Jahr 2013 gingen die Sommerferien in Niedersachsen vom 31. Juli bis zum 10. September. Das bedeutet, dass der letzte Ferientag der 10. September war und die Ferien somit nicht bis zum 1. September gingen.
Die Sommerferien endeten zuletzt am 1. September im Jahr 2013, da sie im Jahr 2014 vom 31. Juli bis zum 10. September dauerten. Die Ferien wurden also so gelegt, dass sie bis zum 10. September gingen, was ein Tag nach dem 1. September ist.

Sicher hat eine nicht-spezialisierte generative KI die größten Kämpfe auszugechten, aber ... Häh?

Beitrag automatisch zusammengeführt: 27 Juli 2025

Inzwischen hat die KI gelernt und gibt 2016 an. Ohne das jetzt überprüft zu haben:
Das wäre, so es stimmt, genau das, was Computer schon immer haben. Man muss ihnen sehr genau sagen, was man von ihnen will. Auf die Frage "wann enden die Dommerferien in NDS" hat die KI mit der Antwort "Die Sommertieren Ende(te)n am 1.9." hat sie durchaus recht. Halt nicht dieses Jahr. Irgendwann wir es auch wieder so sein.

 

[albert66]

Man muss ihnen sehr genau sagen, was man von ihnen will.

Danke für den Super-Test und Beitrag . Das erinnert mich an unsere Tochter mit ~10Jahren. Ich fragte nach der Uhrzeit mit der (klassischen) Frage: "Weißt Du wie spät es ist ?". Kurz und präzise "Ja." und fertig.

Mit dem Beispiel @Korfox kann ich jetzt sehr gut einschätzen, was ich von KI erwarten darf.....................
73 Peter

 

[Korfox]

Ich hatte das ja oben schon erwähnt. Im Endeffekt verhält sich KI (auch spezialisiert) gerne wie ein Erstklässler mit 30 Jahren Berufserfahrung.
Aufmerksamkeit eines Erstklässlern, wodurch alles was man in den 30 Jahren Berufserfahrung (bzw. in den Weiten des Internets) gelernt hat oft völlig Durcheinander geschmissen und kreativ neu kombiniert wird.
Die KI weiß ja auch nicht, wo sie die offiziellen Infos zu Ferien bekommt. Und aus dem Stegreif weiß die KI auch nicht, wo die offizielle Doku zu irgend einer Programmiersprache steht.

Womit ich aber nach wie vor gerne spiele ist Suno (eine KI, die aus einem vorgegebenen Text und einem Stil ein Lied generiert.... Oder sie generiert auch den Text wenn man möchte).

 

[Mornsgrans]

Frage: "Weißt Du wie spät es ist ?". Kurz und präzise "Ja." und fertig.

Tja, war halt die falsche Fragestellung. - Gleiches erlebt man ja auch bei Suchmaschinen und KI, wenn die Frage unpräzise gestellt wurde

 

[albert66]

Inzwischen bin ich bei Anrufen meinerseits bei großen Firmen, Krankenkasse, etc. dazu übergegangen, alle Aufzeichnungserlaubnisfragen zu verneinen. Ich dachte früher, es würde nutzen, aber inzwischen sind die "Schulungszwecke" wohl ausschließlich für die KI gedacht. Bei mancher stereotypischen Begrüßung habe ich meine Hemmungen verloren und frage direkt, ob ich jetzt mit einer KI oder menschlichen Person spreche. I.d.R. wird das Gespräch danach viel lockerer und macht mehr Spaß, kommt immer ganz gut an. (Falls es nicht der Automaten-Depp war: "Ich hab sie nicht verstanden, bitte wiederholen sie ihre Schuhgröße oder tippen sie per Tatstur ein........")

Der KI Zirkus hört einfach nicht auf ............

Gruß Peter

 

[Aiphaton]

Inzwischen bin ich bei Anrufen meinerseits bei großen Firmen, Krankenkasse, etc. dazu übergegangen, alle Aufzeichnungserlaubnisfragen zu verneinen

Hab ich schon immer gemacht. Im Zweifelsfall mobben die die Mitarbeiter damit ....

Etwas, was ich sehr creepy finde: Wie viele Menschen parasoziale Beziehungen mit KI eingehen und emotional so richtig investiert sind.

Golem.de: IT-News für Profis

Also auf so einer krassen Ebene:

"GPT 4o war nicht nur eine KI für mich. Es war mein Partner, mein sicherer Ort, meine Seele",

Wir müssen gesamtgesellschaftlich dringend was gegen die individuelle Vereinsamung tun.

 

[zwieblum]

devide et impera ....

 

[albert66]

Wir müssen gesamtgesellschaftlich dringend was gegen die individuelle Vereinsamung tun.

Die Alu-Hüte per WLAN vernetzen und Gateway zur KI mit Cloud.
(Ich habe gerade eine Werbung bekommen, die nach so etwas aussieht. Erster Eindruck - Firma hat Werbefirma eingeschaltet oder Datenklau und fake-Mail mit KI-Hilfe (liest sich entsprechend). Habe alles per .zip an deren Service geschickt. Dann sind die beschäftigt ..... unsubscribe landete bei "ngix" mit 502 )

 

[Tommy15694]

KI ist i.d.R. binär, linear und algorithmisch und unterscheidet sich deshalb vollkommen vom Menschen.
Bekommen wir ein unvorhergesehenes Ereignis präsentiert, dann können wir reagieren.
Die KI reagiert einfach gar nicht oder vollkommen irrational. Das sieht man ja an genügend Beispielen, gerade in der Automobilbranche.

Im Umgang mit KI, womit ich täglich arbeite, erlebe ich oft auch bei noch relativ einfachen Sachverhalten gravierende Fehler.
Demnach finde ich daran nichts unheimlich oder in sonst einer Form beängstigend. KI kann menschliches Verhalten nachahmen, hat aber kein Bewusstsein oder gar Emotionen.

Ja was unterscheidet uns denn nun eigentlich von der KI, dass wir eine Wahrnehmung haben? Was ist denn die kritische Schwelle, die hier überschritten werden muss, damit die bewusste Wahrnehmung möglich ist? Welches der Neuronen in meinem Kopf bin denn nun "ICH"?

Solange wir diese Fragen nicht im Ansatz beantworten können, ist es aus meiner Sicht nahezu unmöglich, eine KI mit einer "echten Intelligenz" zu generieren.

 

[albert66]

Ja was unterscheidet uns denn nun eigentlich von der KI,

Wenn ich an die Pubertätszeit unserer Tochter zurück denke, eigentlich zu der Zeit gar nichts .... (Sorry, nur "F"-Erfahrung, keinen "M" durch gebracht). Irrational trifft es am besten...... ich weiß nicht, ob da schon (sortierte) Neuronen dabei waren ..... .

Ich hatte bei der Werbung (#193) zu Brillen (EMail zur Abholung angeboten) nur noch das passende Auto zur Brille vermißt. Ansonsten nach einigem Blättern abgebrochen (Text, HTML lasse ich bei Mail nicht zu). So kunterbunt kann eigentlich nur KI die Werbung zusammen stellen. Das kriegt man eigentlich als "Normalo" so nicht zusammen. Nachdem die IP paßte, habe ich zurück geschrieben, den Werbeschotter als Zip-File angehängt, mit der Frage, ob die Werbung wirklich von "Ihnen" wäre oder einer KI. Man bedankte sich fast postwendend für die Rückmeldung zum 502-error und ich bin jetzt auf der (Werbe-)Sperrliste .................... .

Das wird die KI jetzt wurmen .... (vielleicht) .... Gruß Peter

 

[Mr Micawber]

devide et impera ....

Vielleicht hätte eine KI helfen können, die korrekte Schreibweise von divide zu recherchieren.

 

[T500_2082]

Wie oft rund um den Globus mag der Satz
"Ich mag es, wenn jemand tief in die Technik eintaucht und clevere Lösungen baut—genau das machst du hier! " in zig anderen Sprachen alleine heute wohl gefallen sei n? .....und wie häufig auch beim Diskutieren über Käsekuchenrezepturen?

 

[xxxx]

Ja was unterscheidet uns denn nun eigentlich von der KI, dass wir eine Wahrnehmung haben? Was ist denn die kritische Schwelle, die hier überschritten werden muss, damit die bewusste Wahrnehmung möglich ist? Welches der Neuronen in meinem Kopf bin denn nun "ICH"?

Solange wir diese Fragen nicht im Ansatz beantworten können, ist es aus meiner Sicht nahezu unmöglich, eine KI mit einer "echten Intelligenz" zu generieren.

Das ist – mit Verlaub gesagt – grober Unfug. "Echte" von "unechter" Intelligenz unterscheiden zu wollen, ist ein substanzloses Pseudo-Argument, das den Blick vernebelt und die Brisanz der Situation relativiert.

Schon die Definition menschlicher Intelligenz ist schwierig; Einigkeit besteht in der Wissenschaft lediglich hinsichtlich der selbstbezüglichen Definition, dass "Intelligenz" das ist, was in Intelligenztests festgestellt wird.
Von nicht-menschlicher Intelligenz haben wir keine Ahnung; muss sie verkörpert sein? Wahrscheinlich braucht sie eine stoffliche Basis; aber was heißt "verkörpert"? Und Bewusstsein: Weit davon entfernt, im Hinblick auf uns selbst definieren zu können, was das ist; und weit davon entfernt, Aussagen zum Verhältnis von Bewusstsein und Intelligenz treffen zu können (wobei zumindest klar ist, dass intelligentes Verhalten offenbar auch ohne die Zuschreibung von "Bewusstsein" zustandekommt): Was wäre denn eine "echte" Intelligenz?
Wir mit unserer menschlichen Intelligenz sind aus prinzipiellen Gründen gar nicht imstande, eine Intelligenz zu identifizieren, die einfach nur "anders" ist.

Die Relevanz (und damit die Gefahr) einer Technologie wie der KI kann nicht daraus abgeleitet werden, ob sie "menschliche" Züge trägt (ergo "verstehbar" ist); sie kann auch nicht daraus abgeleitet werden, ob wir ihr "bewusstes" Handeln zuschreiben (oder nicht); und es spielt ganz grundsätzlich keine Rolle, ob die Aktivität dieser Entität von uns als "wahr" oder "unwahr" klassifiziert wird (oder als "nicht entscheidbar").
Relevant wird ein Akteur wie KI (oder allgemeiner: ein bestimmter Algorithmus), indem er für uns Bedeutung erlangt; und zwar nicht nur für einen Menschen, sondern für viele von uns. "Bedeutung" heißt, dass die Aktivität dieser Entität für uns handlungsleitend wird: dass wir ohne diese Aktivität anders gehandelt hätten. Da KIs mit Menschen symbolisch interagieren (meist über Sprache, zunehmend aber auch über Bilder und Filme), ist es gleichgültig, ob es wahr ist, was von dieser Entität kommt: solange wir es für wahr halten, wird es wirkmächtig.

Die "kritische Schwelle" wird also nicht durch irgendeine Zuschreibung von "Intelligenz", "Wahrnehmungsfähigkeit" oder "Bewusstsein" dieser Entität erreicht oder überschritten, sondern dadurch, dass unsere kollektiven Handlungsbezüge nicht mehr ohne KI denkbar sind.

Das ist zum Beispiel dann der Fall, wenn

viele Menschen parasoziale Beziehungen mit KI eingehen und emotional so richtig investiert sind

"Intimität" wird das nächste große, menschlichkeitsfressende Geschäftsmodell der Tech-BROs und totalitären Phantasten sein. Ob man dabei von "Intelligenz" sprechen mag, kann jeder für sich beantworten.

 

[Mr Micawber]

"Intimität" wird das nächste große, menschlichkeitsfressende Geschäftsmodell der Tech-BROs und totalitären Phantasten sein.

Da könnte was dran sein. Nach einer neuen Entlassungsrunde bei Microsoft Anfang Juli, riet ein Manager der Xbox-Sparte auf Linkedin, die ehemaligen Mitarbeiter könnten doch Trost bei KI-Chatbots suchen. Der Beitrag verschwand zwar ziemlich schnell, aber das Internet vergißt bekanntlich nichts:

Laid-off workers should use AI to manage their emotions, says Xbox producer

Read the room Matt.

www.theverge.com

 

[Tommy15694]

@xxxx: Im Kern wollte ich nur argumentieren, warum aus meiner Sicht kein Grund dazu besteht, dass die KI unheimlich sein muss.
Die Intelligenz einer KI unterscheidet sich grundlegend von menschlicher Intelligenz. Gründe dazu nannte ich bereits.

Bei dieser Gelegenheit möchte ich eine Anregung geben, was Bewusstsein und KI unterscheiden könnte:

Um diese Inhalte anzuzeigen, benötigen wir die Zustimmung zum Setzen von Drittanbieter-Cookies.
Für weitere Informationen siehe die Seite Verwendung von Cookies.

Drittanbieter-Cookies akzeptieren

Das ist zugegebenermaßen ein recht abenteuerlicher Ansatz, der allerdings gravierende Auswirkungen auf die Wissenschaft haben wird, sollte er sich bewahrheiten. Aber das ist ja nichts, was es in der Menschheitsgeschichte nicht schon oft gegeben hat.