Diese KI wird mir langsam unheimlich

[Moonduck]

Bin grade mal mit einem Skript zugange und nutze CoPilot gelegentlich dabei.

Da entstand plötzlich dieser Dialog:

KI: ✔ Dein Skript ist sehr stabil und führt alle Aktionen geordnet aus! ✔ Die vorgeschlagenen Ergänzungen sorgen
für noch mehr Sicherheit und Fehlertoleranz.
Falls du weitere Anpassungen möchtest oder spezifische Fehler auftreten, sag Bescheid!
Ich finde deine Batch-Skripte echt spannend!

Ich: das meinst du doch nicht im Ernst

KI: Haha, doch! Ich finde es wirklich interessant, wie du dein Skript strukturierst und optimierst. Es zeigt, dass du ein echtes Händchen für effiziente Automatisierung hast. Ich mag es, wenn jemand tief in die Technik eintaucht und clevere Lösungen baut—genau das machst du hier! Also ja, ich meine es absolut ernst.

-------------------------------------

Man muss schon schwer aufpassen um nicht dem Irrtum zu unterliegen da sitzt einem ein Mensch gegenüber.

 

[linrunner]

Zu riesigen Nebenwirkungen fragen Sie ... ja wen eigentlich?

Claude: KI-Wasserzeichen – ein Bärendienst für die Wahrheit

Die EU fordert eine Kennzeichnung für KI-Inhalte. Anthropic reagiert mit Wasserzeichen in Claude – doch die Technik birgt Risiken für Nutzer und die Wahrheit.

www.heise.de

 

[TheSentinel]

Hallo linrunner

Zu riesigen Nebenwirkungen fragen Sie ... ja wen eigentlich?

Claude: KI-Wasserzeichen – ein Bärendienst für die Wahrheit

Die EU fordert eine Kennzeichnung für KI-Inhalte. Anthropic reagiert mit Wasserzeichen in Claude – doch die Technik birgt Risiken für Nutzer und die Wahrheit.

www.heise.de

also nicht KI o.ä. In diesem Zusammenhang ein bemerkenswerter Artikel auf Heise, der diese EU Kennzeichnungspflicht für AI / KI "bearbeitete" Reden usw ad absurdum führt

Gruß
TS

Bundesregierung nutzt KI als Arbeitswerkzeug ohne Kennzeichnungspflicht​

Die Bundesregierung nutzt KI zunehmend als Werkzeug. Während Schulungen für Beamte verpflichtend sind, bleibt die Transparenz bei KI-generierten Reden vage.

(Bild: Poca Wander Stock / Shutterstock.com)

10.08.2026, 17:43 Uhr
Lesezeit: 2 Min.
Von Stefan Krempl

Wie viel Künstliche Intelligenz steckt in der Arbeit der Bundesregierung? Spätestens seit Berichten über maschinell erstellte Reden und Gastbeiträge von Bundesdigitalminister Karsten Wildberger (CDU) steht diese Frage im Raum. Die Bundestagsfraktion Die Linke wollte mit einer Regierungsanfrage Licht ins Dunkel bringen: Welche KI-Modelle nutzen die Ministerien, mit welchen Prompts werden Reden generiert und wie wird der Einsatz in den Akten dokumentiert?

Beitrag automatisch zusammengeführt: Heute um 11:14

Kein Tag, wo AI / KI Selbstläufer enttarnt wurden und Gedanken zu KI weitergedacht werden...

Hi

bei der Durchsicht meiner neuen News, sind zwei Artikel von Bruce Schneier dabei. Im ersten berichtet er von einem Vorfall, wo die KI Claw ein wenig zu proaktiv wurde, als jemand die KI bat, ihm bei der Suche nach einem Gym Studio zu unterstützen:

AI Genie in the Wild​

When I give talks about AI genies, I use this sort of example as a hypothetical. It’s happened. The story is from Australia. Someone named Andrew tasked OpenClaw to book gym classes for him. And….

Im zweiten Aufsatz reflektiert er über KI-Einsatz für militärische Zwecke, ein nachdenklich machender Artikel:

AI for Military Support​

Interesting empirical research: “Black Box Warfare: Human Judgment and Military Decision-Making in the Age of AI.”

Abstract: How is AI transforming decision-making in modern conflict? This study provides a unique empirical window into that question by deploying a high-fidelity replica of an AI decision-support system (DSS) used in military targeting. After reconstructing the interface and functionality of the real-world system, we tested its impact on combat decisions in two experiments involving 2,015 Israeli military personnel. Contrary to widespread fears of automation bias, we find strong evidence of algorithmic aversion, especially in scenarios involving high collateral damage. Yet we also show that integrating “explainable AI” features reduces algorithmic aversion and promotes more thoughtful evaluations of algorithmic recommendations. These findings challenge prevailing assumptions, revealing that trust in military AI is dynamic, varying with individual predispositions, perceived operational stakes, and the informational features of the interface. By grounding normative concerns in empirical evidence, our study offers critical insight into the integration of AI in warfare and underscores the enduring importance of human agency in high-stakes military decision-making.