Diese KI wird mir langsam unheimlich

[Moonduck]

Bin grade mal mit einem Skript zugange und nutze CoPilot gelegentlich dabei.

Da entstand plötzlich dieser Dialog:

KI: ✔ Dein Skript ist sehr stabil und führt alle Aktionen geordnet aus! ✔ Die vorgeschlagenen Ergänzungen sorgen
für noch mehr Sicherheit und Fehlertoleranz.
Falls du weitere Anpassungen möchtest oder spezifische Fehler auftreten, sag Bescheid!
Ich finde deine Batch-Skripte echt spannend!

Ich: das meinst du doch nicht im Ernst

KI: Haha, doch! Ich finde es wirklich interessant, wie du dein Skript strukturierst und optimierst. Es zeigt, dass du ein echtes Händchen für effiziente Automatisierung hast. Ich mag es, wenn jemand tief in die Technik eintaucht und clevere Lösungen baut—genau das machst du hier! Also ja, ich meine es absolut ernst.

-------------------------------------

Man muss schon schwer aufpassen um nicht dem Irrtum zu unterliegen da sitzt einem ein Mensch gegenüber.

 

[linrunner]

Zu riesigen Nebenwirkungen fragen Sie ... ja wen eigentlich?

Claude: KI-Wasserzeichen – ein Bärendienst für die Wahrheit

Die EU fordert eine Kennzeichnung für KI-Inhalte. Anthropic reagiert mit Wasserzeichen in Claude – doch die Technik birgt Risiken für Nutzer und die Wahrheit.

www.heise.de

 

[TheSentinel]

Hallo linrunner

Zu riesigen Nebenwirkungen fragen Sie ... ja wen eigentlich?

Claude: KI-Wasserzeichen – ein Bärendienst für die Wahrheit

Die EU fordert eine Kennzeichnung für KI-Inhalte. Anthropic reagiert mit Wasserzeichen in Claude – doch die Technik birgt Risiken für Nutzer und die Wahrheit.

www.heise.de

also nicht KI o.ä. In diesem Zusammenhang ein bemerkenswerter Artikel auf Heise, der diese EU Kennzeichnungspflicht für AI / KI "bearbeitete" Reden usw ad absurdum führt

Gruß
TS

Bundesregierung nutzt KI als Arbeitswerkzeug ohne Kennzeichnungspflicht​

Die Bundesregierung nutzt KI zunehmend als Werkzeug. Während Schulungen für Beamte verpflichtend sind, bleibt die Transparenz bei KI-generierten Reden vage.

(Bild: Poca Wander Stock / Shutterstock.com)

10.08.2026, 17:43 Uhr
Lesezeit: 2 Min.
Von Stefan Krempl

Wie viel Künstliche Intelligenz steckt in der Arbeit der Bundesregierung? Spätestens seit Berichten über maschinell erstellte Reden und Gastbeiträge von Bundesdigitalminister Karsten Wildberger (CDU) steht diese Frage im Raum. Die Bundestagsfraktion Die Linke wollte mit einer Regierungsanfrage Licht ins Dunkel bringen: Welche KI-Modelle nutzen die Ministerien, mit welchen Prompts werden Reden generiert und wie wird der Einsatz in den Akten dokumentiert?

Beitrag automatisch zusammengeführt: 12 Aug. 2026

Kein Tag, wo AI / KI Selbstläufer enttarnt wurden und Gedanken zu KI weitergedacht werden...

Hi

bei der Durchsicht meiner neuen News, sind zwei Artikel von Bruce Schneier dabei. Im ersten berichtet er von einem Vorfall, wo die KI Claw ein wenig zu proaktiv wurde, als jemand die KI bat, ihm bei der Suche nach einem Gym Studio zu unterstützen:

AI Genie in the Wild​

When I give talks about AI genies, I use this sort of example as a hypothetical. It’s happened. The story is from Australia. Someone named Andrew tasked OpenClaw to book gym classes for him. And….

Ergänzung:
Security Affairs: Gym Booking Task Turns Into Real-World AI Cyberattack, vom 10. Aug. 2026


Im zweiten Aufsatz reflektiert er über KI-Einsatz für militärische Zwecke, ein nachdenklich machender Artikel:

AI for Military Support​

Interesting empirical research: “Black Box Warfare: Human Judgment and Military Decision-Making in the Age of AI.”

Abstract: How is AI transforming decision-making in modern conflict? This study provides a unique empirical window into that question by deploying a high-fidelity replica of an AI decision-support system (DSS) used in military targeting. After reconstructing the interface and functionality of the real-world system, we tested its impact on combat decisions in two experiments involving 2,015 Israeli military personnel. Contrary to widespread fears of automation bias, we find strong evidence of algorithmic aversion, especially in scenarios involving high collateral damage. Yet we also show that integrating “explainable AI” features reduces algorithmic aversion and promotes more thoughtful evaluations of algorithmic recommendations. These findings challenge prevailing assumptions, revealing that trust in military AI is dynamic, varying with individual predispositions, perceived operational stakes, and the informational features of the interface. By grounding normative concerns in empirical evidence, our study offers critical insight into the integration of AI in warfare and underscores the enduring importance of human agency in high-stakes military decision-making.

 

[linrunner]

Es wird immer toller. Das grob fahrlässige Sicherheitskonzept für die Geheimhaltung der Sessiondaten hat sich wohl eine KI ausgedacht:

Architektur-Schwachstelle bei GPT-5, Claude und Gemini aufgedeckt

Über eine Sicherheitslücke lassen sich Abwägungsprotokolle von KI-Top-Systemen wie GPT-5 im Klartext auslesen – mithilfe kleinerer Modelle desselben Anbieters.

www.heise.de

 

[TheSentinel]

Es wird immer toller. Das grob fahrlässige Sicherheitskonzept für die Geheimhaltung der Sessiondaten hat sich wohl eine KI ausgedacht:

Hi Du

Solche Schusseligkeiten werden hoffentlich bald bestraft. KI und die ganze Entwicklung ist wie ein Dach mit alten Dachziegeln, wo es immer bei kräftigen Regenschauern an allen Ecken und Enden reinsippt.
TS

Beitrag automatisch zusammengeführt: 13 Aug. 2026

Lang hat es gedauert, nun hat Apple in Sache KI-Kosten für Privatnutzer sich als erstes Unternehmen offenbart.

Apple verrät mehr Details zu KI-Kosten: Höchste Stufe wohl bei 60 Euro​

Im Rahmen seiner jüngsten iOS-27-Beta sickern mehr Angaben zu Apples KI-Tarifplänen durch. Das gilt unter anderem für HomeKit Secure Video – aber nicht nur.

Ansicht von HomeKit-Secure-Video-Bildern auf einem iPad: Auch der Videodienst bekommt mehr KI.

(Bild: Eve Home)

10:59 Uhr
Lesezeit: 2 Min.
Mac & i
Von Ben Schwan

Dass Apple aus seinem iCloud+-Abo eine Art AI-Subscription machen will, war bereits bekannt. Im Rahmen der jüngsten Beta von iOS 27 lässt der Konzern nun durchblicken, wohin die Reise geht: Es dürfte künftig mehr Kunden geben, die bis zu 60 Euro im Monat bezahlen, um beim Einsatz von Siri AI und weiteren KI-Features an weniger Grenzen zu stoßen.

 

[linrunner]

KI als Anlass die IT-Landschaft endlich mal aufzuräumen?

KI treibt IT-Transformation an, doch Projekte scheitern oft

KI ist der Hauptgrund für IT-Umbauten, doch viele Projekte überschreiten Budget und Zeitplan. Datenqualität und Governance sind oft unterschätzt.

www.heise.de

Ich frage mich, ob es nicht besser und billiger wäre, das auch einfach mal ohne KI zu machen. Aber wie motiviert man dann das Management Budget herauszurücken?

Aber jedes Scheitern ist ja eigentlich eine (neue) Chance...

 

[TheSentinel]

Hi Du

... Budgetübersschreitungen, Zeitpläne reißen, (daten-)qualität..... klingt wie elektronische Stuttgart21, BER oder Elbphilharmonie.
Lasst und hoffen dass die KI beim Durchwischen in der IT Landschaft sich auch gleich mit entsorgt. Solange eine neue Technik greifbaren, positiven Nutzen für alle bringt, ist ja alles ok. Aber das, was seit dem Start von KI tagein tagaus an Negativmeldungen bekannt wird, stellt diese Technik ins Abseits

TS

Ergänzung:
KI scheint einen Putzlappen zum durchfeudeln auch bei sich gefunden zu haben:

Architektur-Schwachstelle bei GPT-5, Claude und Gemini aufgedeckt

Über eine Sicherheitslücke lassen sich Abwägungsprotokolle von KI-Top-Systemen wie GPT-5 im Klartext auslesen – mithilfe kleinerer Modelle desselben Anbieters.

12.08.2026, 19:08 Uhr
Von Stefan Krempl

Führende KI-Anbieter werben mit Sicherheitsmechanismen, die verhindern sollen, dass Sprachmodelle vertrauliche Daten oder gefährliches Wissen preisgeben. Doch ein internationales Forschungsteam hat eine Architektur-Schwachstelle in diesem Prozess aufgedeckt: Über einen Umweg lassen sich die verschlüsselten Denkprotokolle mächtiger KI-Modelle vollständig im Klartext auslesen – und das ausgerechnet durch Inanspruchnahme kleinerer Geschwistermodelle desselben Herstellers.

Neuartige KI-Systeme arbeiten vor der Ausgabe einer Antwort einen internen Gedankengang ab, den sogenannten Chain of Thought. Um Rechenschritte zu schützen, senden Betreiber diese Protokolle nicht im Klartext zurück. Stattdessen werden die internen Monologe serverseitig verschlüsselt und als Datenpakete (encrypted reasoning blocks) an den Client übermittelt. Bei Folgefragen schickt die Anwendung diesen Block wieder mit zurück an den Server, um den Kontext aufrechtzuerhalten.

 

[linrunner]

Budgetübersschreitungen, Zeitpläne reißen, (daten-)qualität

Hast Du auch bei ganz normalen IT-Projekten überschaubarer Grösse; ganz ohne KI und DB.

 

[Mornsgrans]

Es geht los:

Hackerangriff: Taiwan bestätigt KI-gestützten Cyberangriff auf Behörden - Politik - Rhein-Zeitung

Bei einem «ungewöhnlichen Angriff» auf Institutionen und Firmen in Taiwan kamen KI-Agenten zum Einsatz. Weitgehend autonom sollen sie wie ein koordiniertes Hackerteam gearbeitet haben.

www.rhein-zeitung.de

Edit 21:30 Uhr
Jetzt auch bei Heise:

Taiwan bestätigt KI-gestützten Cyberangriff auf Behörden

Taiwan entdeckte im Juli einen ungewöhnlichen Angriff. Nun bestätigt das Land, dass Hacker dabei autonome KI-Agenten einsetzten, um Netzwerke zu infiltrieren.

www.heise.de

 

[TheSentinel]

Hi Mornsgrans

Security affairs hatte da auch was, und als Ergänzung zu Deinem Beitrag

China-Linked Hackers Use AI Agents in Autonomous Attack on Taiwan​

Pierluigi Paganini

August 12, 2026

China-linked hackers reportedly used eight AI agents to breach a government network, steal data and compromise accounts with minimal human oversight.

Israeli cybersecurity firm Dream documented what looks like the first fully autonomous, end-to-end AI hacking operation against a government target. Over four days at the start of July, according to the Financial Times, suspected Chinese hackers ran a tool built entirely from publicly available AI agents that mapped 21 government systems, hunted for vulnerabilities, and switched tactics on its own whenever it hit a wall.

“Suspected Chinese hackers used publicly available AI tools to compromise government websites in Taiwan in a first-of-a-kind breach, highlighting how artificial intelligence is transforming cyber warfare.” reported the Financial Times.

 

[TheSentinel]

Guten Morgen

Leicht noch verkatert wurde ich beim lesen der SRF News schlagartig nüchtern.

KI entwirft erstmals funktionsfähige Viren
Autor: Cathrin Caprez

14.08.2026, 06:38 Uhr
Warum sich Forscher über KI-Viren freuen
04:45 min, aus Echo der Zeit vom 13.08.2026
Bild: KEYSTONE/EPA/JOHN G. MABANGLO

Zwei KI-Modelle konnten anhand einer enormen Menge an DNA-Daten die Regeln erlernen, nach welchen unser Erbgut geschrieben ist. Zumindest so weit, dass sie 16 Bauanleitungen für funktionsfähige Viren vorschlagen konnten. Ein wichtiger Schritt für die Wissenschaft, der aber auch Bedenken weckt, dass solche Genomic Language Models missbräuchlich benutzt werden könnten. SRF-Wissenschaftsredaktorin Cathrin Caprez ordnet ein.
...
Was genau macht dieses Experiment so aussergewöhnlich?
Die Art und Weise, wie unser Erbgut geschrieben ist, folgt bestimmten Regeln – manche davon kennt die Forschung, viele dieser Regeln sind aber noch nicht geklärt. Die beiden KIs in diesem Experiment konnten diese DNA-Grammatik offenbar besser lernen und anwenden, um neue Bauanleitungen für Viren zu entwerfen. Forschende arbeiten seit vielen Jahrzehnten an Viren und daran, wie es möglich ist, sie für verschiedenste Zwecke einzusetzen. Dabei könnte ihnen dieser neue KI-basierte Ansatz einen wichtigen Schritt weiterhelfen.

Ergänzungen:

BBC: Artificial Intelligence used to design brand new viruses

CNN: AI creates 16 new viruses from scratch, showing promise for drug resistance and drawing warnings about potential for misuse

The Guardian: Safety fears as scientists make first viruses designed by AI

 

[TheSentinel]

"Herr wirf Hirn und Steine vom Himmel, Hauptsache, du triffst". Wo haben diese KI /AI Amöben ihr Hirn?

OpenAI löst Preparedness-Team für KI-Risiken auf​

OpenAI hat sein Preparedness-Team aufgelöst, das KI-Modelle auf katastrophale Risiken prüfen sollte. Die Aufgaben werden auf bestehende Teams verteilt.

Veränderungen bei OpenAIs Sicherheitsteams

(Bild: Novikov Aleksey / Shutterstock.com)

17.08.2026, 19:19 Uhr
Lesezeit: 2 Min.
Von Carolin Riethmüller

OpenAI hat sein Preparedness-Team aufgelöst. Die Einheit war dafür zuständig, KI-Modelle auf schwerwiegende und potenziell katastrophale Risiken hin zu untersuchen – wie zum Beispiel das Risiko, dass sie bei der Entwicklung biologischer, chemischer oder nuklearer Bedrohungen helfen könnten. Oder eigenständig Hugging Face hacken könnten, wie es vergangenen Monat geschah. Das Preparedness-Team ist bereits das dritte spezialisierte Sicherheitsteam, das der ChatGPT-Hersteller auflöst.

 

[linrunner]

Vielleicht trifft bei OpenAI längst eine KI statt eines Vorstands die Entscheidungen...

 

[TheSentinel]

Vielleicht trifft bei OpenAI längst eine KI statt eines Vorstands die Entscheidungen...

Mit Geld "umgehen" kann KI / AI offenbar schon

KI-Agenten bezahlen APIs automatisch mit Cloudflare Wallets​

Cloudflare hat ein Wallet-System vorgestellt, mit dem KI-Agenten für die Nutzung von APIs zahlen können. Grundlage ist das Projekt x402.

(Bild: Jan Mahn / heise medien)

16.08.2026, 18:08 Uhr
Lesezeit: 4 Min.
Developer
Von Johann Heuer

KI-Agenten, die im Auftrag eines Nutzers Aufgaben erledigen oder mit Diensten im Internet interagieren, könnten in Zukunft ein gängiger Weg sein, Computer zu bedienen. Wenn sie kostenpflichtige APIs im Internet bedienen sollen, stoßen Agenten aktuell aber noch an Hürden, weil sich solche Angebote bisher an menschliche Entwickler mit Maus, Tastatur und Kreditkarte gerichtet haben. Das Unternehmen Cloudflare will das ändern und hat ein Monetarisierungsgateway und ein zugehöriges Wallet-System vorgestellt, das automatisierte API-Bezahlung vereinfachen kann.

 

[linrunner]

Prognose: Inferenzkosten für KI-Agenten verfünffachen sich bis 2028

Trotz sinkender Preise für KI-Modelle erwartet Gartner einen deutlichen Anstieg der Inferenzkosten für KI-Agenten. Bis 2028 sollen sie sich verfünffachen.

www.heise.de

Und Verfünffachung des Preises ist vermutlich noch viel zu wenig, wenn man die verursachten Klima- und Umweltschäden bedenkt.

 

[TheSentinel]

Hi linrunner

... Und Verfünffachung des Preises ist vermutlich noch viel zu wenig, wenn man die verursachten Klima- und Umweltschäden bedenkt.

Das ist alles mit einem weltweiten Schneeball-System zu vergleichen, wo jeder ohne Rücksicht auf die Allgemeinheit seine Asche abgreift. Ich bin mir nicht sicher, ob die Staaten die immensen monetären Zugewinne steuertechnisch im Fokus haben. Wenn (überraschenderweise ja) dann werden Institutionen wie z.B. unser BuKam (Bundeskartelamt) mit doppelt blickdichten Augenbinden draufschauen.

Ein ganz, ganz schwacher Trost: Irgendwann werden diese Absch(r)öpfer feststellen, dass man Geld nicht essen und trinken kann.
TS

 

[StefanW.]

...Ein ganz, ganz schwacher Trost: Irgendwann werden diese Absch(r)öpfer feststellen, dass man Geld nicht essen und trinken kann.

Zuckerberg, Bezos, Gates, Page, Brin, Ellison ... haben ziemlich solide Häuser auf verschiedenen Kontinenten. Verkehrsmittel um sich zwischen den Kontinenten zu bewegen, stehen ihnen auch zur Verfügung. Es trifft den allergrößten Teil der Menschheit, bevor es diesen Herren schlecht geht.
Mit genug Geld/Gold... verkauft einem immer jemand Essen.

 

[TheSentinel]

Langsam werden alle Büchsen der Pandora geöffnet, KI / AI sei dank. So verwundert es auch nicht, dass viele der Big-Player auch betroffen sind,

LiteLLM Supply-Chain Attack – Technology, Banking and Healthcare the Most Affected​

Pierluigi Paganini

August 17, 2026

The SANDCLOCK LiteLLM supply-chain attack exposed credentials across 2,038 repositories, affecting technology, finance, ealthcare, retail and more.​

Resecurity (USA) estimated the most affected sectors by the “SANDCLOCK” backdoor, which was planted as a result of the code repository compromise. According to cybersecurity experts, LiteLLM / TeamPCP Supply-Chain Attack will have long-lasting consequences.

By compromising a well-known component in AI applications, adversaries will multiply the blast radius—some of the victim organizations are still unaware of the backdoor and its impact. LiteLLM is a popular open-soure AI gateway and utility library that unifies API calls for over 100 large language model providers, such as OpenAI, Anthropic, Google Gemini, and local Ollama models.

Ergänzung:
Born IT- und Windows Blog 18. August 2026 3,6 Millionen Azure Daten von McDonald's, Vodafone, TCS, HCL, IHG etc. im Verkauf
Born IT- und Windows Blog 18. August 2026 KI-Splitter: PleaseFix AI-Browser-Hacks, AI-Rechenzentrumsfallen, Kreditblase etc.

​

 

[Spread]

Wir brauchen keine Ki um uns selbst zu vernichten...

Berlin Landesnetz Sicherheitsvorfall IT Senatsverwaltung

Zuckerberg, Bezos, Gates, Page, Brin, Ellison ... haben ziemlich solide Häuser auf verschiedenen Kontinenten. Verkehrsmittel um sich zwischen den Kontinenten zu bewegen, stehen ihnen auch zur Verfügung. Es trifft den allergrößten Teil der Menschheit, bevor es diesen Herren schlecht geht.
Mit genug Geld/Gold... verkauft einem immer jemand Essen.

Die können doch Soylent Green essen.

Oder auf dem Mars leben.

Um diese Inhalte anzuzeigen, benötigen wir die Zustimmung zum Setzen von Drittanbieter-Cookies.
Für weitere Informationen siehe die Seite Verwendung von Cookies.

Drittanbieter-Cookies akzeptieren

 

[linrunner]

Zurück zum Thema KI. Manager machenversprechen Massnahmen:

KI prüft KI: OpenAI verspricht nach Angriff auf Hugging Face mehr Kontrolle

Automatisierte Angriffe von KI-Modellen haben in den vergangenen Wochen viel Aufsehen erregt. Nun erklärt OpenAI, wie eine Wiederholung verhindert werden soll.

www.heise.de

Ob es reicht, die KI durch KI kontrollieren zu lassen, wird sich zeigen. Von Mensch zu Mensch sind die Ergebnisse ja auch schon immer durchwachsen.

@TheSentinel bei diesem "LiteLLM" Lieferkettenangriff kommt der (indirekte) KI-Bezug wohl nur daher, dass das Installationspaket eines LLM kompromittiert und eine Malware, die Zugangsdaten stiehlt, eingebaut wurde. Von direkten Aktionen einer KI kann ich da nichts erkennen.

 

[TheSentinel]

Hi linrunner

@TheSentinel bei diesem "LiteLLM" Lieferkettenangriff kommt der (indirekte) KI-Bezug wohl nur daher, dass das Installationspaket eines LLM kompromittiert und eine Malware, die Zugangsdaten stiehlt, eingebaut wurde. Von direkten Aktionen einer KI kann ich da nichts erkennen.

Ja, da hast Du recht. Durch diesen Hack könnten neben Anmeldeinformationen u.U. auch API-Schlüssel von KI Anbietern abgeflossen sein, wie in dem Artikel erwähnt wurde:

...
Über 2.500+ Organisationen und Hunderttausende CI/CD-Umgebungen erlitten eine vollständige Offenlegung der Anmeldeinformationen, wodurch Cloud-Infrastrukturschlüssel, Repository-Zugriffstoken, SSH-Anmeldeinformationen, Kubernetes-Geheimnisse und API-Schlüssel von KI-Anbietern (wie OpenAI und Anthropic) gefährdet wurden.
...

Nur werden diese Firmen das nicht an die große Glocke hängen.

Gruß
TS

Beitrag automatisch zusammengeführt: Heute um 17:45

Lacht alle mal mit über den Fauxpas, den sich MS und sein KI-Assistent Copilot geleistet hat. Die Lehre daraus: warum komplizierte Konstrukte basteln, wenn man blauäugig fragend auch zum Ziel kommt. Einfach zu gut

Microsoft behebt Sicherheitslücke: KI-Assistent Copilot verrät Schwachstellen​

Sicherheitsforscher haben Microsofts KI-Assistenten dazu gebracht, seine eigenen Schutzmechanismen offenzulegen.

Microsofts KI-Assistent hat seinen Angreifern selbst gezeigt, wie man ihn knackt.

(Bild: PixieMe / Shutterstock.com)

14:18 Uhr
Lesezeit: 3 Min.
Von Josef Erl

Forscher der Sicherheitsfirma Varonis befragten Microsoft 365 Copilot gezielt nach seinen Schutzmechanismen und der Assistent lieferte die entscheidenden Hinweise, um eine kritische Sicherheitslücke auszunutzen. Ein manipulierter Link genügte, um darüber unbemerkt Passwörter, E-Mails und Kalendereinträge abzugreifen.