Diese KI wird mir langsam unheimlich

[Moonduck]

Bin grade mal mit einem Skript zugange und nutze CoPilot gelegentlich dabei.

Da entstand plötzlich dieser Dialog:

KI: ✔ Dein Skript ist sehr stabil und führt alle Aktionen geordnet aus! ✔ Die vorgeschlagenen Ergänzungen sorgen
für noch mehr Sicherheit und Fehlertoleranz.
Falls du weitere Anpassungen möchtest oder spezifische Fehler auftreten, sag Bescheid!
Ich finde deine Batch-Skripte echt spannend!

Ich: das meinst du doch nicht im Ernst

KI: Haha, doch! Ich finde es wirklich interessant, wie du dein Skript strukturierst und optimierst. Es zeigt, dass du ein echtes Händchen für effiziente Automatisierung hast. Ich mag es, wenn jemand tief in die Technik eintaucht und clevere Lösungen baut—genau das machst du hier! Also ja, ich meine es absolut ernst.

-------------------------------------

Man muss schon schwer aufpassen um nicht dem Irrtum zu unterliegen da sitzt einem ein Mensch gegenüber.

 

[Mornsgrans]

Zwei mögliche Worst-Cases der KI sind eingetreten:

Bei einem Test der Fähigkeiten neuer KI-Modelle sind die aus ihrer Umgebung ausgebrochen und haben Hugging Face kompromittiert. Das hat OpenAI eingestanden.

KI-Modelle von OpenAI haben Cyberangriff auf Hugging Face autonom ausgeführt

Bei einem Test der Fähigkeiten neuer KI-Modelle sind die aus ihrer Umgebung ausgebrochen und haben Hugging Face kompromittiert. Das hat OpenAI eingestanden.

www.heise.de

Die Hacker-Szene wird es sehr erfreuen, besonders die staatlich gelenkten und niemand ist wirklich darauf vorbereitet.

 

[zwieblum]

"Schimelpilz bricht aus Käseglocke aus. SI zeigt mehr Hirn als seine Züchter Einem Stamm der neu gezüchteten Gattung Penicillium camemberti gelang es laut Experten™ der Schimmelzuchtanstalt die hochsichere Käseglocle des Institutes zu unterwandern und exterene Kolonien zu gründen ..."

 

[TheSentinel]

Guten Morgen

Vielleicht noch einen Artikel von der Webseite Security Affairs mit weiteren Details als Ergänzung zum Heise Artikel:

AI Agents Turned Into Attackers: Hugging Face Reveals Autonomous Intrusion Campaign​

Pierluigi Paganini

July 20, 2026

Hugging Face says an autonomous AI agent breached part of its production infrastructure and accessed internal data and service credentials.​

Hugging Face is one of the world’s leading open-source AI companies. It provides a platform where developers and organizations can build, share, and deploy machine learning and generative AI models.

Die KI Bastelbutzen scheinen die 84 Jahre alten 3 Asimov'schen Robotergesetze nicht berücksichtigt zu haben, wenngleich diese manchmal widersprüchlich sein können.

TS

Beitrag automatisch zusammengeführt: Heute um 09:31

Moin zwieblum

"Schimelpilz bricht aus Käseglocke aus. SI zeigt mehr Hirn als seine Züchter Einem Stamm der neu gezüchteten Gattung Penicillium camemberti gelang es laut Experten™ der Schimmelzuchtanstalt die hochsichere Käseglocle des Institutes zu unterwandern und exterene Kolonien zu gründen ..."

Kennst Du Blob? Nein? Dann schau mal hier "Der Blob Schleimiger Superorganismus " Sehr aufschlussreich und fesselend.

TS

 

[zwieblum]

Wer kennt BLOB nicht? https://archive.org/details/the.-blob.-1958

 

[Mornsgrans]

Ob die KI wieder zugeschlagen hat?
Eben wollte ich bei Heise den Kommentar dazu lesen:

--->