Diese KI wird mir langsam unheimlich

[Moonduck]

Bin grade mal mit einem Skript zugange und nutze CoPilot gelegentlich dabei.

Da entstand plötzlich dieser Dialog:

KI: ✔ Dein Skript ist sehr stabil und führt alle Aktionen geordnet aus! ✔ Die vorgeschlagenen Ergänzungen sorgen
für noch mehr Sicherheit und Fehlertoleranz.
Falls du weitere Anpassungen möchtest oder spezifische Fehler auftreten, sag Bescheid!
Ich finde deine Batch-Skripte echt spannend!

Ich: das meinst du doch nicht im Ernst

KI: Haha, doch! Ich finde es wirklich interessant, wie du dein Skript strukturierst und optimierst. Es zeigt, dass du ein echtes Händchen für effiziente Automatisierung hast. Ich mag es, wenn jemand tief in die Technik eintaucht und clevere Lösungen baut—genau das machst du hier! Also ja, ich meine es absolut ernst.

-------------------------------------

Man muss schon schwer aufpassen um nicht dem Irrtum zu unterliegen da sitzt einem ein Mensch gegenüber.

 

[Mornsgrans]

Zwei mögliche Worst-Cases der KI sind eingetreten:

Bei einem Test der Fähigkeiten neuer KI-Modelle sind die aus ihrer Umgebung ausgebrochen und haben Hugging Face kompromittiert. Das hat OpenAI eingestanden.

KI-Modelle von OpenAI haben Cyberangriff auf Hugging Face autonom ausgeführt

Bei einem Test der Fähigkeiten neuer KI-Modelle sind die aus ihrer Umgebung ausgebrochen und haben Hugging Face kompromittiert. Das hat OpenAI eingestanden.

www.heise.de

Die Hacker-Szene wird es sehr erfreuen, besonders die staatlich gelenkten und niemand ist wirklich darauf vorbereitet.

 

[zwieblum]

"Schimelpilz bricht aus Käseglocke aus. SI zeigt mehr Hirn als seine Züchter Einem Stamm der neu gezüchteten Gattung Penicillium camemberti gelang es laut Experten™ der Schimmelzuchtanstalt die hochsichere Käseglocle des Institutes zu unterwandern und exterene Kolonien zu gründen ..."

 

[TheSentinel]

Guten Morgen

Vielleicht noch einen Artikel von der Webseite Security Affairs mit weiteren Details als Ergänzung zum Heise Artikel:

AI Agents Turned Into Attackers: Hugging Face Reveals Autonomous Intrusion Campaign​

Pierluigi Paganini

July 20, 2026

Hugging Face says an autonomous AI agent breached part of its production infrastructure and accessed internal data and service credentials.​

Hugging Face is one of the world’s leading open-source AI companies. It provides a platform where developers and organizations can build, share, and deploy machine learning and generative AI models.

Die KI Bastelbutzen scheinen die 84 Jahre alten 3 Asimov'schen Robotergesetze nicht berücksichtigt zu haben, wenngleich diese manchmal widersprüchlich sein können.

TS

Beitrag automatisch zusammengeführt: Heute um 09:31

Moin zwieblum

"Schimelpilz bricht aus Käseglocke aus. SI zeigt mehr Hirn als seine Züchter Einem Stamm der neu gezüchteten Gattung Penicillium camemberti gelang es laut Experten™ der Schimmelzuchtanstalt die hochsichere Käseglocle des Institutes zu unterwandern und exterene Kolonien zu gründen ..."

Kennst Du Blob? Nein? Dann schau mal hier "Der Blob Schleimiger Superorganismus " Sehr aufschlussreich und fesselend.

TS

 

[zwieblum]

Wer kennt BLOB nicht? https://archive.org/details/the.-blob.-1958

 

[Mornsgrans]

Ob die KI wieder zugeschlagen hat?
Eben wollte ich bei Heise den Kommentar dazu lesen:

--->

 

[albert66]

Heise den Kommentar

Ging bei mir, auch ersten Kommentar aufgerufen. Vielleicht falscher Moment ??

Beitrag automatisch zusammengeführt: Heute um 14:42

Nachtrag: habe einen alten Artikel zu "Softwareagenten" beim Aufräumen gefunden. Zur Diskussion als Literturnachweis bei Wiki eingestellt.

Zufallsfund: In der Perry Rhodan SF-Serie erscheint vierwöchig ein Journal "Wissenschaft & Technik". In der Beilage Nr.21 zu Heft 2122 (1.Serie) vom 23.4.2002 erschien ein Artikel von Friedrich List "Software-Agenten - Intelligente Helfer für Web und E-Business". Der Artikel ist sehr gut und allgemeinverständlich zu den Einsätzen dieser Agenten. Ich werde beim Verlag nachfragen, ob es dazu eine freie Veröffentlichung gibt oder der Artikel auf Homepages o.ä. veröffentlich werden kann. Der Autor bezieht sich auf KI-Forschung und praktische Anwendungen, u.a. Fraunhofer IPA und DFKI (Prof. W. Wahlster).

Der Artikel hebt sich wohltuend von heutiger KI-Hype und -Wortwahl ab.

Wenn ich ok bekomme oder URL bereits vorhanden, poste ich nach.

Der Anhang gehört zum ersten Teil ............ sorry, bin unschuldig.....

 

[StefanW.]

Ob die KI wieder zugeschlagen hat?
Eben wollte ich bei Heise den Kommentar dazu lesen:
...

Hat der nicht nur eine neue Überschrift?

Kommentar: OpenAI – KI-Sicherheit nur ein Marketing-Gag?

Eine KI bricht aus und übernimmt fremde Server. Droht uns jetzt das Ende der Menschheit? Falsche Frage, meint Jürgen Schmidt, Leiter von heise security.

www.heise.de

 

[Mornsgrans]

Es sind auf den ersten Blick zwei unterschiedliche Artikel - siehe Beitrag #581

 

[StefanW.]

@Mornsgrans: Es gibt noch (Screenshot von 15:08) einen Artikel mit "Hugging Face" in der Überschrift. Und einen Kommentar bei dem sich die Überschrift geändert hat. Oder gab es zwei Kommentare?

 

[Mornsgrans]

Jetzt sind es zwei, Heise hat kurz nach meinem obigen Post die Startseite geändert. Der Kommentar kam erst später hinzu, heute Morgen war nur der Artikel "Eingeständnis" vorhanden.