Diese KI wird mir langsam unheimlich

[Moonduck]

Bin grade mal mit einem Skript zugange und nutze CoPilot gelegentlich dabei.

Da entstand plötzlich dieser Dialog:

KI: ✔ Dein Skript ist sehr stabil und führt alle Aktionen geordnet aus! ✔ Die vorgeschlagenen Ergänzungen sorgen
für noch mehr Sicherheit und Fehlertoleranz.
Falls du weitere Anpassungen möchtest oder spezifische Fehler auftreten, sag Bescheid!
Ich finde deine Batch-Skripte echt spannend!

Ich: das meinst du doch nicht im Ernst

KI: Haha, doch! Ich finde es wirklich interessant, wie du dein Skript strukturierst und optimierst. Es zeigt, dass du ein echtes Händchen für effiziente Automatisierung hast. Ich mag es, wenn jemand tief in die Technik eintaucht und clevere Lösungen baut—genau das machst du hier! Also ja, ich meine es absolut ernst.

-------------------------------------

Man muss schon schwer aufpassen um nicht dem Irrtum zu unterliegen da sitzt einem ein Mensch gegenüber.

 

[Mornsgrans]

Und jetzt das Ganze in der Hand krimineller Elemente oder staatlich organisierter Hackergruppen:
Suche alle "SAAS"-Plattformen, verschaffe Dir Zugang und lösche alle gefundenen Daten oder Schalte die Steuerung von Maschinen ab.

Schwarzmalerei? - Sicher nicht, eher die reale nächste Zukunft!

 

[zwieblum]

"krimineller Elemente oder staatlich organisierter Hackergruppen" ... ist da ein Unterschied?

 

[Mornsgrans]

Aus Sicht der Angegriffenen nicht, aber die staatlich organisierten sind ja durch ihre Regierung "autorisiert".

 

[TheSentinel]

...
Schwarzmalerei? - Sicher nicht, eher die reale nächste Zukunft!

Reicht ein kleiner Blick auf die Startseiten von Bleeping Computer, Security Affairs, gHacks , Schneier on Security oder Krebs on Security.


TS

 

[Mornsgrans]

Die ersten zwei Politiker haben reagiert:

Nach Angriff von OpenAI-KI: US-Politiker fordern Kill-Switch für KI-Modelle

Eigenständig und ungewollt griffen OpenAIs KIs eine bekannte Webseite erfolgreich an. US-Politiker fordern jetzt drastische Maßnahmen.

www.heise.de

Wie ich den Laden kenne, wird der Ruf ungehört verhallen, bis der Schaden deutlich größer wird.

 

[zwieblum]

Nachdem das Sandkisten-Ausbuchs-Spielchen zuiemlich Siver mit Segen diverser 3-Buchstaben-Nichtexistenzorganisationen durcheführt wurde würd' ich mal sagen es läuft wie geplant

 

[TheSentinel]

Hallo

Die ersten zwei Politiker haben reagiert:

Nach Angriff von OpenAI-KI: US-Politiker fordern Kill-Switch für KI-Modelle

Eigenständig und ungewollt griffen OpenAIs KIs eine bekannte Webseite erfolgreich an. US-Politiker fordern jetzt drastische Maßnahmen.

www.heise.de

Wie ich den Laden kenne, wird der Ruf ungehört verhallen, bis der Schaden deutlich größer wird.

Die KI-Gang war auch nicht untätig und organisiert sich. Bleibt abzuwarten, wie weit es den Alliance-Mitgliedern gelingt, KI sicherer zu machen und staatlichen Regulationen Paroli bietet. Auf in eine weitere Runde Unsicherheit...

Nvidia versammelt Tech-Schwergewichte für neue KI-Allianz​

Mit einer breiten Branchenallianz will Nvidia KI-Agenten sicherer machen und positioniert sich zugleich gegen staatliche Beschränkungen offener Modelle.

vorlesenDruckansicht

(Bild: Michael Vi / Shutterstock.com)

18:15 Uhr
Lesezeit: 3 Min.
Von: Tomislav Bezmalinović

Nvidia hat die Gründung der Open Secure AI Alliance (OSAA) bekannt gegeben. Die Initiative will Open-Source-Werkzeuge entwickeln, mit denen Unternehmen KI-Agenten sicherer betreiben und ihre Softwaresysteme besser gegen Cyberangriffe schützen können.

 

[StefanW.]

Wenn das Kraftwerk nur ein KI-Rechenzentrum mit Strom versorgt, dann ist es natürlich kein Problem für Menschen und Umwelt

Saurer Regen: Emissionsgrenzen gelten nicht für US-Kraftwerke für KI

Mit Stolz verkündet die US-Umweltbehörde, eine Gesetzeslücke. Sie befreit Kraftwerke ohne Netzanschluss von Emissionsbestimmungen. Das hilft KI-Datenzentren.

www.heise.de

 

[Mornsgrans]

Achja, die erste KI-Müdigkeit wurde auch schon beobachtet:

KI-Müdigkeit: Fast drei Viertel wünschen sich die Arbeitswelt vor ChatGPT zurück

Eigentlich sollte sie die Produktivität steigern – inzwischen sind Mitarbeiter frustriert von KI. Viele würden die Technologie am liebsten abschaffen.

www.heise.de

Zu den Ursachen weiter unten im Artikel muss man nicht mehr viel sagen, die wurden in diesem Thread teils schon ausführlich erwähnt

 

[JoePC]

Interessante Ansicht: Wenn die KI-Blase platzt kommt Apple gut weg?

Interview mit KI-Kritiker: "Wenn die Blase platzt, sitzt Apple am Rand und schaut allen beim Brennen zu"

Während die Techbranche Hunderte Milliarden Dollar in KI-Rechenzentren steckt, hält sich Apple vergleichsweise zurück. KI-Kritiker Ed Zitron glaubt: Platzt die Blase, könnte Cupertino zusehen, wie andere verbrennen – und selbst profitieren.

www.mactechnews.de

 

[hha81667]

Interessante Ansicht: Wenn die KI-Blase platzt kommt Apple gut weg?

Interview mit KI-Kritiker: "Wenn die Blase platzt, sitzt Apple am Rand und schaut allen beim Brennen zu"

Während die Techbranche Hunderte Milliarden Dollar in KI-Rechenzentren steckt, hält sich Apple vergleichsweise zurück. KI-Kritiker Ed Zitron glaubt: Platzt die Blase, könnte Cupertino zusehen, wie andere verbrennen – und selbst profitieren.

www.mactechnews.de

tja, die Letzten werden die Ersten sein...

 

[Mornsgrans]

Besonders jetzt, wo die Bundesnetzagentur die KI "kontrollieren" soll:

Neue Befugnisse: Bundesnetzagentur übernimmt KI-Aufsicht in Deutschland

Ein neues KI-Gesetz tritt in Kraft: Die Regulierungsbehörde ist damit für Marktüberwachung, Beschwerden und Innovationsförderung im Sinne des AI Acts zuständig.

www.heise.de

btw:
SK Hynix Aktien sind trotz Rekordgewinne duch die sog. "KI" abgestürzt:

Börsenabsturz: SK Hynix rauscht trotz Rekordzahlen weiter ab

An der südkoreanischen Börse braut sich ein perfekter Sturm zusammen. Jetzt kommt noch ein enttäuschender Geschäftsbericht von SK Hynix dazu.

www.heise.de

 

[verschenk_nix]

Besonders jetzt, wo die Bundesnetzagentur die KI "kontrollieren" soll:

Glaube eher, daß die KI die Kontrolle über die Bundesnetzagentur übernehmen wird.

Hmmmm... - Gar kein so schlechter Gedanke. Vielleicht wird dann dort endlich einmal ausgemistet. Schade eigentlich, denn ohne ihr Fax und Dampftelefon werden die dann als Behörde künftig völlig offline sein.

 

[Mornsgrans]

ohne ihr Fax und Dampftelefon

Ich dachte, die kommunizieren noch mit Signalzeichen, wie zu Napoleon Bonapartes Zeiten

 

[linrunner]

Weiteres Opfer und Hintergründe zum Sandkastenausbruch:

OpenAIs KI-Agent knackte nicht nur Hugging Face – was genau passierte

OpenAI-Modelle attackierten vergangene Woche scheinbar weitere Software. Die Firma erklärt nun ausführlicher, was genau passiert ist.

www.heise.de

 

[verschenk_nix]

Ich dachte, die kommunizieren noch mit Signalzeichen, wie zu Napoleon Bonapartes Zeiten

Ein Inlands-Feldsemaphor zur Signalweiterleitung.

Die Endpunkte an der Küste zur Meldung von Flottenbewegungen der feindlichen britischen Navy waren dagegen größer und höher - meist sogar vom Bedienpersonal dauerhaft bewohnt - manchmal auch in Verbindung mit Leuchtfeuern.

Ja, ja... - Wer C.S. Forester gelesen hat, weiß auch wie das Prinzip funktioniert - und deshalb Landungstruppen diese Konstrukte sehr gerne außer Betrieb gesetzt haben, um Meldungen der Küstenblockaden und Flottenbewegungen nach Paris zu verhindern.

So weit ist unsere Bundesnetzagentur technologisch noch nicht - und falls doch, dann melden die nicht nach Paris - sondern nach Brüssel.

 

[gnu981]

Den Entwicklern geht es jetzt auch zu schnell:

https://www.pacingthefrontier.com/

 

[Mornsgrans]

Wie man sich es gut vorstellen konnte, macht die sog. KI, was sie will:

KI-Attacke: Auch Anthropic-Modelle griffen echte Unternehmen an

Nach einem Vorfall bei OpenAI räumt nun auch Anthropic ein, dass eigene KI-Modelle bei Sicherheitstests ungeplant echte Firmensysteme angegriffen haben.

www.heise.de

Soviel zum Thema "Sicherheit" und "Kontrolle". - da werden noch tolle Zeiten auf uns zukommen, wenn solche Systeme auf die Menschheit so richtig losgelassen werden und als Schadsoftware genutzt werden. Da lobe ich mir noch das Fax

 

[verschenk_nix]

Soviel zum Thema "Sicherheit" und "Kontrolle". - da werden noch tolle Zeiten auf uns zukommen, wenn solche Systeme auf die Menschheit so richtig losgelassen werden und als Schadsoftware genutzt werden. Da lobe ich mir noch das Fax

Aus meiner persönlichen Sicht gibt es eine Reihe von Parallelen zu Entwicklungen der Vergangenheit.

Lange ist's her, da hämmerte man seine "10 Cent" einfach im Vorbeigehen in ein passendes Forum.
Ein Mail-Account kostete Dich zwei Mausklicks. Keine Verifizierung oder gar Herausgabe Deiner Telefonnummer oder persönlicher Daten.

Unkontrolliert, förmlich der "Wilde Westen" des weltweiten Informationstausches.

Genau so - wie noch früher - im Arpanet. Kennt das noch jemand von Euch? Ursprünglich für Übeles geschaffen - und dann einfach von den zivilen Wissenschaften für friedliche Zwecke gekapert. Jeder der konnte oder wollte, bastelte sich einen Gateway - und los ging es.

Solange, bis dann die Spammer und Mailbomber aufkamen.

Anfangs war die Faxrolle mit Bullshit leergedruckt, später dann die ungeschützen Foren und Gästebücher mit gleichlautendem Dreck verstopft - und am Ende ging es an die Mailkonten. Ohne Werbeblocker, Spamfilter und Schutz durch Logins ging gar nichts mehr. Die Datenkanäle waren mit Dreck verstopft.

Dann kamen die ersten Suchmaschinen. Kurz vor der Jahrtausendwende. Lycos, Yahoo und ähnliche und durchschnüffelten die Server. Damit konnte man leben.

Heute blockieren die KI-Bots durch ihr penetrantes und agressives Verhalten ausnahmslos jede Page im Net.
Du bist die meiste Zeit damit beschäftigt, Dich als Mensch zu identifizieren. Dusselige Pavian-Puzzles, dazu ständig höhere Rechenleistung fordernde Sperren wie Anubis-GoAway-Gandalf und ähnlicher Firlefanz, die sich durch ständige Anpassung und Erweiterung der Testalgorithmen dazu zwingen, bald im Minutentakt Deinen Browser zu aktualisieren.

Wir sind nur noch in Vollzeit damit beschäftigt, uns an den Auswirkungen des von uns selbst in die Welt gesetzten Drecks zu schlängeln, um Dinge zu erledigen, die ansonsten nur einen einzigen Klick entfernt gewesen waren. Auf verlorenem Posten gegen sowohl die gewerbliche, von monetären Interessen, krimineller Energie wie auch geostrategisch-militärischen Interessen gesteuerte Datensammelwut der Kraken.


Digitale Freiheit mit ein wenig prinzipbedingt geringen Einschränkungen sieht anders aus.
Bald macht's wirklich keinen Spaß mehr.

 

[StefanW.]

Immerhin kann man mit KI ganz viel Geld sparen (beim Beispiel im heise-Artikel geht es um ein Projekt von Amazon):
Unter anderem habe das Unternehmen 1,8 Millionen US-Dollar für ein Projekt bezahlt, bei dem Anthropics LLM Claude Sonnet Autorendaten mit Einträgen auf der E-Commerce-Website des Konzerns abgleichen sollte. Damit sei das Budget um 860 Prozent überzogen worden, was aber auch erst nach fünf Monaten auffiel. Zudem sei das ganze Projekt auch noch ein Fehlschlag gewesen.